Artikel 50 EU AI Act: Transparenzpflichten für alle KI-Systeme

Art. 50 EU AI Act definiert vier spezifische Transparenzpflichten: (1) Chatbot-Disclosure: Natürliche Personen müssen informiert werden, wenn sie mit einem KI-System (nicht mit einem Menschen) interagieren. (2) Deepfake-Kennzeichnung: KI-generierte oder manipulierte Audio-, Bild- oder Videoinhalte müssen als KI-generiert gekennzeichnet sein. (3) KI-generierter Text: Synthetische Texte, die in öffentlichem Interesse relevant sind, müssen als KI-generiert erkennbar sein. (4) Emotionserkennung und Biometrie: Personen müssen informiert werden, wenn ihre Emotionen oder biometrischen Daten analysiert werden. Die Pflichten richten sich an Anbieter und Betreiber – die Zuordnung ist je nach Pflicht unterschiedlich.

Art. 50 Abs. 1: Betreiber von KI-Systemen, die zur direkten Interaktion mit natürlichen Personen bestimmt sind (Chatbots, virtuelle Assistenten), müssen sicherstellen, dass Personen über den KI-Charakter der Interaktion informiert sind. Die Pflicht entfällt, wenn der KI-Charakter offensichtlich ist. Praktische Umsetzung: Zu Beginn der Interaktion klar kommunizieren: "Sie sprechen mit einem KI-Assistenten" oder ähnlich. Im Webdesign sollte das KI-Element visuell hervorgehoben sein. Für Telefonbots: Hinweis zu Beginn des Anrufs. Eine nachträgliche Disclosure ist nicht ausreichend.

Art. 50 Abs. 4: Anbieter, die KI-Systeme einsetzen, um Audio-, Bild-, Video- oder Textinhalte zu erzeugen oder zu manipulieren, müssen die Outputs maschinenlesbar kennzeichnen. Das AI Office entwickelt technische Standards für die Kennzeichnung (Wasserzeichen, Metadaten). Ausnahmen: Für legitime künstlerische, kreative, satirische oder journalistische Zwecke mit Disclosure, oder wenn eine KI-Kennzeichnung den Inhalt unzumutbar beeinträchtigen würde. Relevant für: Marketing-Content, KI-generierte Bilder, KI-Nachrichtenartikel, Audio-Deepfakes.

Art. 50 Abs. 3: Betreiber, die KI-Systeme zur Emotionserkennung oder biometrischen Kategorisierung einsetzen, müssen die betroffenen Personen vor Beginn der Verarbeitung informieren. Die Pflicht gilt für: Mitarbeiterüberwachung mit Emotionsanalyse, Stimmungsanalyse in Kundeninteraktionen, biometrische Zugangskontrolle mit Kategorisierung. Die Information muss enthalten: dass Emotionserkennung stattfindet, welche Emotionen erkannt werden, welche Konsequenzen dies hat. Ergänzend gelten DSGVO-Anforderungen für die Verarbeitung biometrischer Daten (Art. 9 DSGVO).

Art. 50-Verstöße sind bußgeldbewehrt: Verstöße gegen Transparenzpflichten (Art. 50) können mit bis zu 15 Millionen Euro oder 3% des weltweiten Jahresumsatzes geahndet werden. Die Enforcement-Behörden unterscheiden dabei zwischen technischen Verstößen (formale Kennzeichnungsfehler) und systematischen Verschleierungen (bewusste Täuschung). Letztere werden härter geahndet. Compliance-Maßnahmen: Führen Sie ein Inventar aller Art. 50-relevanten KI-Systeme, implementieren Sie Disclosure-Texte und -Mechanismen, testen Sie regelmäßig die Sichtbarkeit und Verständlichkeit der Disclosures.