Neue EU-Leitlinien zu Art. 50 KI-VO: Mehr Klarheit für Unternehmen bei Deepfakes und KI-Texten 

Ab dem 2. August 2026 gelten die Transparenzpflichten nach Art. 50 der europäischen KI-Verordnung. Kurz vor diesem Stichtag hat die Europäische Kommission neue Leitlinien veröffentlicht. Diese konkretisieren auf rund 50 Seiten, wann Unternehmen als Betreiber eines KI-Systems dessen Einsatz offenlegen oder KI-generierte Inhalte kennzeichnen müssen.

Die Leitlinien sind rechtlich nicht bindend, geben Unternehmen und Aufsichtsbehörden aber eine wichtige Orientierung für die Anwendung des Art. 50 KI-VO. Besonders relevant sind die ausführlichen Erläuterungen zur Kennzeichnung von Deepfakes. 

Wann liegt ein Deepfake vor?

Als Deepfake gelten KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich authentisch oder wahr erscheinen können. Nach den Leitlinien können hierzu auch realistisch KI-generierte menschliche Avatare oder Personas zählen.

Die Leitlinien machen deutlich, dass der Begriff weiter reicht als manipulierte Videos von Politikern oder prominenten Personen. Auch typische Inhalte der Unternehmenskommunikation und Werbung können erfasst werden.

Als mögliche Deepfakes nennt die Kommission unter anderem:
 

• einen realistischen KI-Avatar eines Geschäftsführers, der sich vermeintlich an die Beschäftigten wendet;  
• die synthetisch erzeugte Stimme eines bekannten Sprechers;  
• ein KI-generiertes Video einer prominenten Person oder eines Influencers;  
• einen virtuellen Influencer, der ein Produkt bewirbt;  
• eine realistisch KI-generierte Produktdarstellung, wenn sie das Publikum über das tatsächliche Aussehen, die Eigenschaften, die Verwendung oder die Authentizität der Darstellung irreführen kann.

Eine Täuschungsabsicht des Unternehmens ist nicht erforderlich. Entscheidend ist, ob der Inhalt aus Sicht des vorhersehbaren Publikums fälschlich authentisch oder wahr erscheinen kann. Unternehmen müssen daher insbesondere bei realistischen KI-Avataren, Voice Cloning sowie KI-generierten Werbe- und Produktdarstellungen genauer prüfen.

Nicht jede KI-gestützte Bearbeitung ist jedoch ein Deepfake. Gewöhnliche Farbkorrekturen, Rauschunterdrückung, Lautstärkeanpassungen oder geringfügige Änderungen des Hintergrunds werden regelmäßig nicht erfasst, sofern sie die Wahrnehmung der Authentizität oder Wahrheit des Inhalts nicht wesentlich verändern.

Wie müssen Deepfakes gekennzeichnet werden?
 

Setzt ein Unternehmen ein KI-System unter eigener Verantwortung ein, um einen Deepfake zu erzeugen oder zu manipulieren, muss es den künstlichen Ursprung des Inhalts klar und für Menschen wahrnehmbar offenlegen. Eine ausschließlich technische Kennzeichnung in den Metadaten genügt für die Betreiberpflicht nicht.

Abhängig vom Medium kommt beispielsweise ein sichtbarer Hinweis am Bild oder Video, eine Einblendung zu Beginn eines Beitrags oder ein hörbarer Hinweis bei Audioinhalten in Betracht. Die Information muss spätestens erfolgen, wenn das Publikum dem Inhalt erstmals ausgesetzt ist.

Für offensichtlich künstlerische, kreative, satirische oder fiktionale Inhalte gelten erleichterte Anforderungen. Auch hier muss der künstliche Ursprung grundsätzlich offengelegt werden. Der Hinweis darf jedoch so gestaltet sein, dass er die Darstellung oder den Genuss des Werkes nicht unangemessen beeinträchtigt. Bei Werbung, journalistischen Inhalten oder Dokumentationen kann diese Erleichterung nicht ohne Weiteres beansprucht werden.

Weitere Betreiberpflichten
 

Neben Deepfakes behandeln die Leitlinien weitere Transparenzpflichten für Betreiber. Unternehmen müssen betroffene Personen insbesondere über den Einsatz von Systemen zur Emotionserkennung oder biometrischen Kategorisierung informieren.

Auch bestimmte KI-generierte oder manipulierte Texte müssen gekennzeichnet werden, wenn sie veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Eine Kennzeichnung kann entfallen, wenn eine tatsächliche menschliche oder redaktionelle Kontrolle stattgefunden hat und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.

Was bedeutet das für Unternehmen?
 

Die Leitlinien bestätigen, dass Art. 50 KI-VO keine pauschale Kennzeichnung jedes KI-Einsatzes verlangt. Bei realistischen KI-generierten Bildern, Videos und Stimmen kann die Grenze zum kennzeichnungspflichtigen Deepfake allerdings schneller überschritten sein, als viele Unternehmen bislang angenommen haben.

Unternehmen sollten die Leitlinien daher zum Anlass nehmen, ihre Freigabeprozesse für KI-generierte Marketingmaterialien, Produktdarstellungen, Avatare und Unternehmenskommunikation zu überprüfen.

Die neuen Leitlinien in englischer Sprache finden Sie hier.

Fazit
 

Für Betreiber führt Art. 50 KI-VO nicht zu einer allgemeinen Kennzeichnungspflicht für jeden KI-Einsatz. Unternehmen müssen insbesondere über den Einsatz von Emotionserkennung und biometrischer Kategorisierung informieren sowie Deepfakes und bestimmte KI-generierte Texte offenlegen.

Ob eine Pflicht besteht, hängt vom konkreten Inhalt, seinem Verwendungszweck und der Art der Veröffentlichung ab. Unternehmen sollten deshalb klare Prüf- und Freigabeprozesse etablieren. Die Leitlinien der Kommission sind zwar nicht rechtlich bindend, bieten für diese Einzelfallprüfung aber eine wichtige Orientierung.

Wie Bitkom Consult unterstützt
 

Bitkom Consult unterstützt Sie bei der Prüfung Ihrer KI-Anwendungsfälle, der Entwicklung geeigneter Kennzeichnungs- und Freigabeprozesse sowie bei der Einbindung der Transparenzpflichten in Ihre KI-Richtlinie und Compliance-Organisation.

Sie möchten prüfen, welche Inhalte in Ihrem Unternehmen ab dem 2. August 2026 gekennzeichnet werden müssen? Schreiben Sie uns gern an datenschutz@bitkom-consult.de.