Kennzeichungspflicht für KI-Inhalte: Was gilt für Deep­fakes & Co?

Am 2. August 2026 wird ernst, was die Verordnung über künstliche Intelligenz (KI-VO) seit zwei Jahren ankündigt: Die Transparenzpflichten ihres Artikels 50 gelten. Anders als die komplexen Pflichten für Hochrisiko-Systeme, deren Anwendung der sogenannte "Digital Omnibus on AI" nun auf Ende 2027 verschiebt, greifen diese Pflichten wie ursprünglich geplant ab August. Und ihre Einhaltung lässt sich in vielen Fällen direkt und einfach von außen prüfen – mit bloßem Auge.

Wer ein Video sieht und kein Label findet, hat bereits den ersten Anhaltspunkt für einen Verstoß. Die Durchsetzung dieser Pflichten wird daher zügig erfolgen, zumal auch die Bundesnetzagentur zeitnah ihr Vollzugsmandat erhalten dürfte. Der Bundestag hat dem Durchführungsgesetz am 11. Juni 2026 in dritter Beratung zugestimmt.

Art. 50 KI-VO wird zum praktischen Einfallstor für Beschwerden, die jede betroffene Person bei der Marktüberwachungsbehörde einlegen kann, und wohl auch für Abmahnungen. Kommt es zu einem Bußgeld, sind die Sanktionen empfindlich: bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes sieht Art. 99 Abs. 4 KI-VO vor.

Wer jetzt glaubt, ein beiläufiger Hinweis auf KI-Generierung genüge, irrt. Die am 8. Mai 2026 veröffentlichten Leitlinienentwürfe der Kommission ("LL-E") und der begleitende Code of Practice on Transparency of AI-Generated Content vom 10. Juni 2026 ("CoP") buchstabieren aus, wie genau zu kennzeichnen ist. Die Anforderungen gehen im Detail an vielen Stellen über das hinaus, was bei pragmatischer Auslegung des Art. 50 KI-VO erwartet wurde. Einiges spricht dafür, dass sich die Leitlinien der Kommission zu den Transparenzpflichten und der Code of Practice zum Marktstandard entwickeln werden.

Anbieter und Betreiber sind nicht dasselbe

Vor dem Blick auf das "Wie" der Kennzeichnung, ist zu klären, wer überhaupt was kennzeichnen muss. Art. 50 KI-VO verteilt die Lasten sehr unterschiedlich zwischen Anbietern und Betreibern.

Anbieter entwickeln das KI-System und bringen es unter eigenem Namen in Verkehr (Art. 3 Nr. 3 KI-VO). Betreiber setzen es unter eigener Verantwortung ein (Art. 3 Nr. 4 KI-VO). Das sind dann z.B. eine Werbeagentur oder ein Verlag. Wer Inhalte nur weiterverbreitet, etwa eine Social-Media-Plattform, ist nicht Betreiber eines KI-Systems. Sind die Inhalte allerdings KI-generiert, hat auch dieser die Kennzeichnung zu erhalten und weiterzugeben.

An die jeweilige Rolle knüpft Art. 50 KI-VO unterschiedliche Pflichten: Anbieter müssen jede synthetische Ausgabe – Bild, Ton, Video, Text – maschinenlesbar markieren und zugleich die Mittel zu deren Erkennung bereitstellen; eine bloße Markierung ohne Detektionsmöglichkeit genügt nicht (Rn. 66, 67 LL-E). Die technische Lösung muss wirksam, interoperabel, robust und zuverlässig sein (Rn. 74 LL-E). Da nach dem Stand der Technik noch kein einzelnes Verfahren alle vier Anforderungen erfüllt, ist eine Kombination nötig (Rn. 78 LL-E). Der CoP konkretisiert dies zu einem mindestens zweischichtigen Ansatz: digital signierte Metadaten und ein nicht wahrnehmbares Wasserzeichen, das fest im Inhalt verankert ist. Diese Pflichten sollen nach dem Digital Omnibus on AI allerdings erst ab dem 2. Dezember 2026 greifen (Art. 111 Abs. 4 in der vom EP am 16.06.2026 bestätigten Fassung).

Betreiber wiederum müssen ab dem 2. August 2026 KI-manipulierte oder mit KI generierte Inhalte bei Bild-, Audio- oder Videoinhalten, "die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen merklich ähneln und einer Person fälschlicherweise echt oder wahr erscheinen würden" ("Deepfakes", ErwGr. 134 KI-VO), kennzeichnen. Die Beurteilung stellt nicht auf eine Täuschungsabsicht ab, sondern auf das Publikum, gerade auf besonders schutzbedürftige Gruppen wie Kinder oder ältere Menschen (Rn. 108 LL-E). Reine Bearbeitungshilfen ohne wesentliche Änderung sind nicht erfasst, also z.B. Rechtschreibkorrektur, leichtes Zuschneiden oder eine Rauschunterdrückung (Rn. 84, 85 LL-E). Eine KI-Übersetzung, das Einfügen von Objekten oder das Verändern der Hautfarbe einer Person sind auszuweisen (Rn. 86 LL-E).

Daneben greifen Transparenz- und Informationspflichten bei Emotionserkennungssystemen und biometrischer Kategorisierung, die ebenfalls in Art. 50 KI-VO verankert sind.

Deepfakes richtig kennzeichnen

Für Betreiber ist die Kennzeichnungspflicht unmittelbar sichtbar und damit auch direkt angreifbar. Sie müssen Deepfakes eindeutig als solche kennzeichnen. Offenzulegen ist dies klar und wahrnehmbar, ohne dass der Betrachter technische Hilfsmittel braucht (Rn. 110 LL-E). Für erkennbar künstlerische, satirische oder fiktionale Werke gilt eine abgeschwächte Pflicht, die den Werkgenuss nicht stören darf (Rn. 111 LL-E).

Der CoP gibt von der Kommission entwickelte Icons vor: "AI" mit dem Zusatz "GENERATED" für vollständig erzeugte und "MODIFIED" für teilweise veränderte Inhalte. Das Label muss unmittelbar in den Inhalt eingebettet sein, etwa in der oberen rechten Ecke eines Bildes oder Videos. Das hat eine handfeste Folge: Ein Hinweis in der Bildunterschrift, der Caption bei Instagram, genügt danach gerade nicht. Wer einen Deepfake postet, muss das Zeichen ins Bild selbst setzen, nicht daneben. Bei Videos ist es zu Beginn und nach Unterbrechungen, etwa nach Werbung, zu wiederholen; bei reinen Audioinhalten tritt ein hörbarer Disclaimer an die Stelle des sichtbaren Zeichens.

Keine Kennzeichnungspflicht für alte Inhalte

Zwar sind sowohl die Leitlinien als auch der CoP rechtlich nicht bindend: Verbindlich auslegen kann Art. 50 KI-VO letztlich allein der EuGH. Praktisch entfalten beide aber erhebliche Wirkung: Wer dem CoP folgt, kann seine Konformität gegenüber den Behörden belegen. Nach dem neuen Art. 50 Abs. 7 KI-VO-Entwurf in der Fassung des Digital Omnibus greift eine Vermutungswirkung, wenn die Kommission den CoP bestätigt hat (steht noch aus) und das Unternehmen diesem beigetreten ist und ihn einhält.

Der Bestätigungsmechanismus in Art. 50 Abs. 7 KI-VO ist noch nicht in Kraft. Er steht in den Änderungen der KI-VO durch den Digital Omnibus on AI, denen der Rat noch zustimmen muss. Erst nach Bestätigung knüpft an die Befolgung des CoP die angestrebte Vermutungswirkung an, die dann in zwei Schritten verläuft: Bestätigung durch die Kommission und anschließend vollständige Umsetzung der dort vorgesehenen Maßnahmen durch das Unternehmen.

Der Digital Omnibus verschafft generativen Systemen, die vor dem 2. August 2026 in Verkehr gebracht wurden, eine kurze Schonfrist: Die Markierungspflicht der Anbieter ist erst bis zum 2. Dezember 2026 zu erfüllen. Diese Atempause gilt nur für die Anbieter-Markierung, nicht für die Offenlegungspflicht der Betreiber. Altinhalte müssen nicht rückwirkend gekennzeichnet werden.

 

Dr. Kristina Schreiber ist Rechtsanwältin und Partnerin bei Loschelder in Köln. Sie berät zu allen Rechtsfragen der Digitalisierung und zum Recht der regulierten Märkte. 

Ihr Schwerpunkt liegt derzeit auf dem Recht der Künstlichen Intelligenz, IT-Sicherheit, der Datennutzung, des Datenschutzes und der Regulierung.