Mitgliedstaaten geben grünes Licht: Sexua­li­sierte Deep­fake-KI wird ver­boten

In der Europäischen Union sind KI-Anwendungen zur missbräuchlichen Erstellung sexualisierter Deepfakes künftig verboten. Der Rat der EU gab der Änderung des KI-Gesetzes, die ab dem 2. Dezember 2026 gelten soll, grünes Licht. Der Schritt galt nach der Einigung mit dem Europaparlament als Formalie. Das KI-Amt der EU, das vor zwei Jahren geschaffen wurde, soll das Verbot federführend durchsetzen. 

Bei Deepfakes werden mithilfe von KI täuschend echt wirkende Bild-, Video- oder Tonaufnahmen manipuliert oder erzeugt. Das neue Verbot soll die bisherigen Regeln ergänzen, indem es neben den Nutzenden auch die Anbieter der entsprechenden digitalen Werkzeuge ins Visier nimmt. 

Was soll verboten werden?

In dem neuen Gesetz soll genau definiert sein, was sexualisierte Inhalte sind und was nicht. Das Verbot zielt demnach auf KI-Anwendungen ab, die etwa die Erstellung von realistischen Bildern oder Videos vom Intimbereich erlauben – insbesondere von Genitalien, dem Po oder entblößten weiblichen Brüsten sowie von sexuell eindeutigen Handlungen.

Satirische Karikaturen sollen also ausgenommen bleiben. Auch nicht einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und auf X verbreitet wurden, könnten demnach erlaubt bleiben. Das neue Verbot soll aber explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen.

Verpflichtende Wasserzeichen für KI kommen später

Außerdem sollen Anbieter von Chatbots und anderen Diensten die KI-Inhalte deutlicher als solche kennzeichnen müssen. KI-generierte Bilder und Videos müssten sie also etwa mit Wasserzeichen markieren. Ursprünglich sollten diese Pflichten für die Unternehmen hinter ChatGPT, Claude und Co. schon ab August 2026 gelten, dies wurde jetzt aber auf Dezember verschoben. Die Unternehmen hatten mehr Zeit gefordert, um die nötigen Anpassungen für die strikteren Vorgaben umzusetzen. 

Mit den neuen Regelungen soll einerseits eine einheitlichere Umsetzung der KI-Regelungen in der gesamten EU gewährleistet werden. "Gleichzeitig senden wir durch das Verbot von KI-generierten oder manipulierten sexuellen Deepfakes und von KI-generiertem Material über sexuellen Kindesmissbrauch eine klare Botschaft, dass technologischer Fortschritt stets mit dem Schutz unserer Grundrechte einhergehen muss", so Marilena Raouna, Staatssekretärin für europäische Angelegenheiten der Republik Zypern, die derzeit die EU-Ratspräsidentschaft innehat.

Das Thema Deepfakes rückte in Deutschland zuletzt insbesondere durch den Fall Collien Fernandes in den Fokus. Fernandes wirft ihrem Ex-Mann Christian Ulmen vor, in sozialen Netzwerken Fake-Profile in ihrem Namen erstellt und darüber Deepfake-Bilder von ihr sowie Pornovideos von ihr ähnelnden Frauen verschickt zu haben. Kürzlich hat das Oberlandesgericht Hamburg dazu entschieden, der Spiegel dürfe in seiner Berichterstattung nicht den Verdacht erwecken, Ulmen habe auch Deepfake-Videos von Fernandes verbreitet und hergestellt.

Im Bereich des Strafrechts hat Justizministerin Stefanie Hubig einen Gesetzentwurf vorgelegt, um Strafbarkeitslücken bei pornografischen Deepfakes zu schließen.

dpa/fkr/LTO-Redaktion