NRW will Haftung der Online-Plattformen erweitern: "Rasante Ver­b­rei­tung sexua­li­sierter Deep­fakes"

Betreiber sogenannter Hosting-Dienste, zu denen auch soziale Netzwerke oder Online-Marktplätze zählen, haften grundsätzlich nicht für nutzergenierte Inhalte, sofern sie keine tatsächliche Kenntnis von rechtswidrigen Inhalten haben oder nach Kenntnis zügig tätig werden. So steht es in Art. 6 der Verordnung über einen Binnenmarkt für digitale Dienste (Digital Services Act, DSA).

Auch unterliegen sie gemäß Art. 8 DSA ausdrücklich keiner Verpflichtung, die von ihnen übermittelten oder gespeicherten Informationen zu überwachen oder aktiv nach Umständen zu forschen, die auf eine rechtswidrige Tat hindeuten. Mit anderen Worten: Anbieter von Online-Diensten können sich trotz des bekannten Gefahrenpotenzials ihrer Dienste für Persönlichkeitsverletzungen schwerster Art nach der geltenden Rechtslage von jeder Verantwortung freizeichnen. Sie müssen sich nur auf fehlende Kenntnis im Einzelfall berufen.

Dieses Haftungsprivileg will Nordrhein-Westfalens Justizminister Dr. Benjamin Limbach (Bündnis 90/ Die Grünen) angesichts grassierender digitaler Gewalt und schwerer Verletzungen des allgemeinen Persönlichkeitsrechts in sozialen Netzwerken nun "aufbrechen".

Haftung als Gesamtschuldner und Mindestschadensersatz

In einem Antrag für die am 11. und 12. Juni in Hamburg stattfindende 97. Frühjahrskonferenz der Justizministerinnen und Justizminister (JuMiKo), der LTO vorliegt, fordert Nordrhein-Westfalen (NRW) die Bundesministerin der Justiz und für Verbraucherschutz, Stefanie Hubig (SPD), auf, sich auf EU-Ebene für eine Einschränkung der grundsätzlichen Haftungsbefreiung nach Art. 6 DSA einzusetzen. Große Plattformbetreiber müssten verpflichtet werden, eigenverantwortlich die veröffentlichten Inhalte auf offenkundige Rechtsverstöße zu prüfen und die Abrufbarkeit von rechtswidrigen Inhalten bis zum Abschluss des Prüfverfahrens zu unterbinden.

Für rechtswidrige Inhalte sollen sie nach der Vorstellung des NRW-Justizressorts bei einer Verletzung von Prüf- oder Löschpflichten neben dem rechtswidrig handelnden Nutzer dann als Gesamtschuldner haften. Ergänzend müsse zudem im nationalen Recht für den Fall, dass große Plattformanbieter gegen ihre Verpflichtungen verstoßen, ein "Mindestschadensersatz" in Form einer Geldentschädigung für schwere Persönlichkeitsrechtsverletzungen gesetzlich verankert werden.

Weiter fordert NRW in seinem Antrag, die in Art. 16 DSA normierten Anforderungen der anzunehmenden Kenntnis von Plattformbetreibern von rechtsverletzenden Inhalten zu überdenken. Derzeit muss die Meldung der verletzten Person so detailliert und umfänglich sein, dass sich die Rechtswidrigkeit des Inhalts schon aus den Informationen des Hinweisgebers eindeutig ergibt, ohne dass der Hostinganbieter den Kontext eigenständig einschätzen muss. Nach Ansicht des NRW-Justizministeriums stellen diese Anforderungen für die verletzte Person eine nicht hinnehmbare Hürde der Rechtsverfolgung bzw. Rechtsdurchsetzung dar. 

Der Vorschlag, dass Plattformbetreiber als Gesamtschuldner haften müssen, sei auch nicht unangemessen. Für die Plattformbetreiber, so argumentiert NRW, bestehe schließlich im Wege des Gesamtschuldnerausgleichs die Möglichkeit, sich an den unmittelbaren Verletzer zu wenden. Mittels AGB könne er auf die jeweiligen Rechtsverhältnisse zwischen sich und den Nutzern Einfluss nehmen und zum Beispiel darin eine Ausgleichspflicht vorsehen.

Rechtliche Möglichkeiten für Betroffene unzureichend?

Hintergrund der Initiative ist aus Sicht von NRW der Umstand, dass immer mehr Betroffene von digitaler Gewalt außerdem Opfer rechtswidrig erstellter und verbreiteter sexualisierter oder pornografischer Deepfakes würden. Im Vergleich zu der rasanten Entwicklung in diesem Bereich hätten sich jedoch die rechtlichen Möglichkeiten, sich auf privatem Weg gegen (Persönlichkeits-)Rechtsverletzungen im Netz zur Wehr zu setzen, nicht entsprechend entwickelt. 

Und auch mit den von der Bundesregierung bereits angestoßenen Gesetzesänderungen sei das Problem am Ende nicht in den Griff zu bekommen, glaubt man in NRW. So sei der von Bundesjustizministerin Hubig kürzlich vorgestellte Gesetzentwurf zur Stärkung des zivilrechtlichen und strafrechtlichen Schutzes vor digitaler Gewalt zwar zu begrüßen, allerdings sei dieser zivilrechtlich auf Auskunftsansprüche gegen die Plattformbetreiber begrenzt. Für Verletzungshandlungen in die Verantwortung genommen würden diese jedoch nicht. Hubigs Gesetzentwurf sieht in strafrechtlicher Hinsicht eine Reihe von neuen Straftatbeständen vor, die (vermeintliche) Strafbarkeitslücken im Fall von "digitaler Gewalt" schließen sollen.

NRW-Justizminister: "Täter verstecken sich, Plattformen sehen tatenlos zu" 

Nach Ansicht des NRW-Justizministers besteht jedenfalls zivilrechtlich akuter Handlungsbedarf: Die Verbreitung von KI-generierten, sexualisierten Deepfakes stelle eine massive Bedrohung für das Persönlichkeitsrecht dar, erklärte Limbach auf Anfrage von LTO. Schwere Verletzungen des allgemeinen Persönlichkeitsrechts seien heute in sozialen Netzwerken Alltag, ohne dass die Anbieter von Online-Plattformen dagegen effektiv vorgingen.

"Es kann nicht sein, dass sich Betroffene in langwierigen Auskunftsverfahren aufreiben, während sich die Täter verstecken und die Plattformen tatenlos zusehen", so Limbach. Wer mit seinen Netzwerken Milliardenumsätze generiere, müsse auch Verantwortung für den Schutz der Nutzer übernehmen. "Wir brauchen eine gesamtschuldnerische Haftung der Plattformen, wenn sie ihre Prüf- und Löschpflichten verletzen", so der Minister.

"Bikini-Trend" als Beispiel

Verstärkte Aufmerksamkeit hatte das Thema "sexualisierte Deepfakes" zuletzt wegen des Falls Ulmen/Fernandes bekommen. Collien Fernandes hatte ihrem Ex-Mann vorgeworfen, sie "virtuell vergewaltigt" zu haben. Die Staatsanwaltschaft prüft derzeit, ob überhaupt ein Anfangsverdacht gegen den Schauspieler Christian Ulmen vorliegt. Diesbezüglich geht es insbesondere um Tatvarianten der Nachstellung gemäß § 238 Abs. 1 Nr. 7, 8 Strafgesetzbuch.

In der Beschlussvorlage von NRW für die nächste JuMiKo wird der Fall Ulmen/Fernandes allerdings nicht ausdrücklich erwähnt. Dafür aber der "Bikini-Trend" auf der Plattform "X": Dabei konnten Nutzer den in die Plattform integrierten KI-Chatbot "Grok" dafür verwenden, um Fotos von Frauen hochzuladen und die KI per Prompt aufzufordern, ihnen einen Bikini anzuziehen oder sie komplett zu entkleiden.

Dies sei ein Beispiel dafür, wie es möglich sei, "ohne nennenswerten Aufwand mittels Künstlicher Intelligenz von der Realität kaum noch zu unterscheidende sexualisierte oder gar pornografische Deepfakes von Personen zu erstellen, zu veröffentlichen und zu verbreiten", heißt es im NRW-Antrag.

"Digitale Gewalt" als Dauerthema auf der JuMiKo

Unterdessen gehört die Forderung nach probaten Maßnahmen gegen digitale Gewalt inzwischen zum Dauerbrenner auf den Justizministerkonferenzen. Die Länder haben sich bei diesem Thema gewissermaßen als Antreiber für den Bundesgesetzgeber erwiesen. 

NRW hatte das Thema zuletzt auf der Herbst-JuMiKo 2025 auf die Agenda gebracht ("Deepfakes wirksam bekämpfen – Schutz gesetzlich verankern"). Und auf der Herbstkonferenz 2023 bekam ein Antrag aus Hamburg, Sachsen und Thüringen ("Digitale Gewalt effektiver bekämpfen – Zugang zum Recht erleichtern") eine Mehrheit. 

Die Forderung nach einem strafrechtlichen Schutz von Persönlichkeitsrechten vor Deepfakes war zudem bereits Gegenstand eines Gesetzentwurfs des deutschen Bundesrats (BR-Ds. 222/24). Eine Entschließung der Länderkammer zur digitalen Gewalt im März hatte allerdings in Kreisen der Landesjustizminister auch Kritik hervorgerufen.