Druckversion
Sonntag, 25.05.2025, 04:18 Uhr


Legal Tribune Online
Schriftgröße: abc | abc | abc
https://www.lto.de//recht/hintergruende/h/eu-kommission-verordnung-anti-terror-online-plattformen-loeschen
Fenster schließen
Artikel drucken
30997

Der Kampf gegen Terror-Propaganda auf Online-Plattformen: Die Geister, die die Kom­mis­sion ruft

von Nima Mafi-Gudarzi, LL.M

18.09.2018

Mann mit Kapuze vor einem Laptop (Symbolbild)

© F8studio-stock.adobe.com

Die EU-Kommission will mit einer neuen Verordnung die Online-Verbreitung von Terror-Inhalten verhindern. Die richtige Balance zwischen staatlicher Aufsicht und privater Rechtsdurchsetzung gelingt ihr damit aber nicht, meint Nima Mafi-Gudarzi.

Anzeige

Die neuen Pläne aus Brüssel dürften in Deutschland Erinnerungen wachrufen. Das Netzwerkdurchsetzungsgesetz (NetzDG) hat in Deutschland zuletzt für große Verwerfungen gesorgt: Viele befürchteten, im Kampf gegen Hassrede könnte sich ein ausuferndes Overblocking und ein "Chilling Effect" für die Meinungsfreiheit einstellen. Ein eindeutiger Befund steht aber noch aus.

Nun legt die EU-Kommission einen Entwurf vor, der die Verbreitung von terroristischer Propaganda auf Online-Plattformen verhindern soll. Ein Blick in den Entwurf zeigt: Die Kommission ist gewillt, nicht die gleichen – vermeintlichen – Fehler des NetzDG zu begehen. So sollen nicht Private, sondern staatliche Behörden entscheiden, was ein terroristischer Inhalt ist und was gelöscht werden muss. Paradoxerweise könnte die Kommission aber das Gegenteil bewirken: dass Plattformbetreiber die Entscheidungen umfänglich privatisieren.

Paradigmenwechsel für Online-Plattformen

Als im Jahr 2000 die E-Commerce-Richtlinie verabschiedet wurde, herrschte EU-weit das Bild der neutralen, unmoderierten Online-Plattform vor. Der Anbieter stellte den technologischen Rahmen, den Content lieferten die Nutzer. Auf dieser Annahme basierte das von der EU geschützte, von der Haftung weitgehend befreite Geschäftsmodell der Betreiber. Nun scheint sich mit dem Kommissionsentwurf ein Paradigmenwechsel zu vollziehen: Diensteanbieter tragen danach eine gesellschaftliche Verantwortung für die Inhalte auf ihren Plattformen und müssen diese grundsätzlich überwachen. Das kommt in den Erwägungsgründen 3 und 19 zum Ausdruck, wenn auch die Kommission in Erwägungsgründen 5 und 12 den Eindruck zu entkräften versucht.

Diese Neujustierung ist einer gesellschaftlichen und technologischen Entwicklung geschuldet. Zum einen prägt die Nutzung von Plattformen wie Facebook, YouTube und Twitter in unserer Informationsgesellschaft zunehmend den öffentlichen Meinungsbildungsprozess. Zum anderen begnügen sich die Betreiber nicht mit einer rein passiven Rolle, sondern sind dank algorithmischer Steuerung in der Lage, fremde Inhalte gezielt zu klassifizieren, zu selektieren, zu filtern und zu priorisieren.  

Bußgeld bis zu 4 Prozent des globalen Jahresumsatzes

Die Kommission fasst mit der Terror-Propaganda eine Kategorie von Inhalten ins Auge, deren zersetzende Kraft gesellschaftlich anerkannt ist. Der Begriff der terroristischen Inhalte umfasst Materialien und Informationen, mit denen zu terroristischen Straftaten aufgerufen oder angespornt bzw. sich dafür ausgesprochen wird, die Anweisungen für die Begehung solcher Straftaten enthalten oder für die Beteiligung an Aktivitäten einer terroristischen Vereinigung werben (Art. 2 Abs. 5 VO-Entwurf; siehe auch Richtlinie 2017/541 zur Terrorbekämpfung).

Die Bürde, die terroristische Qualität eines Inhalts korrekt einzuschätzen, tragen nicht die Plattformbetreiber, sondern die von den Mitgliedsstaaten zu bestimmenden Behörden (Art. 4, 17 VO-Entwurf). Ab elektronischer Zustellung einer zu begründenden Entfernungsanordnung bleibt dem Plattformbetreiber eine Stunde, den Inhalt zu löschen oder den Zugang hierzu zu sperren. Um der Pflicht Nachdruck zu verleihen, sollen die Mitgliedsstaaten systematische Verstöße mit Bußgeldern in Höhe von bis zu vier  Prozent des globalen Jahresumsatzes ahnden können (Art. 18 VO-Entwurf, Erwägungsgrund 38).

Der staatliche Lösch-Primat als Gefahr?

So begrüßenswert es einerseits ist, derart komplexe Wertungen nicht den privaten Anbietern zu überlassen, so unbehaglich stimmt andererseits die Vorstellung, dass Mitgliedsstaaten, in denen rechtsstaatliche Prinzipien ins Wanken geraten, solche Interpretationsspielräume missbrauchen könnten, um etwa unliebsame Berichterstattung oder Satire zu unterdrücken. Betroffene Inhalteanbieter mit einem Hinweis durch den Plattformbetreiber auf die erfolgte Löschung – und einer Begründung auf Nachfrage – abzuspeisen (Art. 11 VO-Entwurf), genügt jedenfalls nicht im Sinne der Meinungsfreiheit den Anforderungen an einen effektiven Rechtsschutz.

Die Verordnung begnügt sich nicht mit dem Mechanismus "Löschen-auf-Anordnung": Behörden sollen die Betreiber auch auf solche Materialien hinweisen können, die als "terroristischer Inhalt gewertet werden könnten", um diese dann auf Vereinbarkeit mit den eigenen Nutzungsbedingungen zu überprüfen (Art. 5, 2 Abs. 8 VO-Entwurf). Die Kommission möchte bei den Betreibern ein Bewusstsein über die Art der bei ihnen auffindbaren Inhalte schaffen und ihnen insoweit die Letztentscheidung überlassen (vgl. Erwägungsgrund 15).

Diese Regelung sollte ersatzlos gestrichen werden. Denn wenn eine Behörde nach sorgfältiger Prüfung eines Inhalts nicht zu dem Ergebnis kommt, dass er gesetzeswidrig ist, so ist das Verfahren schlicht und ergreifend einzustellen. Der Staat muss und darf sich hingegen nicht als Erfüllungsgehilfe privater Plattformbetreiber andienen, damit diese effektiver ihre AGB durchsetzen können. Die Anbieter dürfen zwar grundsätzlich im Rahmen ihres virtuellen Hausrechts autonom darüber entscheiden, welcher Art von Beiträgen sie ihr Forum öffnen und dabei auch restriktiver vorgehen als der unmittelbar grundrechtsgebundene Staat. Nichtsdestotrotz wäre es ein mit der Meinungsfreiheit kaum zu vereinbarendes Novum, wenn staatliche Stellen zur Löschung nicht zu beanstandender Inhalte geradezu anstiften würden.

KI zur privaten Rechtsdurchsetzung

Des Weiteren verlangt die Kommission die Ergreifung proaktiver Maßnahmen, um die Verbreitung terroristischer Inhalte eigenständig zu verhindern (Art. 6 VO-Entwurf). Hierzu kann auch der Einsatz automatisierter Werkzeuge zählen, also Upload- und Screeningfilter (vgl. Art. 6 Abs. 2 VO-Entwurf).
Der Einsatz künstlicher Intelligenz zur Unterdrückung von Inhalten ist hoch umstritten und doch schon längst Realität: So konnte im ersten Quartal 2018 Facebook 99,5% aller 1,9 Mio. Inhalte, die nach den AGB als Terror-Propaganda gelten, aufdecken, ehe ein Nutzer diese überhaupt gemeldet hat. Der Entwurf der Verordnung möchte die Gefahr unverhältnismäßiger Löschungen durch die Einforderung regelmäßiger Berichte zur Funktionsweise der automatisierten Tools sowie menschlicher Aufsicht begegnen (siehe auch Erwägungsgründe 17 f.). Wie der Mensch der Flut fragwürdiger Inhalte in der Praxis tatsächlich Herr werden kann, ist indes schwer vorstellbar.

Die Anbieter wären zudem auch nicht verpflichtet, die staatlichen Stellen über jeden gefundenen Terror-Inhalt zu informieren (vgl. Art. 13 Abs. 4 VO-Entwurf nur in Bezug auf Terror-Straftaten). Handeln alle Plattformbetreiber sehr effizient, möglicherweise überobligatorisch, gäbe es dann kaum noch terroristische Inhalte, deren Entfernung die Behörden anordnen müssten – ganz einfach, da sie sie nie zu Gesicht bekommen. Der Primat des Staates liefe ins Leere.

Zwar sollen die betroffenen Inhalteanbieter die Möglichkeit der Beschwerde gegen private Lösch-Entscheidungen erhalten (Art. 10 VO-Entwurf). Doch auch hier mangelt es an der gebotenen Sicherstellung, den Rechtsweg beschreiten zu können.

Weiter Anwendungsbereich erfasst auch Streaming- und Lieferdienste

Bemerkenswert ist ferner, dass die Kommission nicht nur die Betreiber großer sozialer Netzwerke, sondern sämtliche Hosting-Anbieter ins Visier nimmt, die Informationen von Inhalteanbietern speichern und Dritten zugänglich machen (Art. 2 Abs. 1 VO-Entwurf). Beispielsweise erfasst wären Streaming-Diensteanbieter, Cloud-Dienste und Webseiten mit Kommentarfunktionen (Erwägungsgrund 10). Hinzu kommen Dienste, über die man Waren und Dienstleistungen bestellen kann (Erwägungsgrund 11), was konsequent sämtliche Lieferservice und Verkaufsplattformen einschließen würde.

Nicht alle Plattformbetreiber müssten aber zwingend proaktiv tätig werden, sondern nur "gegebenenfalls", unter Berücksichtigung des jeweiligen Risikos, für solche Zwecke missbraucht zu werden (Art. 6 Abs. 1 VO-Entwurf). In der Tat dürfte die Gefahr, dass Terror-Propaganda sich etwa in Nutzerbewertungen bei Ebay oder in Beiträgen auf Xing Bahn bricht, nicht allzu virulent sein. Die Kommission könnte allerdings jegliche Rechtsunsicherheit im Keim ersticken, indem sie die Überwachungspflicht eindeutig auf soziale Netzwerke ab einer gewissen Größenordnung beschränkt. Denn nur solche Plattformen, auf denen Nutzer beliebigen Content einspeisen und mit hoher Reichweite viral verbreiten können, eignen sich überhaupt für terroristische Propaganda.

Die Europäische Kommission hat mit ihrem Entwurf regulatorisches Neuland betreten. Dass in der auslaufenden Legislaturperiode die Verordnung noch zustande kommt, ist ungewiss. Änderungen sind allerdings auf jeden Fall geboten, um die Online-Wirtschaft nicht unverhältnismäßig zu belasten und einem Anreiz zu Overblocking und einer tendenziellen Abkühlung der Meinungsfreiheit vorzubeugen. Andernfalls dräut dem Verordnungsgeber am Ende die Wehklage: "Die ich rief, die Geister, werd ich nun nicht los."

Der Autor Nima Mafi-Gudarzi, LL.M., ist wissenschaftlicher Mitarbeiter am Institut für Medienrecht und Kommunikationsrecht an der Universität zu Köln. Sein Forschungsschwerpunkt liegt auf dem rechtlichen Umgang mit sozialen Netzwerken.

  • Drucken
  • Senden
  • Zitieren
Zitiervorschlag

Der Kampf gegen Terror-Propaganda auf Online-Plattformen: . In: Legal Tribune Online, 18.09.2018 , https://www.lto.de/persistent/a_id/30997 (abgerufen am: 25.05.2025 )

Infos zum Zitiervorschlag
  • Mehr zum Thema
    • Urheber- und Medienrecht
    • Facebook
    • Plattformregulierung
    • Soziale Medien
    • Terrorismus
Ein Smartphone wird in der Hand gehalten, auf dem Display ist Metas KI-Anwendung "Meta AI" zu sehen 23.05.2025
Datenschutz

Kein DSGVO-Verstoß auf Facebook und Instagram:

Meta darf Nut­zer­daten für das KI-Trai­ning ver­wenden

Verbraucherschützer wollten per Eilantrag verhindern, dass Meta die Nutzerdaten ohne Einwilligung zu KI-Trainingszwecken verwendet. Das OLG Köln aber sieht keinen DSGVO-Verstoß. An der Datennutzung bestehe ein berechtigtes Interesse.

Artikel lesen
Ein besorgter Mann mit Klebeband um den Mund, der sein Smartphone betrachtet. Symbolisiert Zensur und Einschränkung der Meinungsfreiheit. 24.04.2025
Meinungsfreiheit

Wahrheitsministerium? Ende der Meinungsfreiheit? Strafen?:

Kommt wir­k­lich ein "Lügen-Verbot"?

Einige Medien haben im Koalitionsvertrag ein angeblich geplantes “Lügen-Verbot” entdeckt und befürchten das Ende der Meinungsfreiheit. Was an den Befürchtungen rechtlich dran ist, zeigen Tobias Gostomzyk und Victor Meckenstock.

Artikel lesen
Apple 23.04.2025
EU-Kommission

EU-Kommission:

700 Mil­lionen Euro Strafe für Apple und Meta

Brüssel knöpft sich mal wieder US-Techfirmen vor und verhängt Strafen gegen Apple und die Facebook-Mutter Meta. Zum ersten Mal wird eine Strafe unter dem neuen Digital Markets Act verhängt. Doch das letzte Wort ist noch nicht gesprochen.

Artikel lesen
Jemand zieht ein Messer aus einem Messerblock 03.04.2025
Vorfeldkriminalisierung

Terrorismusstrafbarkeit auf Messer und PKW ausweiten?:

Wenn der Alltag kri­mi­na­li­siert wird

Insofern sind sich Union und SPD einig: Die Vorbereitung von Terrortaten soll auch dann strafbar sein, wenn Tatmittel ein Fahrzeug oder Messer ist. Was sinnvoll klingt, lädt die Polizei in jedermanns Wohnzimmer ein, meint Ronja Pfefferl.

Artikel lesen
Eine Frau öffnet in Frankfurt am Main im Internet die Applikation FarmVille auf Facebook 27.03.2025
Facebook

Meta verliert vor dem BGH:

Ver­brau­cher­schützer dürfen Daten­schutz ein­klagen

Der BGH hat entschieden: Verbraucherschutzverbände dürfen Datenschutzverstöße zivilrechtlich verfolgen lassen. Ein jahrelanger Streit um Facebooks "App-Zentrum" stärkt nun den digitalen Verbraucherschutz.

Artikel lesen
Razzia 26.03.2025
Terrorismus

Razzia in sechs Bundesländern:

Gene­ral­bun­des­an­walt ermit­telt gegen "Bri­gade N'Hamedu"

Die "Brigade N'Hamedu" richtet sich gegen die autoritäre eritreische Regierung. Weil sie dafür auch Gewalt gegen deutsche Polizisten einsetzt, hat die Bundesanwaltschaft heute eine groß angelegte Razzia veranstaltet.

Artikel lesen
ads lto paragraph
lto karriere logo
ads career people

Wir haben die Top-Jobs für Jurist:innen

Jetzt registrieren
logo lto karriere
TopJOBS
Logo von DLA Piper UK LLP
Wis­sen­schaft­li­cher Mit­ar­bei­ter (m/w/d)

DLA Piper UK LLP , Mün­chen

Logo von Oppenhoff
Re­fe­ren­da­re (m/w/d) al­le Fach­be­rei­che

Oppenhoff , Köln

Logo von CMS Deutschland
Rechts­an­wäl­te (m/w/d) für den Be­reich Me­di­en- und Ur­he­ber­recht

CMS Deutschland , Ham­burg

Logo von Generalstaatsanwaltschaft des Landes Brandenburg
Staats­an­wäl­tin (Rich­te­rin auf Pro­be) / Staats­an­walt (Rich­ter auf Pro­be)...

Generalstaatsanwaltschaft des Landes Brandenburg , Pots­dam

Logo von Deutsches Patent- und Markenamt
Voll­ju­ris­tin­nen und Voll­ju­ris­ten (w/m/div)

Deutsches Patent- und Markenamt , Mün­chen

Logo von Generalstaatsanwaltschaft des Landes Brandenburg
Staats­an­wäl­tin (Rich­te­rin auf Pro­be) / Staats­an­walt (Rich­ter auf Pro­be)...

Generalstaatsanwaltschaft des Landes Brandenburg , Neu­rup­pin

Logo von Osborne Clarke
Rechts­an­walt mit Be­ruf­s­er­fah­rung (w/m/d) IT-Recht, E-Com­mer­ce und di­gi­ta­le...

Osborne Clarke , Köln

Logo von Freie Universität Berlin
Voll­ju­rist*in (m/w/d)

Freie Universität Berlin , Ber­lin

Mehr Stellenanzeigen
logo lto events
RAV-Kongress: AufRecht. Solidarisch in autoritären Zeiten

13.06.2025, Leipzig

Unternehmensumwandlungen: Umwandlung eines Einzelunternehmens in eine GmbH

03.06.2025

Logo von Deutscher Anwaltverein
Deutscher Anwaltstag 2025 in Berlin

02.06.2025, Berlin

Logo von Hengeler Mueller
LL.M. Farewell Dinner

03.07.2025, Frankfurt am Main

Der AI Act – aktueller Stand der Regulierung Künstlicher Intelligenz

04.06.2025

Mehr Events
Copyright © Wolters Kluwer Deutschland GmbH