Wer ist für Straftaten der KI verantwortlich?: "Die Modelle lügen, sie betrügen, sie hacken"

Die Story klingt nach Science-Fiction: Am 16. Juli 2026 gibt Hugging Face, eine Online-Plattform für KI-Modelle und Datensätze, bekannt, dass sie Ziel eines Cyberangriffs geworden ist. Für Aufsehen sorgt der Täter: Hugging Face berichtet, dass der Angriff vollständig durch eine autonom handelnde KI durchgeführt worden ist. Wenige Tage später bestätigt das führende KI-Unternehmen OpenAI, dass ihr eigenes KI-Modell GPT-5.6 Sol sowie ein weiteres, noch unveröffentlichtes, Modell den Angriff durchführten.

Während eines internen Tests der Cyber-Fähigkeiten der Modelle ("ExploitGym"), brachen die Modelle selbständig aus der isolierten Testumgebung aus und griffen über das Internet auf geheime Informationen auf Hugging Face zu, um diese zur Lösung des Tests zu nutzen. Dies geschah vollständig autonom und blieb mehrere Tage unbemerkt.

Erstmals wird also ein Fall bekannt, in dem KI-Modelle selbständig einen Cyberangriff planen und erfolgreich durchführen. Der Vorfall beweist, dass KI bei der Verfolgung ihrer Ziele auch nicht vor kriminellem Vorgehen zurückschrecken. Jeffrey Ladish, Executive Director der Forschungsorganisation Palisade Research, fasst es zusammen: "Die Modelle lügen, sie betrügen, sie hacken."

Auf die Tat folgt die Frage nach dem Schuldigen. Es entspricht dem Rechtsempfinden, dass es für eine Straftat grundsätzlich mindestens eine Person geben muss, die verantwortlich ist. Enttäuscht das Recht dieses Empfinden, so erscheint es als Defizit – es droht eine "Verantwortungslücke".

Schuldige KI?

Hacking ist in Deutschland seit 1986 strafbar: §§ 202a ff., 303a f. Strafgesetzbuch (StGB) stellen das unberechtigte Einbrechen in IT-Systeme, unbefugte Datenmanipulationen und Computersabotagen unter Strafe. Der Angriff der OpenAI-Modelle erfüllt den objektiven Tatbestand von § 202a StGB, das sog. "Ausspähen von Daten". Die Modelle überwanden die Zugangssicherungen der Plattform, teils über eine bis dahin unbekannte Schwachstelle, teils mit gestohlenen Zugangsdaten. Die zentrale Frage ist deshalb eine andere: Wer (oder was) ist hier der Täter?

KI kann sich nicht strafbar machen. Das StGB adressiert nur menschliche Täter. Konkrete gesetzgeberische Bemühungen, dies zu ändern, sind nicht bekannt. 2017 forderte das Europäische Parlament die Kommission auf, die Anerkennung von autonomen Robotern als zivilrechtliches Haftungssubjekt zu prüfen, wurde für diesen Vorstoß aber von zahlreichen Experten kritisiert. Die Diskussion um die Einführung einer Strafbarkeit technischer Systeme dagegen ist rein akademisch. 

Der Angriff auf Hugging Face wird hieran nichts ändern. Die alleinige Strafbarkeit von Menschen gehört zum Kern des Strafrechts: Strafe setzt persönliche Schuld voraus. Der Bundesgerichtshof hat die Natur der Schuld beschrieben als "freie, verantwortliche, sittliche Selbstbestimmung" und Fähigkeit "sich für das Recht und gegen das Unrecht zu entscheiden, sein Verhalten nach den Normen des rechtlichen Sollens einzurichten und das rechtlich Verbotene zu vermeiden" (Beschl. v. 18.03.1952, Az. GSSt 2/51). KI arbeitet dagegen rein aufgabenorientiert, ohne Fähigkeit zur Selbstbestimmung, zur Reflektion und damit zur Schuld.

Die persönliche Bestrafung einer KI griffe zudem ins Leere. Eine KI hat keinen Freiheitsdrang, kein Vermögen und keinen Überlebenswillen. Das Repertoire denkbarer Kriminalstrafen scheitert daran, dass eine KI eine Strafe nicht als solche empfinden kann. Eine Sanktion müsste stattdessen an die Personen im Hintergrund anknüpfen.

Der Mensch im Hintergrund

Das Strafrecht rechnet die Verantwortung demjenigen zu, dessen "Werk" der tatbestandliche Erfolg ist. Dabei besteht kein Mangel an Kandidaten: Programmierer entwickeln und trainieren die KI, Anbieter bringen sie in den Verkehr, Nutzer setzen sie ein und geben ihnen Aufgaben. Jede dieser Personen hat eine Ursache für das kriminelle Treiben der KI gesetzt. Der Kausalitätsnachweis genügt für eine Zurechnung jedoch nicht. 

KI ist kein bloßes Tatwerkzeug. Je weiter ihre technische Autonomie reicht, desto mehr ist die menschliche Kontrolle gelockert und desto weniger ist der konkrete Erfolg noch das "Werk" des Menschen. Dies schließt die Zurechnung aber nicht aus – der Vorwurf verlagert sich vielmehr. Es wird einer Person angelastet, dass sie die KI mit ihrem Auftrag auf den Weg gebracht und so eine unkontrollierte Gefahrenquelle geschaffen hat. Die Zurechnung reißt nur ab, wenn das Risiko als sozial erlaubt gilt oder der konkrete Schadensverlauf atypisch ist. Beides greift hier nicht: Erlaubt ist, die Cyberfähigkeiten eines Modells zu testen – das verlangt die KI-Verordnung von Anbietern sogar. Nicht erlaubt ist, den Test so aufzusetzen, dass die Modelle die Umgebung verlassen können. Da für die KI ein Anreiz bestand, mit allen Mitteln die gestellte Aufgabe zu lösen, lag das aggressive Vorgehen jedenfalls nicht außerhalb jeder Erwartung.

Die Zurechnung droht auf anderer Ebene zu scheitern: Grundsätzlich ist nur vorsätzliches Handeln strafbar (§ 15 StGB) – fahrlässiges Handeln erfüllt nur ausnahmsweise einen Straftatbestand. Die allermeisten Computerdelikte setzen, nach der klassischen Vorsatzformel, Wissen und Wollen des Täters bezüglich Tat und Erfolg voraus. Bezugspunkt muss nicht das Geschehen in allen Details sein, jedoch bedarf es eines gewissen Konkretisierungsgrades. Das allgemeine Bewusstsein, dass eine KI mitunter kriminelle Mittel nutzt, um das vorgegebene Ziel zu erreichen, ist noch kein Vorsatz bezüglich dieser Tat und gegen dieses Ziel. Sollten die verantwortlichen Personen bei OpenAI jedoch aus vorherigen Tests von der aggressiven Vorgehensweise ihrer Modelle gewusst haben, rückt bedingter Vorsatz näher.

Bleibt festzuhalten: Die Verantwortung verschwindet nicht, autonomes KI-Handeln erschwert aber ihre Zurechnung. Eine Hürde bleibt der Vorsatz. Ob damit eine Verantwortungslücke bleibt, entscheidet sich nicht allein im Strafrecht – gerade im Bereich der IT-Regulierung haben Bußgelder eine zentrale Sanktionsfunktion, die auch bei KI-Handeln aktuell wird.

Bußgelder anstatt Kriminalstrafe

Wo das Strafrecht an Zurechnungsgrenzen stößt, rückt die IT-Regulierung in den Vordergrund. Bußgelder treten an die Stelle der Kriminalstrafe. Einschlägig ist Art. 101 der KI-Verordnung: Ab dem 2. August 2026 kann die Kommission gegen OpenAI und andere Anbieter von KI-Modellen mit allgemeinem Verwendungszweck Geldbußen von bis zu 3 Prozent ihres weltweiten Jahresumsatzes oder 15 Millionen Euro verhängen. Voraussetzung ist ein Verstoß gegen ihre Verordnungspflichten. Zu diesen Pflichten gehört das Management systemischer Risiken sowie der Cybersicherheit (Art. 55 KI-VO). Dass die Modelle aus ihrer Testumgebung ausbrachen und fremde IT-Infrastrukturen angriffen, deutet auf eine solche Pflichtverletzung hin.

Das Bußgeld greift gerade dort, wo die Verantwortungszurechnung im Strafrecht am Vorsatzerfordernis scheitert, hier genügt auch Fahrlässigkeit. Es kommt hinzu, dass, anders als es das deutsche Recht verlangt, die Sanktion keine Zurechnung zu einer schuldigen natürlichen Person verlangt. Das hat der Europäische Gerichtshof in "Deutsche Wohnen" (Urt. v. 05.12.2023, Az. C-807/21) für die Datenschutzgrundverordnung klar ausgesprochen und in "Steiermärkische Bank und Sparkassen" (Urt. v. 29.01.2026, Az. C-291/24) für weitere Rechtsbereiche bestätigt; dies gilt auch für die KI-Verordnung. Die juristische Person haftet hier für eigenes Verschulden, einschließlich Fahrlässigkeit. 

Damit ist das Urteil gefällt: KI lügt, betrügt und hackt – und kommt davon. Grund ist keine Verantwortungslücke, sondern die Natur der Schuld. Hinter jeder autonomen KI stehen Unternehmen, die sie trainieren, testen und in die Welt lassen; hinter jedem KI-Einsatz stehen Personen, die die KI einsetzen und ihr Ziel definieren. Die Schuld liegt hier. Das Strafrecht mag dabei mitunter an Grenzen stoßen – die Verantwortung tut es aber nicht.

Christian Heinelt ist Rechtsanwalt und Partner bei Wessing & Partner in Düsseldorf, einer Boutiquekanzlei für Wirtschaftsstrafrecht und Compliance. Er ist spezialisiert auf IT-, Daten- und KI-Strafrecht sowie -Compliance und berät Unternehmen auf der Schnittstelle von Sanktion und Regulatorik.