Digitalisierung im Strafprozess: Recht­li­cher Schutz vor dem KI-Richter drin­gend geboten

Die Aufmerksamkeit, die die Künstliche Intelligenz (KI) zunehmend auch von Juristinnen und Juristen erfährt, wird so schnell nicht enden. Im Gegenteil. Zu erwarten ist, dass KI in den nächsten Jahren massiv in das Rechtsleben einziehen wird, in Behörden, Gerichte, Anwaltskanzleien. Von allen Verheißungen der KI-Industrie ist die der Kostenersparnis die attraktivste und gewiss à la longue wirkungsvollste. Wie beispielsweise im 19. Jahrhundert mechanische Webstühle Scharen traditioneller Handweber kostengünstig ersetzten, werden künftig KI-Systeme zahlreiche Angehörige der Justiz, der Verwaltung und der Rechtsanwaltschaft ersetzen. Ein typischer Fall technologischen Strukturwandels.

Gerade rechtliche Angelegenheiten sind für digitale Bearbeitungen gut geeignet, wie die zahlreichen Angebote von und Nachfragen nach Legal Tech belegen. Ist doch das Recht zum einen stark formalisiert, zum anderen auf Wenn-dann-Entscheidungen ausgerichtet. Da mihi facta, dabo tibi ius – Gib mir die Tatsachen, ich gebe Dir das Recht. Das kann KI schon jetzt, recht und schlecht, und wird sie künftig immer besser können, vor allem aber kostengünstiger als der Mensch.

Fluch der Digitalisierung?

Wirtschaftliche Motive, nämlich die Verschaffung von Wettbewerbsvorteilen für Unternehmen, sind ein primäres Anliegen der im August 2024 in Kraft getretenen europäischen Verordnung über künstliche Intelligenz (KI-Verordnung [VO]). Aber auch sonstige "gute Ergebnisse für Gesellschaft und Umwelt" sind intendiert, u.a. im Bereich der Justiz. Dazu zählt explizit die Strafverfolgung, hinsichtlich derer die KI-VO an die Verwendung spezieller KI-geleiteter Ermittlungsmethoden zwar strenge Anforderungen stellt, solche aber nicht grundsätzlich verbietet (z.B. Gesichtserkennungsmaßnahmen, Rückfallprognosen, Lügendetektoren).

Die Verwendung von KI im Bereich der Strafverfolgung ist in gewisser Hinsicht zwangsläufig, vor allem, was die Auswertung sichergestellter Daten anbelangt. Die von Staat und Gesellschaft tagtäglich produzierten Datenmengen können, wenn sie mittels digitaler Technik strafprozessual erfasst werden, letztlich nur mittels solcher ausgewertet werden. Frei nach Friedrich Schiller: Das eben ist der Fluch der Digitalisierung, dass sie, fortzeugend, immer Digitales muss gebären. Das geschieht schon jetzt mittels spezieller Datenauswertungstools, wie sie von konkurrierenden Unternehmen vielfach angeboten werden, wobei es für deren Anwendung kaum rechtliche Regelungen gibt. Strafprozessrechtlich gesehen, befinden wir uns derzeit noch im digitalen Naturzustand. Dass das in rechtsstaatlicher Hinsicht problematisch ist (Vorbehalt des Gesetzes), dürfte auf der Hand liegen.

Es ist so bequem, unmündig zu sein

Problematisch ist aber noch etwas anderes. Die Ersetzung von Menschen durch "Roboter" kommt der menschlichen Neigung zur Bequemlichkeit entgegen, die vor circa 240 Jahren der große Immanuel Kant als das größte Hemmnis der Aufklärung ausgemacht hat, worunter er bekanntlich den "Ausgang des Menschen aus seiner selbst verschuldeten Unmündigkeit" verstand. "Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen … Es ist so bequem, unmündig zu sein. Habe ich ein Buch, das für mich Verstand hat, einen Seelsorger, der für mich Gewissen hat, einen Arzt, der für mich die Diät beurteilt, usw., so brauche ich mich ja nicht selbst zu bemühen." Habe ich eine KI, die für mich denkt, muss ich nicht Stunden mit der Erstellung von Verwaltungsakten, Urteilen oder Schriftsätzen verbringen.

Zur "Unmündigkeit" trägt nicht zuletzt der von den Psychologen sogenannte Automation Bias bei, d.h. die Neigung des Menschen, sich insbesondere bei komplexen Tätigkeiten zu sehr auf entscheidungsunterstützende automatische Systeme zu verlassen bis hin zur Unfähigkeit, sich in der Praxis den Handlungsvorschlägen eines komplexen algorithmischen Systems entziehen zu können.

Diese Neigung ist nicht nur deswegen gefährlich, weil KI auf ihre Weise durchaus fehleranfällig ist, sondern auch im Hinblick darauf, dass Algorithmen die Wertvorstellungen ihrer Programmierer enthalten. Letztlich bedienen sich Verwender von KI fremder Leitung, wie Kant sagen würde. Mündigkeit bedeutet demgegenüber: sich mutig seines eigenen Verstandes zu bedienen (Kant) – und KI zu hinterfragen.

"Machine Learning"

Der eigentliche Clou von KI, das sogenannte maschinelle Lernen, ist zugleich ihr größtes Geheimnis; denn es ist sogar für Fachleute mehr oder weniger undurchsichtig, sei es aus technischen, sei es aus kommerziellen Gründen. 

Die Fähigkeit zum selbständigen Erzeugen von Output mittels "maschinellen Lernens" unterscheidet KI-Systeme von herkömmlicher Informationstechnik, die (lediglich) Auswertungen von eingespeicherten Daten nach bestimmten Vorgaben produziert. Ihre eigentümliche Autonomie verdanken KI-Systeme ihrem mathematischen oder algorithmischen Kern, der in Art. 3 Nr. 63 KI-VO mit dem Begriff "KI-Modell" bezeichnet wird. In der möglichen Verzerrung der Trainingsdaten oder des Algorithmus selbst liegt die wohl größte potenzielle Gefahr von KI – der sogenannte Machine Learning Bias.

Was also tun?

Regeln tun not

Nimmt man Erwägungsgrund 1 der KI-VO ernst, wonach die Entwicklung, das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen "im Einklang mit den Werten der Union" festgelegt werde, muss man ergänzende strafprozessuale Normen schaffen, die das Verhältnis von KI und menschlichen Entscheidungen regeln. Zu den Eigentümlichkeiten künstlicher Intelligenz gehört es jedenfalls bislang, dass sie nicht aus sich selbst heraus imstande ist, Wertentscheidungen zu treffen.

Wertentscheidungen spielen im Recht neben den konditionalen Programmen (wenn-dann) eine große Rolle, man denke nur an den Grundsatz der Verhältnismäßigkeit mit seinem Gebot der Mittel-Zweck-Abwägung. Der ausgewogene, angemessene Interessenausgleich ist seit jeher eine Leitidee des Rechts, verkörpert in der Waage als Symbol des Rechts. Ob es möglich ist, Maschinen ideelle Werte einzupflanzen, ist fraglich. Und wenn sie es könnten: Wer bestimmt welche Werte wie? Die im Strategiepapier des E-Justice-Rates für den Einsatz künstlicher Intelligenz verkündete "Mission", wonach die Justiz in Bund und Ländern "verantwortungsvolle, gerechte, nachvollziehbare und verlässliche Künstliche Intelligenz" einsetzt, ist ohne weitere Regelungen naiv euphemistisch.

Recht auf menschliche Entscheidung im Strafverfahren 

Im Hinblick auf das Strafrecht halte ich es für geboten, verfassungsrechtlich zu verankern, dass in allen Phasen des Strafverfahrens Entscheidungen über wesentliche Grundrechtseingriffe von menschlichen Entscheidungsträgern bei den Staatsanwaltschaften und Gerichten zu treffen und persönlich zu verantworten sind – nicht nur endgültige Entscheidungsfindungen, wie in Erwägungsgrund 61 KI-VO vorgesehen. Ich plädiere mithin für die Anerkennung eines grundrechtsgleichen Rechts auf menschliche Entscheidung im Strafverfahren. 

Ein solches Recht lässt sich letztlich mit der Idee der Menschenwürde begründen, die zu achten und zu schützen alle staatliche Gewalt verpflichtet ist (Art. 1 Abs. 1 GG). Nicht schon deswegen, weil automatisierte Rechtsanwendungen per se den Menschen zum Objekt staatlichen Handelns herabwürdigen; sondern, weil das Strafverfahren auf die Feststellung der Schuld eines Menschen, verstanden als Vorwerfbarkeit eines bestimmten menschlichen Handelns, und auf seine gerechte Bestrafung abzielt. Die Menschenwürde als oberster Wert der Verfassung verlangt von den Strafverfolgungsbehörden und Gerichten, den Beschuldigten niemals nur als Mittel zur Verfolgung generalpräventiver Zwecke im Strafrecht zu gebrauchen, sondern als Zweck an sich selbst; denn eben darin besteht der ethische Kerngehalt der Menschenwürde.

Da maschinelle Intelligenz immer auf Programmen basiert, fehlt allen Computern die durch eigene Erfahrungen gewonnene Menschenkenntnis sowie ein intrinsisches Interesse am Menschen – beides Eigenschaften, die gerade für strafrechtliche Tätigkeiten unerlässlich sind. KI vermag nicht, sich in die mentalen Zustände von Menschen hineinzuversetzen, also in ihre Gefühle, Gedanken und Intentionen, sondern kann Empathie nur simulieren. Und es fehlt ihr die Dimension der Verantwortung, die sie zwar beschreiben kann, aber nicht versteht und insbesondere nicht hat.

Recht auf Offenlegung der Verwendung von KI-Systemen und ihrer Funktionsweise

Für geboten halte ich des Weiteren rechtliche Sicherungen dahingehend, dass alle Verfahrensbeteiligten, namentlich der Beschuldigte, von der Verwendung von KI im Strafverfahren Kenntnis erlangen und in die Lage versetzt werden diese nachzuvollziehen und gegebenenfalls in Frage zu stellen.

Mit anderen Worten: Es bedarf des rechtlichen Schutzes vor einem KI-Richter "hinter" dem entscheidenden menschlichen Richter. Dessen Ausgestaltung ist heutzutage die vielleicht größte rechtspolitische Herausforderung im Bereich des Strafprozessrechts.

Der Autor Prof. Dr. Dr. Alexander Ignor ist Rechtsanwalt in der Berliner Kanzlei Ignor & Partner GbR und lehrt an der Humboldt Universität zu Berlin Strafrecht und Strafprozessrecht.

Bei dem Text handelt es sich um eine Zusammenfassung eines wissenschaftlichen Beitrags mit Literatur- und Rechtsprechungsbelegen, der in der Zeitschrift "StV – Strafverteidiger Spezial", Heft 2, 2026, erschienen ist. Die Zeitschrift wird wie LTO von Wolters Kluwer herausgegeben. Sie ist als Einzelausgabe hier und als Abo hier erhältlich.