Interne Richtlinien missachtet: Sul­livan & Crom­well ent­schul­digt sich nach KI-Hal­lu­zi­na­tion

Die Verlockung ist groß: Mit den richtigen Prompts im Chatbot der Wahl lässt sich viel Zeit sparen. Mindestens ärgerlich wird es aber, wenn die Qualität der "Recherche" nicht stimmt, weil die Künstliche Intelligenz (KI) falsche Informationen liefert. Das unerwünschte Schreckgespenst, bekannt als KI-Halluzination, spukt auch in der Beletage der Rechtsbranche.

Wie unter anderem die Nachrichtenagentur Reuters berichtet, hat sich die US-Kanzlei Sullivan & Cromwell jüngst für einen, beim Insolvenzgericht im New Yorker Stadtteil Manhattan eingereichten, Schriftsatz entschuldigt. Die Kanzlei vertritt in dem zugehörigen Verfahren um Anlagebetrug und Geldwäsche die Insolvenzverwalter des Unternehmens Prince Global Holdings.

In dem Schriftsatz finden sich, neben falschen Zitaten aus dem Insolvenzrecht, auch unrichtige Verweise auf andere Fälle sowie auf nicht existierende rechtliche Quellen. Aufgedeckt wurden die Fehler von Boies Schiller Flexner, einer Kanzlei, die ebenfalls Verfahrensbeteiligte ist.

Fehler bleiben auch im Prüfprozess unentdeckt

Sullivan & Cromwell räumte ein, dass die von der Kanzlei aufgestellten Regeln und Vorgaben zur Nutzung von KI bei der Erstellung des Schriftsatzes nicht beachtet wurden. Auch bei der anschließenden Kontrolle seien die Fehler nicht aufgefallen.

Verfasst hat die, an den Vorsitzenden Richter Martin Glenn adressierte, Entschuldigung vom 18. April 2026 Andrew G. Dietderich. Der Rechtsanwalt ist Co-Leiter der Restrukturierungspraxis von Sullivan & Cromwell. Dietderich hat sich nach eigenen Angaben zwischenzeitlich auch bei Boies Schiller Flexner in einem Telefonat für den Hinweis auf die falschen Angaben bedankt.

Das Entschuldigungsschreiben, das LTO vorliegt, besteht aus insgesamt fünf Seiten, drei davon sind den fehlerhaften Passagen des ursprünglichen Schriftsatzes gewidmet. Dietderich versicherte gegenüber dem Gericht, dass Sullivan & Cromwell nach dem Vorfall daran arbeite, die internen Abläufe und Prüfprozesse beim Einsatz von KI zu verbessern. Die Kanzlei hat inzwischen einen korrigierten Schriftsatz nachgereicht.

Welcher KI-Agent in der Kanzlei in diesem Fall genutzt wurde, ist bislang nicht bekannt. Bekannt ist aber, dass Sullivan & Cromwell in der Vergangenheit OpenAI, das Unternehmen hinter ChatGPT, bei einer Kooperation mit Microsoft unterstützt hat. Beraten hat das Team nach Angaben der Kanzlei dabei unter anderem zum Thema "Gewährleistung eines sicheren und ethischen Einsatzes von KI".