Johannes Kruse erforscht, in welchen Fällen sich KI in der Justiz einsetzen lässt. Ein Gespräch über Bias, Halluzinationen und die Frage, ob Sprachmodelle bessere Juristen sind als Menschen.
Was steht im Gesetz? Gibt es Interpretationsspielraum — und wie passt der zum konkreten Fall? Richterinnen, Anwälte und Staatsanwältinnen arbeiten vor Gericht häufig mit juristischen Kommentaren, um sich einen Überblick über Gesetzestexte, relevante Urteile und aktuelle Debatten in der Fachliteratur zu verschaffen. Ohne Kommentare geht vor Gericht also gar nichts; sie zu verfassen ist allerdings ziemlich aufwendig. Selbst Kurzkommentare zu verhältnismäßig einfachen Gesetzen kommen schon auf weit über 2000 Seiten Text. Wer soll die alle schreiben, in einem überlasteten Justizsystem?
Wir Menschen können uns gar nicht von der Tendenz lösen, unsere eigene Auffassung zu pushen — wie sehr wir es auch versuchen.
Johannes Kruse, Max-Planck-Institut zur Erforschung von Gemeinschaftsgütern
In Zukunft, sagt Johannes Kruse vom Max-Planck-Institut zur Erforschung von Gemeinschaftsgütern in Bonn, könnte hier immer häufiger eine Künstliche Intelligenz übernehmen. Die KI ist im besten Fall schneller, genauer und billiger. Und gerade bei der eher technischen Auswertung von juristischen Dokumenten kann ihre größte Schwäche zu einer Stärke werden: Die KI zeigt keine Empathie, hält die eigene Einschätzung nicht für klüger als andere Fachmeinungen und kann deshalb vielleicht sogar neutraler kommentieren als der Mensch.
Johannes Kruse hat auf diese Weise schon einen Kommentar verfasst, beziehungsweise: verfassen lassen. Zusammen mit seinem Kollegen Christoph Engel hat er einen Prototypen entwickelt, der die einschlägigen Entscheidungen zur Versammlungsfreiheit aus Artikel 8 Grundgesetz gesammelt, gesichtet und zusammengefasst hat. Die juristische Lösung eines Sprachmodells ist immer nur so gut wie der juristische Input, sagt Kruse. Der Prototyp wurde deshalb mit sehr langen, detailreichen Prompts gefüttert, damit die KI nicht anfängt, sich Urteile auszudenken. Schließlich kam es in der Vergangenheit immer wieder zu Fällen, in denen KI vor Gericht Präzedenzfälle, Zitate oder Argumente halluziniert hat. Nicht immer ist KI vor Gericht eine gute Lösung, findet deshalb auch Kruse. KI-generierte Kommentare sind für ihn vor allem ein Grundgerüst, die finale Einschätzung sollten Juristinnen und Juristen dann schon selbst leisten.
Ohne jeglichen Bias haben wir auch keine menschliche Entscheidung mehr. Wollen wir das?
Johannes Kruse
Was kann KI vor Gericht? Worum geht es bei Smart Sentencing, und wie kann man eine KI so trainieren, dass sie keine Gerichtsurteile halluziniert? Über all das spricht detektor.fm-Moderatorin Jessica Hughes in der Folge von „Ach, Mensch!“ mit Johannes Kruse vom Bonner Max-Planck-Institut zur Erforschung von Gemeinschaftsgütern.