Forschungsschwerpunkte Digitales Recht und KI

Über „künstliche Intelligenz“ wird schon lange – mal mehr, mal weniger intensiv – gesprochen.

Automaten, Algorithmen und Digitales Recht

Im 18. Jahrhundert war der Automat ein Symbol für die Ideale und Ziele der Aufklärung, nämlich die Natur, den Menschen und die Gesellschaft zu verstehen und vernünftig zu gestalten, zu optimieren und zu kontrollieren. Solche Automaten wurden tatsächlich gebaut, etwa von Jacques de Vaucanson, der unter anderem eine mechanische Ente schuf, die Körner picken, sie (scheinbar) chemisch verdauen und ausscheiden konnte. Vor allem aber war der Automat eine Figur von Gedankenexperimenten. Besonders bekannt wurde der „Laplacesche Dämon“, mit dem Pierre-Simon Laplace etwas später (1814) Zusammenhänge von Determinismus und Wahrscheinlichkeitstheorie veranschaulichte. Er bezeichnete ihn keineswegs als „Dämon“, sondern schlicht als „une intelligence“ (Essai philosophique sur les probabilités, S. 2).

Für das Recht ist ein aufklärerisches Ideal von großer Bedeutung: Verhaltenssteuerung durch vernünftige, explizite, klare und bestimmte Regeln, deren Anwendung vorhersehbar ist und die in Gesetzen stehen, die eine vom Volk ausgehende staatliche Willensbildung ausdrücken. Die Idee des Automaten zur Veranschaulichung und Präzisierung dieses Ideals lässt sich im Hinblick auf moderne Computertechnik und Informatik noch deutlich weiter schärfen als vor zwei- bis dreihundert Jahren. Das moderne Paradigma für definierte Abläufe und reproduzierbare Ergebnisse bilden Algorithmen. Die Frage nach der Bestimmtheit einer Regelung lässt sich zur Frage ihrer Algorithmisierbarkeit zuspitzen. Algorithmen sind zwar nach wie vor gedankliche Konstruktionen, lassen sich aber oft in einer Programmiersprache formulieren und auf einem Computer ausführen.

Wenn man das mit rechtlichen Regelungen macht, erhält man insoweit „digitales Recht“ im Sinne von (partiell) digitalisiertem Recht. Die Frage nach der Berechenbarkeit rechtlicher Bewertungen ist damit heute nicht mehr nur metaphorisch zu verstehen, sondern lässt sich im wörtlichen Sinne auffassen und für einige spezielle Regelungen sogar bejahen. Vor allem aber bietet sich dort, wo man sie nicht einfach bejahen kann, die Möglichkeit zu analysieren, woran eine Algorithmisierung scheitert. Das ist viel aufschlussreicher als pauschale Befunde wie „nicht ganz bestimmt“ oder „nur bedingt vorhersehbar“. Und man kann nach „digitalem Recht“ streben, wobei sich der Sinn des Ausdrucks etwas verschiebt: Er bezeichnet dann rechtliche Regelungen, die effektiv und effizient digitalisierbar sind. Selbst wenn man eine solche Digitalisierung nicht als Ziel ansieht, ist diese Perspektive zur Analyse der Struktur von Vorschriften und Entscheidungsabläufen nützlich.

Klarheit und Eindeutigkeit ergeben sich nicht von selbst, sondern immer nur durch Verzicht auf solche Aspekte, die ihnen entgegenstehen. Wo der Gewinn an Rechtssicherheit den Verzicht lohnt und wo die Vorteile zu teuer erkauft wären, lässt sich nicht allgemein beantworten. Das Paradigma der Algorithmisierung bietet auch eine Basis, dieser Frage substantiiert nachzugehen. Es ermöglicht für konkrete Zusammenhänge zu analysieren, mit welchen Nachteilen die Annäherung an das alte Ideal verbunden wäre. Man kann also nach den Bedingungen fragen, die digitales Recht (in beiderlei Sinn) erfüllen müsste.

Autonome Systeme

Das, was etwa seit der zweiten Hälfte des letzten Jahrhunderts als „künstliche Intelligenz“ bezeichnet wird, ist kein Fall der Algorithmisierung im eben skizzierten Sinne, sondern steht ihr gegenüber. Die Bemerkungen unter 1. gehören zur Rechtstheorie und zur Digitalisierung des Rechts, aber nicht zu „KI“ und „autonomen Systemen“.

Trotz ihres Namens bestehen zwar auch „autonome Systeme“ letztlich in Algorithmen. Diese werden aber nicht so eingesetzt, dass Programmierende oder Anwendende das Verhalten des Computers im Voraus gezielt bestimmen. Vielmehr werden die Geräte und ihre Programmierung darauf ausgerichtet, Umstände einer Situation erfassen, einordnen und auf sie reagieren zu können – und zwar mit Anpassungsmöglichkeiten statt strikter Regelbindung.

Das wirft etliche Kombinationen rechtsphilosophischer und rechtsdogmatischer Fragen auf, die einerseits die rechtliche Einordnung des maschinellen Verhaltens und die Haftung dafür betreffen, andererseits die Anforderungen an den Umgang mit diesen Maschinen und an deren Steuerung. 

Große Sprachmodelle

Solche „autonomen Systeme“ werden oft über Modelle maschinellen Lernens implementiert. Mit der Entwicklung der Transformer-Modelle (Vaswani et al., arXiv:1706.03762, 2017) wurde es möglich, Texte nicht mehr nur sequentiell (in „Lesereihenfolge“), sondern „parallel“ (simultan) zu verarbeiten. So lassen sich die für die Bedeutung relevanten Zusammenhänge ungleich besser maschinell verarbeiten als zuvor und zugleich das Training des Modells ungleich effizienter durchführen. Von dieser Art sind große Sprachmodelle (LLMs) wie die der Reihen GPT (bekannteste Anwendung: ChatGPT), Qwen, Claude, Gemini, Mistral etc. Sie sind statistische Vorhersagesysteme, die auf Basis einer meist mehrteiligen Texteingabe (Systemprompt, Userprompt – der oft seinerseits in einen Anweisungsteil und Begleittexte gegliedert ist – und bereits generierter Text) die jeweils wahrscheinlichste Fortsetzung als Text generieren (typischerweise überlagert mit einer gewissen, als „Temperatur“ einstellbaren Zufälligkeit).

Nach Wittgensteins in den Philosophischen Untersuchungen (1953) formulierter und als Sprachspielmodell näher ausgeführter These ist die Bedeutung eines Wortes sein Gebrauch in der Sprache; gemeint sind damit ganz alltägliche Akte des Sprechens und der Reaktionen darauf. Zu dieser These passt die Wirkweise von LLMs: Mit statistischen Mitteln erfassen sie zunächst Bedeutungen aus Texten. Texte bilden den Sprachgebrauch einschließlich der Reaktionen auf das Geschriebene zwar nie vollständig ab, doch große Textmengen mit Äußerungen und Erwiderungen liefern offenbar bereits einen Ausschnitt, der für das weitere Vorgehen oft tragfähig ist. Die Bedeutungen werden dabei nicht im menschlichen Sinne verstanden, sondern mathematisch modelliert – vor allem mit Mitteln der linearen Algebra, der Wahrscheinlichkeitstheorie und der numerischen Optimierung. Auf dieser Basis prognostizieren LLMs nachfolgende Züge des Sprachspiels. Viele der Prognosen sind so plausibel, dass sie für etliche Nutzer:innen wie eine echte menschliche Reaktion wirken. Zudem treten sehr viele Menschen mit diesen Systemen in unmittelbaren Kontakt. Entsprechend erlebt der Ausdruck „künstliche Intelligenz“ hier eine stürmische Renaissance.

Zunächst beflügelt das die Phantasie und führt zur Frage, ob demnächst Richter:innen und andere Jurist:innen „durch KI“ ersetzt werden. In dieser Allgemeinheit lässt sich das sicherlich verneinen. Es trifft aber unmittelbar zu, dass die Technik natürliche Sprache viel effektiver verarbeiten kann als bisher und dass sie beim Entwerfen von Computerprogrammen nach hinreichend konkreten Vorgaben (agentic coding) besondere Stärken hat. So entstehen ganz neue Möglichkeiten der Automatisierung, und zugleich wird es mehr Menschen möglich, auf eigene Anforderungen zugeschnittene Automatisierungen zu entwerfen. Hier besteht ein weites Forschungsfeld. Es umfasst konkrete Automatisierungen, aber auch die weitere Verbesserung der Voraussetzungen für Automatisierungen. Gerade das agentische Entwickeln von Programmen setzt für Computer prüffähige Kriterien für die richtige Umsetzung voraus, die im rechtlichen Bereich meist noch klärungsbedürftig sind. 

Ganz besondere Stärken haben die Systeme bei der Suche und Einordnung von Informationen. Weil sie selbst mit semantischer Verortung (Embedding) von Ausdrücken arbeiten, gehen die Einsatzmöglichkeiten zu Recherchezwecken weit über die hergebrachte Suche nach Stichworten, Suchmustern etc. hinaus. Den letztlich gewünschten Text unmittelbar bei einem Sprachmodell „in Auftrag zu geben“, ist meist – jedenfalls wenn es auf Qualität ankommt – weit weniger effektiv als ein schrittweise recherchierendes und den Gedankengang entwickelndes Vorgehen.

Mit diesen technischen Aspekten sind rechtliche Fragen insbesondere der KI-Regulierung, des Datenschutzes, des Urheberrechts, der Haftung und des Schutzes vor Diskriminierung verbunden. Gleiches gilt für ethische Fragen des verantwortlichen Umgangs mit Ergebnissen und des Ressourcenaufwands für eine Technik, die viel Energie und Hardware verlangt. Zudem ergeben sich gesellschaftlich-ökonomische Fragen ganz unterschiedlicher Art, namentlich der Prozessoptimierung sowie der Machtkonzentration und Monopolbildung.

Rechtsphilosophische Folgefragen

Neben diesem anwendungsorientierten Hauptfeld stehen auch theoretisch ausgerichtete Forschungsbereiche.

LLMs prognostizieren zu jedem Text eine Fortsetzung – auch dann, wenn eine kreative Reaktion verlangt wird. Die Ergebnisse wirken oft durchaus kreativ. Ob man sie schon deswegen in juristischen Zusammenhängen mit menschlicher Tätigkeit gleichsetzen sollte, mag die folgende Überlegung beleuchten: Normen sind präskriptiv. Sie bilden nicht die Welt ab, sondern schreiben vor, wie die Welt sein und bewertet werden soll, indem sie Menschen Vorgaben für ihr Verhalten machen. Der Erlass und die Anwendung von Vorschriften sind mit Entscheidungen verbunden. Diese stehen der Rechtsgemeinschaft zu; das Volk trifft sie über seine Abgeordneten in Parlamenten und über demokratisch legitimierte Rechtsprechung in seinem Namen. Dabei sind die persönlichen Freiheitssphären der Betroffenen zu achten und gegeneinander abzugrenzen. Solange man nicht bereit ist, für persönliche Entscheidungen zu sagen, das, was eine Maschine ausgibt, sei gleichwertig – und das zu sagen wäre ein Verzicht auf die eigene Autonomie –, kann man auch nicht vernünftigerweise bereit sein, dies für rechtliche Entscheidungen zu sagen. Das gilt selbst dann, wenn die Entscheidungen sich äußerlich sehr ähneln und einem keine inhaltlichen Kriterien zur Feststellung relevanter Unterschiede bekannt sind. Es wären immer noch fremde Entscheidungen statt eigener.

Etliche Hoffnungen, die auf diese Technik gesetzt werden, sind zumindest zweischneidig. Ein Beispiel: Die Beschleunigung von Verfahren hat Vorteile, doch sie kann auch verhindern, dass die Beteiligten sich gezielt in das Verfahren einbringen, sich als gehört erleben, sich auf die Entscheidung einstellen und sie am Ende als legitim anerkennen. Noch ein Beispiel: Unterstützung durch ein LLM bei der Formulierung von Anträgen an Verwaltung und Gerichte kann Recht und staatliche Leistungen kostengünstig weiter demokratisieren; wenn der generierte Text aber – von Laien unbemerkt – nicht das aussagt, was gemeint war, entsteht eine gestörte Kommunikation. Das Problem verstärkt sich, wenn das Sprachmodell zuvor Verständnis geäußert und die Sichtweise bestätigt hat. Eine danach – zu Recht – ablehnende Entscheidung zu akzeptieren, fällt viel schwerer, und das kann die staatliche Autorität untergraben.

Auch in unmittelbar sprachlicher Hinsicht sind LLMs für die juristische Forschung interessant. Das betrifft etwa die Frage, ob und wie die Bedeutung präskriptiver und performativer Sätze beim Embedding wirklich voll erfasst oder letztlich doch teilweise auf deskriptive Aspekte reduziert wird. Es betrifft aber auch fundamentale Aspekte des juristischen Umgangs mit Sprache. Texte wie Gesetze und Verträge sind so gedacht, dass bereits ihre einmalige Mitteilung eine Bedeutung fixiert. Das bereits angeführte Sprachspielmodell und viele damit verwandte linguistische Modelle analysieren Bedeutungen über Interaktionen bzw. Diskurse und begründen erhebliche Zweifel an der Idee einer einaktigen Bedeutungsfixierung. Die Funktionsweise von Transformer-Modellen kann für ein Bild sprechen, das beide Vorstellungen verbindet: Sie sind Abbild einer im Training erfassten, dabei aber auch fixierten Gebrauchspraxis, auf deren Grundlage der weitere Umgang mit Texten erfolgt. Das macht keineswegs jeden Text inhaltlich bestimmt und jede Reaktion vorhersehbar, aber es bietet eine Grundlage, die Voraussetzungen gelingender „Einmalmitteilungen“ näher zu untersuchen.