KI in Schriftsätzen: Die Risiken im Rechtsverkehr

Ein Beitrag von Mark T. Singer

Verspricht die Nutzung generativer künstlicher Intelligenz (KI) insbesondere bei der rechtlichen Analyse und Formulierung behörden- und prozessorientierter Schriftsätze deutliche Effizienzgewinne im beruflichen Alltag des rechtlichen Beraters, können diesem bei ungeprüfter Übernahme der – scheinbar faktenbasierten – Ergebnisse ungewollt berufs- oder haftungsrechtliche Konsequenzen drohen, wenn die von ihm vorgetragenen juristischen Rechtsausführungen ohne jegliche juristische Substanz sind, mithin auf frei erfundenen Angaben und Belegen beruhen. Auf diese Problematik haben bereits mehrere Gerichte aufmerksam gemacht.

KI-generierte Schriftsätze als Teil des gerichtlichen/beruflichen Alltags

Beschränkten sich Fälle einer ungeprüften Übernahme sog. halluzinierter Angaben in Schriftsätzen bislang nahezu ausschließlich auf ausländische Rechtsprechung, liegen nun aber auch erste Stellungnahmen deutscher Gerichte vor. In sämtlichen Fällen bescheinigten die Gerichte dem anwaltlichen Prozessvertreter dabei eine „gedankenlose“ automatisierte Prozessführung unter Verwendung eines offenbar KI-generierten Schriftsatzes mit Textbausteinen, die „keinen Sinn“ ergaben und die eine Fülle von Fehlern, etwa frei erfundene Urteilszitate oder ganze Aufsätze erhielten. Dies erschwere die Rechtsfindung und schädige das Ansehen von Rechtsstaat und Anwaltschaft.

Internet-/Datenbankrecherche als Grundlage der Rechtsprüfung

Das Problem des Halluzinierens zeigt, dass die Leistungsfähigkeit von KI im Hinblick auf die juristischen Kernkompetenzen, zu denen die Gesetzesauslegung und die konkrete Rechtsprüfung gehören, derzeit (noch) ihre Grenzen hat. Der rechtliche Berater mit allgemeiner Beratungspraxis, dem es grds. berufsrechtlich freisteht, ob er die durch KI eröffneten Möglichkeiten zur Steigerung von Qualität und Effizienz seiner Beratungsleistungen nutzen will oder nicht, ist damit aber im Grundsatz auch nicht gehalten, online frei verfügbare Entscheidungen oder mandatsbezogene fachspezifische Stellungnahmen zur Kenntnis zu nehmen, noch ehe sie in den einschlägigen allgemeinen juristischen Fachzeitschriften (z. B. NJW oder DStR) veröffentlicht worden sind.

🔎 Wie valide ist im Internet gewonnener Output?

Maßgebend für eine Pflicht des Beraters zur Nutzung des Internets bei einer Rechtsprüfung dürfte die Frage sein, ob der im Internet gewonnene Output ebenso valide ist wie die in einer der – analogen – amtlichen Sammlungen der Bundesgerichte (BGHZ, BFHE usw.) veröffentlichten Entscheidungen. Für die in den Online-Datenbanken der Bundesgerichte veröffentlichten Entscheidungen, die nicht alle für die amtlichen Sammlungen vorgesehen sind, dürfte dies ohne Weiteres zu bejahen sein. Diese Informationsquellen genießen gleichermaßen ein besonderes Vertrauen der zutreffenden Wiedergabe von veröffentlichten Entscheidungen. Nur dieses Vertrauen kann Grund und Grenze des berufs- und haftungsrechtlichen Sorgfaltsmaßstabs bilden.

Als gewissenhaftes Organ der (Steuer-)Rechtspflege muss der Berater den Online-Output stets sorgfältig überprüfen. Schnelligkeit geht nicht vor Sorgfalt.

____________________________________________

Dies ist eine Kurzfassung des Beitrags aus NWB 2026, Seite 291

SNEAK 👀 – Exklusiv bei tax&bytes! Lesen Sie den Artikel jetzt kostenlos und in voller Länge in der NWB-Datenbank 🤫