BRAK-Hinweis: Risiken generativer KI im Anwaltsberuf

Der CCBE (Council of Bars and Law Societies of Europe) hat in seinem Standing Committee Anfang Oktober 2025 einen Leitfaden für die Anwaltschaft zum Umgang mit generativer künstlicher Intelligenz verabschiedet. Hierauf macht die Bundesrechtsanwaltskammer (BRAK) aufmerksam.

Generative AI ist in der Lage, neue Inhalte in Form von Texten, Bildern, Audiomaterial oder Videos zu produzieren. Im EU-AI Act wird sie nicht explizit genannt, allerdings handelt es sich dabei in der Regel um General Purpose AI-Systeme im Sinne des Art. 3. Die Systeme bringen neben enormem Potential insbesondere hinsichtlich der Effizienzsteigerung auch eine Reihe von Risiken mit sich, zu nennen sind insbesondere Halluzinationen, also das Auswerfen falscher Ergebnisse, Bias, Datenschutzprobleme, urheberrechtliche und Transparenzprobleme.

Hierzu führt die BRAK weiter aus:

Generative AI wirkt sich angesichts dieser Risiken auch auf die Einhaltung anwaltlicher Berufspflichten aus.
An erster Stelle steht hier die anwaltliche Verschwiegenheit, die in Gefahr sein kann, wenn die Anwendungen eingegebene Inhalte zu Trainingszwecken weiterverwenden und insbesondere wenn andere Kanzleien dann auf die Anwendung zurückgreifen. Persönliche oder vertrauliche Daten sollten daher nicht eingegeben werden, so lange eine entsprechende Weiterverarbeitung nicht ausgeschlossen werden kann.
Anwälte müssen ferner über die erforderliche Kompetenz verfügen, wenn sie technische Produkte für ihre berufliche Tätigkeit nutzen. Daher wird zur Teilnahme an Trainings geraten.
Ebenfalls gefährdet ist die anwaltliche Unabhängigkeit, insbesondere da, wo Anwendungen voreingenommen sind und sich dies in ihren Ergebnissen auswirkt. Übernehmen Anwälte diese, ohne sie kritisch zu hinterfragen (sog. "automation complacency"), so ist ihr Rat nicht mehr objektiv und unbefangen.
Der CCBE wirft darüber hinaus aber auch einen Blick in die Zukunft und zeigt drastische Szenarien auf: So könnte aufgrund der Abhängigkeit von wenigen Anbietern mit entsprechend dominanter Position die Unabhängigkeit der Anwaltschaft und ihre Selbstverwaltung als solche gefährdet sein.