Fokus: Haftung eines Unternehmens für Falschaussagen eines KI-Chatbots

Ein Beitrag von Prof. Dr. Peter Steinberg

Das OLG Hamm hatte darüber zu urteilen, ob ein Unternehmen für irreführende Aussagen eines KI-Chatbots haftet, auch wenn dieser zuvor mit ausschließlich korrekten Daten trainiert wurde. Lesen Sie im Folgenden, warum die wettbewerbsrechtliche Haftung bejaht wurde (OLG Hamm, Urteil v. 12.5.2026 - I-4 UKI 3/25).

KI-Chatbot mit Halluzinationen

Auf der Internetseite der GmbH installierten die beiden Mediziner einen KI-Chatbot, bei dem man Termine buchen und Fragen in Echtzeit stellen konnte. Auf Nachfrage bezeichnete der KI-Chatbot die beiden Mediziner als „Fachärzte für plastische und ästhetische Chirurgie“ und als „Fachärzte für ästhetische Medizin“. Er ergänzte diese Aussage mit dem Hinweis, dass beide Mediziner über Fachwissen und Erfahrung im Bereich der individuellen Schönheitsbehandlung verfügen würden. Die jeweiligen Titel führten die beiden Mediziner offiziell nicht. In der deutschen Weiterbildungsordnung für Ärzte ist eine Fachausbildung für „ästhetische Medizin“ auch nicht vorgesehen.

Erfolglose Abmahnung

Zunächst nahm die Verbraucherzentrale NRW eine Abmahnung gegen die GmbH vor. Nach fruchtloser Abmahnung klagte die Verbraucherzentrale vor dem OLG. Sie begründete die Klage damit, dass der KI-Chatbot irreführende Angaben mache und die GmbH nach dem Unterlassungsklagegesetz (UKlaG) dafür einstehen müsse.

Die Beklagte trug vor, dass die KI-generierten Halluzinationen ihr nicht zugerechnet werden könnten, weil sie darauf keinen Einfluss habe.

Strafbewehrte geschäftliche Handlung

Das Gericht gab der Klage im vollen Umfang statt. Die Unterlassungsansprüche gemäß §§ 2 Abs. 1 Satz 1 UKlaG i. V. mit §§ 3 Abs. 1, 5 Abs. 1, Abs. 2 Nr. 3 UWG waren begründet, weil die Antworten des KI-Chatbots irreführend waren. Denn die Antworten enthielten zur Täuschung geeignete unrichtige Angaben über die fachliche Qualifikation.

Verantwortung für den KI-Chatbot

Das OLG Hamm urteilte, dass die Antworten des KI-Chatbots als sogenannte unzulässige Handlungen der GmbH zu werten sind (§ 5 Abs. 1, Abs. 2 Nr. 3 Gesetz gegen den unlauteren Wettbewerb (UWG)). Auch von einem KI-Chatbot generierte Antworten sind als geschäftliche Handlungen der beklagten GmbH nach § 2 Abs. 1 Nr. 2 UWG zu qualifizieren. Insoweit sei der weit zu verstehende Begriff des „Verhaltens einer Person“ erfüllt, da auch der Einsatz von technischen Mitteln mitumfasst sei. Die GmbH sei für den Betrieb des KI-Chatbots verantwortlich und habe entsprechenden Einfluss darauf gehabt, wie der KI-Chatbot mit den Benutzern kommuniziert habe. Dieser Einfluss wurde letztlich nachgewiesen, weil die Beklagte später die Falschaussagen durch eine Umprogrammierung beseitigen konnte.

Der Einwand, dass die Handlung des KI-Chatbots der GmbH nicht zurechenbar seien, konnte das Gericht nicht folgen. Dies gelte selbst dann, wenn der KI-Chatbot zuvor ausschließlich mit korrekten Datensätzen programmiert worden ist. Denn unabhängig davon trage die GmbH die Verantwortung für die Falschangaben.

KI-Chatbot ist kein Dritter

Außerdem sei der KI-Chatbot kein „Dritter“ und deshalb komme die Anwendung der Grundsätze zur Störerhaftung vorliegend nicht in Betracht. Die GmbH wäre somit in jedem Fall verpflichtet gewesen, vor Inbetriebnahme geeignete Vorkehrungen gegen irreführende Angaben zu treffen.

__________________________________________

Dies ist ein Beitrag aus NWB BB 9/2026 Seite 263

👀 Was es sonst noch alles gibt in der NWB-Datenbank? Einfach mal reinklicken!

→ NWB DATENBANK