Deutsche Gerichte machen Unternehmen für KI-Halluzinationen haftbar: Das LG München I urteilte am 28. Mai 2026 (Az. 26 O 869/26), dass Betreiber für fehlerhafte KI-Ausgaben wie eigene Äußerungen einstehen müssen. Für mittelständische E-Commerce-Unternehmen, die KI-Agenten in Datenanalyse oder Kundenkommunikation einsetzen, ist die Haftungsfrage damit höchstrichterlich geklärt: Nicht das KI-Modell trägt die Konsequenzen falscher Ausgaben, sondern das einsetzende Unternehmen. Auch Air Canada wurde bereits verurteilt, nachdem ein Chatbot eine nicht existierende Rabattrichtlinie kommunizierte. Entscheidend ist laut LG München I und OLG Hamm das Systemdesign und dessen Überwachung, nicht der einzelne Fehler.

KI-Halluzinationen in Agenturen: Wann fehlerhafte Datenanalysen zur Haftungsfrage werden

Laut einer Analyse der YTPI Internetagentur GmbH enthält die Antwort eines KI-Systems auf Fragen zu einem konkreten Unternehmen in 96 % der Fälle einen erfundenen oder falschen Geschäftsführernamen. Bei Gründungsjahren liegt die Fehlerquote bei 78 %, bei Mitarbeiterzahlen bei 68 %. Wer KI-Systeme in der Kundenkommunikation oder Datenanalyse einsetzt, trägt laut aktueller Rechtsprechung die Verantwortung für diese Ausgaben.

Haftung liegt beim Betreiber, nicht beim Modell

Zwei aktuelle Urteile konkretisieren die Rechtslage erheblich. Das Landgericht München I entschied am 28. Mai 2026 (Az. 26 O 869/26), dass Google für falsche und ehrverletzende Aussagen in seiner KI-gestützten Suchübersicht haftet. Die KI hatte einem Münchener Verlagshaus fälschlicherweise unseriöse Geschäftspraktiken unterstellt. Das OLG Hamm bestätigte die Richtung: Unternehmen können sich nicht auf die vermeintliche Eigenständigkeit von KI-Systemen berufen. Entscheidend sei nicht der einzelne fehlerhafte Output, sondern die Einbindung des Systems in die eigene Kommunikation und Geschäftsorganisation. Die Verantwortung verlagert sich damit vom konkreten Ergebnis auf das Systemdesign und dessen Überwachung.

Für Agenturen, die KI-Systeme für Datenanalysen oder Kundenkommunikation einsetzen, bedeutet das: Der Auftraggeber haftet, wenn falsche Analysen zu Kundenschäden führen. Ein frühes Praxisbeispiel aus dem E-Commerce zeigt, wie ernst dieses Risiko ist: Air Canada wurde für haftbar befunden, nachdem sein Chatbot einem Kunden eine nicht existierende Ermäßigung für Trauerfälle angeboten hatte.

4 praktische Implikationen für mittelständische E-Commerce-Unternehmen

1. KI-generierte Analysen erfordern menschliche Freigabeprozesse

Automatisierte Berichte und Datenanalysen, die direkt in Kundenangebote oder Entscheidungen einfließen, müssen durch qualifizierte Mitarbeiter geprüft werden. Das betrifft insbesondere Preiskalkulationen, Bestandsprognosen und Bonitätsbewertungen. Wer auf KI-gestützte Freigabeprozesse und Compliance-Dokumentation verzichtet, übernimmt das volle Haftungsrisiko bei fehlerhaften Outputs.

2. Strukturierte Daten reduzieren das Halluzinationsrisiko für das eigene Unternehmen

Wenn KI-Systeme auf Anfragen zu Ihrem Unternehmen falsche Informationen liefern, liegt das häufig an fehlenden maschinenlesbaren Datenquellen. Schema Markup (Organization, LocalBusiness, Person) auf der eigenen Website gibt KI-Systemen verlässliche Fakten zur Verfügung. Dieser Ansatz ist direkt mit strukturierten Daten für SEO und KI-Sichtbarkeit verbunden. Auch die KI-gestützte Schema.org-Generierung für Rich Snippets im E-Commerce kann dabei helfen.

3. KI-Agenten im Kundensupport müssen engmaschig überwacht werden

KI-Agenten im Kundensupport geben laut Rubrik unter Umständen falsche Kontoinformationen oder erfundene Richtlinien aus. Das schädigt das Vertrauen und erfordert kostspielige Korrekturmaßnahmen. Agenturen und Unternehmen sollten KI-Agenten-Haftung und Compliance bei unbefugter Datenverarbeitung als eigenständiges Thema im Risikomanagement führen. Hinzu kommt die Frage der Haftung bei KI-Agenten nach EU AI Act.

4. Vertragsgestaltung muss KI-Outputs explizit adressieren

Agenturen, die KI-generierte Inhalte oder Analysen als Bestandteil ihrer Leistungen liefern, müssen in Kundenverträgen klären, welche Prüfpflichten beim Auftragnehmer und welche beim Auftraggeber liegen. Die Frage, wer für fehlerhafte KI-Ausgaben einsteht, ist vertraglich nicht mehr optional. Mehr dazu unter KI-generierte Inhalte in Kundenverträgen: Haftung, Urheberrecht und Gewährleistung sowie Datenschutz, KI-Modelltraining, Schadensersatz und Vertragsrisiken.

---

Quellen

• KI-Halluzinationen: Wenn KI Ihr Unternehmen erfindet | YTPI Internetagentur GmbH
• Wer haftet für KI-Halluzinationen? Zwei aktuelle Urteile des LG München I und des OLG Hamm | Datenschutzticker
• KI-Halluzinationen: Definition, Ursachen und Strategien zur Vermeidung | Rubrik

Häufige Fragen

Was sind KI-Halluzinationen und welche konkreten Schäden können sie im Agenturkontext verursachen?

KI-Halluzinationen entstehen, wenn ein KI-System sachlich falsche Informationen selbstbewusst als korrekt ausgibt. Für Agenturen bedeutet das: Analysen enthalten erfundene Kennzahlen, Wettbewerbsdaten sind fiktiv oder Kundenberichte beruhen auf nicht existierenden Quellen. Das Ergebnis sind Fehlentscheidungen auf Kundenseite, Vertrauensverlust und kostspielige Korrekturen.

Wer haftet, wenn eine Agentur mit KI-generierten Falschdaten einen Kundenschaden verursacht?

Nach aktueller Rechtsprechung haftet die Agentur als Betreiberin des KI-Systems. Das LG München I (Az. 26 O 869/26, 28.05.2026) stellte klar: KI-generierte Inhalte gelten als eigene Äußerung des Betreibers. Weder die Unvorhersehbarkeit der KI noch die Verantwortung des Modellanbieters schützen vor Haftung. Entscheidend ist das Systemdesign und dessen Überwachung.

Welche typischen Fehlerquoten bei KI-Halluzinationen sollten Agenturen kennen?

Laut einer Analyse von YTPI sind Unternehmensangaben besonders fehleranfällig: Angaben zu Geschäftsführern sind in 96 % der Fälle falsch, Gründungsjahre in 78 %, Mitarbeiterzahlen in 68 % und Auszeichnungen in 58 % der Fälle. Ursachen sind fehlende strukturierte Daten, veraltete Presseberichte und KI-Schätzungen auf Basis von Branchendurchschnittswerten.

Welche Maßnahmen reduzieren das Haftungsrisiko bei KI-gestützten Datenanalysen?

Drei Hebel sind entscheidend: Erstens strukturierte Daten per Schema Markup bereitstellen, damit KI-Systeme Fakten maschinenlesbar auslesen. Zweitens KI-Outputs vor Weitergabe an Kunden manuell prüfen. Drittens klare interne Prozesse zur Systemüberwachung dokumentieren. Beide Gerichte, LG München I und OLG Hamm, betonen: Verantwortung liegt beim Systemdesign und dessen Kontrolle.

Gibt es bereits Präzedenzfälle, in denen Unternehmen für KI-Halluzinationen verurteilt wurden?

Ja. Air Canada wurde haftbar gemacht, nachdem ein Chatbot eine nicht existierende Trauerfall-Ermäßigung angeboten hatte. In Deutschland verurteilte das LG München I Google für KI-Übersichten, die einem Verlagshaus fälschlich unseriöse Geschäftspraktiken unterstellten. Das OLG Hamm bestätigte dieselbe Richtung. Die Rechtsprechung entwickelt sich konsistent zulasten der Systembetreiber.

---

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.