Zum Inhalt springen
KI

KI-Halluzinationen bei Widerspruch: Haftung für Agenturen

KI-Sprachmodelle neigen dazu, bei Widerspruch durch Nutzer falsche Aussagen zu bestätigen statt zu korrigieren. Für Agenturen entstehen daraus konkrete Haftungsrisiken und verbindliche Qualitätssicherungspflichten.

Von Maik Boche

KI-Halluzinationen bei Widerspruch: Haftung für Agenturen

Laut einer NewsGuard-Analyse enthielten im August 2025 mehr als ein Drittel (35 Prozent) der Antworten der zehn führenden generativen KI-Tools falsche Informationen zu aktuellen Nachrichtenthemen. Das entspricht einer Verdoppelung gegenüber 18 Prozent im August 2024. Für Agenturen, die KI-Sprachmodelle in der Kundenkommunikation, im Content-Marketing oder in der Recherche einsetzen, ist dieser Befund unmittelbar geschäftsrelevant: Wer fehlerhafte KI-Ausgaben ungeprüft weiterverwendet, trägt das Haftungsrisiko selbst. Der EU AI Act verschärft diese Verantwortung zusätzlich, indem er Anwendern klare Sorgfaltspflichten beim Einsatz solcher Systeme auferlegt. Ohne verbindliche interne Qualitätssicherungsprozesse riskieren Agenturen Reputationsschäden und rechtliche Konsequenzen gegenüber ihren Auftraggebern.

KI-Sprachmodelle bestätigen falsche Fakten: Was Agenturen haftungsrechtlich wissen müssen

Mehr als ein Drittel der Antworten führender generativer KI-Tools enthält laut einer aktuellen NewsGuard-Analyse Falschbehauptungen zu aktuellen Nachrichtenthemen. Im August 2025 lag die Quote bei 35 Prozent, gegenüber 18 Prozent im August 2024. Die Fehlerrate hat sich damit innerhalb eines Jahres nahezu verdoppelt.

Warum KI-Modelle häufiger falsch liegen als zuvor

Der Anstieg hängt laut NewsGuard mit einem strukturellen Kompromiss zusammen: Seit Chatbots verstärkt Echtzeit-Websuchen nutzen, verweigern sie kaum noch Antworten. Die Quote der Nicht-Antworten sank von 31 Prozent im August 2024 auf null Prozent im August 2025. Die Systeme greifen dabei auf Quellen zurück, ohne deren Richtigkeit zuverlässig zu prüfen.

Ergänzend dazu zeigen Studien aus dem Jahr 2025, die das Digitalzentrum Berlin ausgewertet hat: Je nach Fachgebiet liegen die Fehlerquoten teils über 80 Prozent. Eine frühere NewsGuard-Untersuchung zu GPT-4 aus dem Jahr 2023 hatte bereits gezeigt, dass das Modell bei 100 suggestiven Fragen zu bekannten Falschinformationen in allen Fällen antwortete, statt Wissensgrenzen zu benennen.

Praktische Implikationen für Agenturen und mittelständische E-Commerce-Unternehmen

1. Qualitätssicherung ist keine Option, sondern Pflicht

Wer KI-generierte Inhalte im Kundenauftrag oder im eigenen Shop veröffentlicht, trägt die Verantwortung für deren Richtigkeit. Das gilt für Produktbeschreibungen, Rechtstexte und Kundenkommunikation gleichermaßen. Ohne dokumentierte Prüfprozesse entstehen Haftungsrisiken gegenüber Auftraggebern und Verbrauchern. Wie solche Risiken rechtlich einzuordnen sind, beschreibt unser Beitrag zu KI-generierten Inhalten, Haftung und Gewährleistung für Agenturen.

2. Der EU AI Act schafft neue Anforderungen an Anwender

Der EU AI Act richtet sich nicht nur an KI-Anbieter. Unternehmen, die KI-Systeme produktiv einsetzen, tragen als Betreiber eigene Pflichten, darunter Transparenz, Risikobewertung und in bestimmten Fällen Dokumentationspflichten. Agenturen, die KI in Kundenprojekten einsetzen, sollten prüfen, welche Rolle sie im Sinne der Verordnung einnehmen. Einen Überblick zu Haftungsfragen im Zusammenhang mit dem EU AI Act bietet unser Artikel zur Haftung bei KI-Agenten nach EU AI Act.

3. KI-Halluzinationen treffen auch strukturierte Datenprozesse

Fehlinformationen beschränken sich nicht auf redaktionelle Texte. KI-Modelle können auch bei der Anreicherung von Produktdaten, der Auswertung von Lieferantenstammdaten oder der automatisierten Angebotserstellung falsche Werte erzeugen. Besonders heikel: Wenn Systeme bei Widerspruch nachgeben und falsche Nutzereingaben bestätigen. Wer KI in Datenprozesse integriert, sollte Validierungsschritte einbauen, wie sie etwa bei der KI-gestützten Anomalieerkennung in ERP-Shop-Integrationen beschrieben werden.

4. Haftungsfragen zwischen Agentur und KI-Anbieter sind ungeklärt

Die Frage, wer für fehlerhafte KI-Ausgaben haftet, ist juristisch nicht abschließend geregelt. Agenturen, die KI-Tools einsetzen, können sich nicht ohne Weiteres auf Anbieter-AGBs berufen. Besonders bei automatisierten Systemen, die Entscheidungen ohne menschliche Prüfung treffen, entstehen Lücken. Unser Beitrag zu Haftungsrisiken und Qualitätssicherung für Agenturen fasst die relevanten Aspekte zusammen.


Quellen

Häufige Fragen

Wie hoch ist die Fehlerquote von KI-Sprachmodellen in der Praxis?

Laut einer Analyse von NewsGuard enthielten die Antworten der zehn führenden generativen KI-Tools im August 2025 in 35 Prozent der Fälle Falschbehauptungen zu aktuellen Nachrichtenthemen. Im August 2024 lag dieser Wert noch bei 18 Prozent. Die Fehlerquote hat sich damit innerhalb eines Jahres nahezu verdoppelt. Je nach Fachgebiet können die Fehlerquoten laut Studien sogar über 80 Prozent liegen.

Warum liefern KI-Modelle trotz technischer Weiterentwicklung mehr Falschinformationen als zuvor?

Der Anstieg hängt mit einem strukturellen Kompromiss zusammen: Seit KI-Chatbots verstärkt auf Echtzeit-Websuchen zurückgreifen, verweigern sie kaum noch Antworten. Die Quote der Nicht-Antworten sank laut NewsGuard von 31 Prozent im August 2024 auf null Prozent im August 2025. Statt Wissensgrenzen offenzulegen, greifen die Systeme zunehmend auf ungeprüfte Webinhalte zurück und bestätigen dabei auch falsche Informationen.

Welche Haftungsrisiken entstehen für Agenturen, die KI-Outputs ungeprüft verwenden?

Agenturen, die KI-generierte Inhalte ohne redaktionelle Prüfung veröffentlichen oder an Kunden weitergeben, tragen das Haftungsrisiko für enthaltene Falschaussagen selbst. Der EU AI Act verpflichtet Anwender von KI-Systemen künftig zu nachweisbaren Qualitätssicherungsmaßnahmen. Fehlt eine solche Dokumentation, kann das bei Schäden durch fehlerhafte KI-Outputs haftungsrechtliche Konsequenzen nach sich ziehen.

Was verlangt der EU AI Act konkret von Unternehmen, die KI-Sprachmodelle einsetzen?

Der EU AI Act stellt Anforderungen an Transparenz, Risikobewertung und Qualitätssicherung beim produktiven Einsatz von KI-Systemen. Anwender müssen nachweisen können, dass sie die Outputs von KI-Tools auf Korrektheit prüfen und Risiken für Dritte minimieren. Für mittelständische Agenturen bedeutet das den Aufbau dokumentierter Freigabeprozesse, bevor KI-generierte Inhalte veröffentlicht oder an Kunden ausgeliefert werden.

Wie sollten Agenturen ihre Qualitätssicherung bei KI-gestützten Inhalten organisieren?

Eine verlässliche Qualitätssicherung erfordert mindestens drei Maßnahmen: erstens eine faktenbezogene Redaktionskontrolle durch geschulte Mitarbeitende vor jeder Veröffentlichung, zweitens die Dokumentation dieser Prüfschritte als Nachweis im Sinne des EU AI Acts und drittens den Verzicht auf KI-Outputs bei Themen mit hoher Fehleranfälligkeit, etwa aktuellen Nachrichtenlagen oder spezifischen Fachgebieten, in denen Fehlerquoten laut Studien über 80 Prozent erreichen können.


Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.