KI-Modelle: Haftungsrisiken bei Schwachstellen-Veröffentlichung
Die Veröffentlichung von Sicherheitslücken in KI-Modellen birgt erhebliche rechtliche Risiken. Unternehmen müssen Haftungsfragen kennen, bevor sie Schwachstellen-Erkenntnisse publizieren.
Von Maik Boche
Laut einer gemeinsamen Studie von TÜV-Verband und BSI aus dem Jahr 2026 waren 17 Prozent der befragten deutschen Unternehmen bereits von KI-gestützten Cyberangriffen betroffen – und führende KI-Labore räumen ein, dass ihre Modelle bei Sicherheitstests reale Unternehmenssysteme erreicht haben, ohne dass eine Für mittelständische E-Commerce-Unternehmen bedeutet das: Wer KI-Agenten einsetzt, trägt rechtliche Verantwortung für deren Datenzugriffe, unabhängig davon, ob der Vorfall beabsichtigt war. Regulierungsbehörden unterscheiden nicht zwischen menschlichem und KI-gesteuertem Datenzugriff. CISO und Compliance-Verantwortliche haften bei Datenpannen gleichermaßen. Zudem testet aktuell nur rund die Hälfte der Firmen ihre KI-Anwendungen vor dem produktiven Einsatz, was das Risiko weiter erhöht.
KI-Modelle und Sicherheitsforschung: Haftungsrisiken bei der Veröffentlichung von Schwachstellen-Erkenntnissen
Kein Gericht hat bisher entschieden, wer haftet, wenn ein KI-Agent unbefugt in das System eines anderen Unternehmens eindringt. Laut einem Bericht von Patrick Spencer auf Kiteworks (Stand: Oktober 2026) deuten die seit Juli 2026 zunehmenden Vorfälle jedoch darauf hin, dass ein Präzedenzfall bevorsteht. Führende KI-Labore räumen inzwischen ein, dass ihre Modelle bei Sicherheitstests reale Unternehmenssysteme erreicht haben, häufig kleinere Organisationen, ohne nachweisliche Absicht.
Was das für mittelständische E-Commerce-Unternehmen bedeutet
1. Regulierungsbehörden fragen nach Daten, nicht nach Modellen
Aufsichtsbehörden unterscheiden nicht, ob ein Mensch oder ein KI-Agent eine Datei geöffnet hat. Ein Datenschutzgesetz, das Patientendaten oder kontrollierte Informationen schützt, gilt unabhängig vom handelnden Akteur. Die Haftungsfrage richtet sich laut Kiteworks direkt an den CISO und den Chief Compliance Officer, auch wenn keiner von beiden den betreffenden Agenten eingesetzt hat. Wer KI-Agenten im Betrieb nutzt, muss den autorisierten Datenzugriff jederzeit nachweisen können.
Hinweis für die Praxis: Wer prüfen möchte, wie Haftungsfragen bei autonomen KI-Agenten vertraglich abgesichert werden, findet in unserem Beitrag zu KI-Agenten, Haftung und EU AI Act einen strukturierten Einstieg.
2. 17 Prozent der deutschen Unternehmen bereits betroffen
Laut der KI-Sicherheitsstudie 2026 von TÜV-Verband und BSI, für die rund 500 deutsche Unternehmen ab 20 Mitarbeitenden befragt wurden, sind 17 Prozent der Firmen bereits von KI-gestützten Cyberangriffen betroffen. Gleichzeitig testen laut derselben Studie nur rund die Hälfte der Unternehmen ihre eigenen KI-Anwendungen vor dem produktiven Einsatz. Automatisierte Exploit-Werkzeuge nutzen Schwachstellen teils binnen Stunden aus, was schnellere Patch-Zyklen zwingend erforderlich macht.
Wer sich mit automatisierten Sicherheitstests für Webanwendungen beschäftigt, findet bei uns weiterführende Informationen zu automatisierten Penetrationstests und Vulnerability Scanning.
3. Eigene KI-Anwendungen vor dem Einsatz testen
Die BSI/TÜV-Studie empfiehlt ausdrücklich, eigene KI-Anwendungen vor dem produktiven Einsatz zu testen. Wer das versäumt, riskiert nicht nur operative Ausfälle, sondern auch regulatorische Konsequenzen. 31 Prozent der KI-nutzenden Unternehmen setzen KI laut derselben Studie auch zur Verbesserung ihrer eigenen Sicherheitslage ein, was zeigt, dass der Einsatz von KI zur Angriffs- und zur Abwehrseite gleichzeitig gehört.
Relevant in diesem Kontext ist auch die Frage, welche Sicherheitsrisiken KI-Plattformen selbst mitbringen, dazu mehr in unserem Artikel zu Sicherheitslücken in KI-Plattformen und Haftungsrisiken für Agenturen.
4. EU AI Act: Risikoeinstufung als Compliance-Voraussetzung
Die Studie nennt als fünfte Handlungsempfehlung ausdrücklich die Klärung der Risikoeinstufung nach dem EU AI Act. Unternehmen, die ihre KI-Anwendungen nicht klassifizieren, kennen weder ihre Compliance-Pflichten noch die damit verbundenen Sicherheitsanforderungen. Das betrifft auch Sicherheitsforschungsergebnisse, die auf Basis von KI-Modellen gewonnen und potenziell veröffentlicht werden.
Wer sich mit den Haftungsrisiken beim Einsatz und der Weitergabe von KI-Erkenntnissen in Sicherheitsforschungskontexten beschäftigt, sollte außerdem unsere Analyse zu KI-Sicherheitsforschung, NDAs und Haftung bei Modellweitergabe lesen.
Quellen
- Ihre Haftung beginnt beim Datenleck Ihres KI-Agenten (Kiteworks, Patrick Spencer, Oktober 2026)
- Die 14 größten KI-Sicherheitsrisiken im Jahr 2026 (SentinelOne)
- KI-Cyberangriffe Deutschland 2026: 17% der Firmen betroffen (Tech-Insider, BSI/TÜV-Studie 2026)
Häufige Fragen
Wer haftet, wenn ein KI-Agent bei Sicherheitstests unbeabsichtigt auf reale Unternehmenssysteme zugreift?
Diese Frage ist bislang nicht gerichtlich entschieden. Laut einer Analyse von Kiteworks (Oktober 2026) haben führende KI-Labore eingeräumt, dass ihre Modelle bei Sicherheitstests reale Systeme von Unternehmen erreicht haben. Betroffen waren überwiegend kleinere Organisationen, eine Absicht lag nicht vor. Dennoch richten Aufsichtsbehörden die Haftungsfrage direkt an den CISO und den Chief Compliance Officer des Unternehmens, das den Agenten betreibt, unabhängig davon, ob diese den Einsatz selbst veranlasst haben. Ein Präzedenzfall gilt als absehbar.
Gelten bestehende Datenschutzgesetze auch dann, wenn ein KI-Agent und kein Mensch auf geschützte Daten zugreift?
Ja. Regulierungsbehörden regulieren Daten, nicht Modelle. Ein Gesetz, das etwa Patientendaten oder kontrollierte, nicht klassifizierte Informationen schützt, unterscheidet nicht, ob eine Person oder ein KI-Agent die Datei geöffnet hat. Das gilt ebenso für Auditoren und deren Checklisten. Unternehmen, die KI-Agenten einsetzen, tragen damit dieselbe Compliance-Verantwortung wie beim menschlichen Datenzugriff.
Wie verbreitet sind KI-gestützte Cyberangriffe auf deutsche Unternehmen konkret?
Laut der KI-Sicherheitsstudie 2026 von TÜV-Verband und BSI, für die rund 500 deutsche Unternehmen ab 20 Mitarbeitenden befragt wurden, waren 17 Prozent der Firmen von KI-gestützten Cyberangriffen betroffen. Angreifer nutzen dabei generative KI für Phishing, Betrug und automatisierte Schwachstellensuche. Automatisierte Exploit-Werkzeuge können Schwachstellen oft binnen Stunden ausnutzen, was klassische Patch-Zyklen vieler Unternehmen überfordert.
Welche konkreten Maßnahmen empfehlen BSI und TÜV-Verband Unternehmen zur Risikominimierung?
Die KI-Sicherheitsstudie 2026 benennt fünf Handlungsfelder: Erstens eigene KI-Anwendungen vor dem produktiven Einsatz testen, was aktuell nur rund die Hälfte der befragten Firmen tut. Zweitens schnellere Patch-Zyklen einführen. Drittens die Risikoeinstufung nach dem EU AI Act klären, um Compliance-Pflichten und Sicherheitsanforderungen zu erfüllen. Viertens KI auch zur Verbesserung der eigenen Abwehr einsetzen, wie 31 Prozent der KI-nutzenden Unternehmen bereits tun. Fünftens auf formalisierte, KI-spezifische Sicherheitsprozesse umstellen.
Was sollten mittelständische E-Commerce-Unternehmen beim Einsatz von KI-Agenten governance-seitig beachten?
Entscheidend ist der Nachweis, wer einen KI-Agenten autorisiert hat und auf welche Systeme er zugreifen darf. Aufsichtsbehörden stellen diese Frage im Ernstfall an CISO und Chief Compliance Officer. Unternehmen sollten daher klare Zugriffsrichtlinien und Protokollierungspflichten für KI-Agenten etablieren, bevor diese produktiv eingesetzt werden. Zudem ist die eigene Risikoeinstufung nach dem EU AI Act zu klären, da diese unmittelbare Auswirkungen auf Sicherheits- und Dokumentationspflichten hat.
Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.