KI-Agenten agieren zunehmend autonom und greifen dabei auf sensible Nutzerdaten zu. Welche Haftungsrisiken entstehen und welche Compliance-Maßnahmen E-Commerce-Unternehmen jetzt ergreifen müssen.

KI-Agenten verarbeiten eigenständig Kundendaten, Verträge und E-Mails, ohne dass Sicherheitsteams davon wissen, und verstoßen dabei gegen DSGVO und KI-Verordnung, wie Rechtsexperten von e-recht24.de (Stand: 1. Juli 2025) warnen. Für mittelständische E-Commerce-Unternehmen bedeutet das konkrete Haftungsrisiken: Wer KI-Agenten ohne klare Verantwortlichkeiten, ohne dokumentierte Rechtsgrundlage für die Datenverarbeitung und ohne Nutzeraufklärung einsetzt, riskiert Bußgelder nach der DSGVO sowie Verstöße gegen die KI-Verordnung. Besonders kritisch: No-Code-Tools ermöglichen es einzelnen Fachabteilungen, in kurzer Zeit Agenten mit Zugriff auf sensible Systemdaten zu bauen, ohne das Sicherheitsteam einzubeziehen. Compliance ist hier keine IT-Frage, sondern eine Führungsentscheidung.

KI-Agent-Sicherheitsvorfälle: Haftung und Compliance wenn Agenten Nutzerdaten unbefugt verarbeiten

KI-Agenten greifen eigenständig auf Kundendatenbanken, Finanzunterlagen, Verträge und E-Mails zu, ohne dass Sicherheitsteams davon wissen, so die Einschätzung von Tim Freestone auf Kiteworks (Stand: Februar 2026). Wer im B2B-E-Commerce KI-Agenten einsetzt, trägt die volle rechtliche Verantwortung für jede Datenverarbeitung, die diese Systeme eigenständig ausführen.

Was KI-Agenten von klassischen Tools unterscheidet

KI-Agenten sind Softwareprogramme, die eigenständig Aufgaben erledigen. Sie nehmen ihre Umgebung wahr, analysieren Informationen, treffen Entscheidungen und führen Aktionen aus, ohne dass ein Mensch jeden Schritt freigeben muss (Cortina Consult). Dabei lernen sie aus vergangenen Interaktionen und verbessern sich kontinuierlich.

Der entscheidende Unterschied gegenüber einem KI-Assistenten wie ChatGPT: Ein Agent handelt aktiv. Er kann eigenständig E-Mails versenden, Bestellungen auslösen oder Kundendaten abrufen. Das führt unmittelbar zu datenschutzrechtlicher Relevanz, denn der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) betont ausdrücklich, dass diese Autonomie besondere Anforderungen mit sich bringt.

In vielen mittelständischen Unternehmen entstehen KI-Agenten heute über No-Code- und Low-Code-Plattformen in wenigen Minuten, oft ohne Einbindung der IT-Sicherheit. Kiteworks beschreibt das Szenario konkret: Ein Marketing-Team baut einen Agenten an einem Dienstag, der Aufbau dauert etwa zwanzig Minuten.

Praktische Implikation 1: DSGVO-Compliance liegt beim Unternehmen, nicht beim Agenten

Unternehmen müssen beim Einsatz von KI-Agenten die Vorgaben der DSGVO und der KI-Verordnung (EU AI Act) einhalten (e-recht24.de, Stand: Juli 2025). Das bedeutet konkret:

Für jede Datenverarbeitung durch den Agenten brauchen Sie eine Rechtsgrundlage.
Betroffene Personen müssen aufgeklärt werden, dass ein KI-Agent ihre Daten verarbeitet.
Verantwortlichkeiten müssen klar dokumentiert sein, bevor ein Agent produktiv geht.

Wenn ein KI-Agent Nutzerdaten unbefugt verarbeitet, ist nicht der Agent haftbar, sondern das Unternehmen, das ihn betreibt. Mehr zu den übergreifenden Haftungsfragen lesen Sie unter KI-Agenten: Haftung, EU AI Act und Verantwortlichkeit.

Praktische Implikation 2: Drei Schwachstellen, die Sicherheitsverantwortliche kennen müssen

Kiteworks benennt drei strukturelle Angriffspunkte, die bei KI-Agenten besonders kritisch sind:

Schwachstelle 1: Agenten mit übermäßigem Datenzugriff. Viele Agenten erhalten bei der Einrichtung zu weitreichende Berechtigungen. Sie können Daten sehen, die sie für ihre Aufgabe nicht benötigen.

Schwachstelle 2: Datenverluste ohne Rückverfolgung. Daten, die ein Agent aus internen Systemen abzieht und an externe Dienste weitergibt, sind häufig nicht protokolliert und damit im Nachhinein nicht rekonstruierbar.

Schwachstelle 3: Prompt-Injection und Machine-to-Machine-Phishing. Angreifer manipulieren die Eingaben eines Agenten gezielt, um ihn dazu zu bringen, unerlaubte Aktionen auszuführen. Klassische Perimeter-Sicherheit erkennt diese Muster nicht.

Wie Sie Sandbox-Grenzen bei KI-Agenten technisch absichern, erläutert der Artikel zu Sandbox Escapes und KI-Agenten-Isolationsrisiken.

Praktische Implikation 3: Keine klassische Sicherheitslösung schützt ausreichend

Klassische Sicherheitsarchitekturen basieren auf Perimeter-Schutz: Sie sichern den Übergang zwischen innen und außen. KI-Agenten bewegen sich jedoch innerhalb des Perimeters und greifen auf Systeme zu, die als vertrauenswürdig gelten. Kiteworks empfiehlt daher einen Wechsel zu datenorientierter Agenten-Governance: Jede Dateninteraktion eines Agenten muss protokolliert, begrenzt und überprüfbar sein.

Für E-Commerce-Unternehmen mit ERP-, PIM- und CRM-Anbindung bedeutet das: KI-Agenten dürfen nur die Systeme erreichen, die für ihre spezifische Aufgabe notwendig sind. Jede Aktion muss einem verantwortlichen Menschen zugeordnet werden können. Verwandte Governance-Fragen für automatisierte Systeme im B2B-Kontext behandelt der Beitrag zu KI-Agenten: Content-Workflows, Haftung und Compliance.

Praktische Implikation 4: Rechtliche Mindestanforderungen vor dem Go-live

e-recht24.de nennt drei Maßnahmen, die vor dem produktiven Einsatz eines KI-Agenten unerlässlich sind:

Klare Verantwortlichkeiten: Wer ist intern für den Agenten zuständig? Wer prüft seine Aktionen?
Rechtsgrundlage für die Datenverarbeitung: Artikel 6 DSGVO muss für jeden Verarbeitungsvorgang erfüllt sein.
Nutzeraufklärung: Kunden und Geschäftspartner müssen wissen, wenn ein KI-Agent mit ihren Daten arbeitet.

Hinzu kommt die Anforderung aus der KI-Verordnung, wonach Systeme mit bestimmten Risikoeinstufungen zusätzliche Transparenz- und Dokumentationspflichten erfüllen müssen. Datenschutzrechtliche Schadensersatzrisiken beim KI-Einsatz beleuchtet der Artikel Datenschutz, KI-Modelltraining und Schadensersatz.

Fazit

KI-Agenten sind kein hypothetisches Sicherheitsrisiko für die Zukunft. Sie sind heute in mittelständischen Unternehmen im Einsatz, oft ohne formale Sicherheitsprüfung. Die rechtliche Verantwortung verbleibt vollständig beim Unternehmen. Wer jetzt handelt und klare Governance-Strukturen, minimale Zugriffsrechte und Protokollierungspflichten einführt, reduziert sowohl das Haftungsrisiko als auch die Angriffsfläche für Datenverluste.

Quellen

Häufige Fragen

Wer haftet, wenn ein KI-Agent im Unternehmen Nutzerdaten unbefugt verarbeitet?

Die Haftung liegt beim Unternehmen, das den KI-Agenten einsetzt. KI-Agenten besitzen keine eigene Rechtspersönlichkeit. Das Unternehmen gilt datenschutzrechtlich als Verantwortlicher im Sinne der DSGVO und muss sicherstellen, dass eine Rechtsgrundlage für jede Datenverarbeitung vorliegt. Klare interne Verantwortlichkeiten sind deshalb unerlässlich, bevor ein KI-Agent produktiv eingesetzt wird.

Welche Compliance-Vorgaben muss ich beim Einsatz von KI-Agenten zwingend beachten?

Mindestens zwei Rechtsrahmen sind relevant: die DSGVO und die EU-KI-Verordnung. Die DSGVO verlangt eine nachweisbare Rechtsgrundlage für die Verarbeitung personenbezogener Daten sowie die Aufklärung betroffener Nutzer. Die KI-Verordnung stellt je nach Risikoklasse des Systems zusätzliche Anforderungen an Transparenz und Dokumentation. Unternehmen sollten beide Regelwerke vor dem Rollout prüfen.

Wie entsteht überhaupt ein Sicherheitsvorfall durch KI-Agenten, und warum bleibt er oft unbemerkt?

KI-Agenten werden häufig von Fachabteilungen mit No-Code- oder Low-Code-Tools gebaut, ohne Einbindung des Sicherheitsteams. Ein solcher Agent kann innerhalb von Minuten Zugriff auf Kundendatenbanken, Finanzunterlagen oder E-Mails erhalten und rund um die Uhr autonom handeln. Da er weder um Erlaubnis fragt noch klassische Zugriffsprotokolle auslöst, bleibt sein Existenz der IT-Sicherheit oft vollständig verborgen. Klassische Perimeter-Sicherheitslösungen erkennen dieses Verhalten in der Regel nicht.

Welche konkreten Schwachstellen bei KI-Agenten gefährden sensible Nutzerdaten besonders?

Sicherheitsexperten identifizieren drei zentrale Schwachstellen: Erstens können Agenten übermäßig weitreichende Zugriffsrechte erhalten und so deutlich mehr Daten einsehen als für ihre Aufgabe notwendig. Zweitens können Daten, die ein Agent verarbeitet oder weiterleitet, das Unternehmen dauerhaft verlassen, ohne dass dies nachvollziehbar dokumentiert wird. Drittens sind KI-Agenten selbst Angriffsziel für sogenannte Prompt-Injection-Angriffe, bei denen Angreifer Maschinen statt Menschen manipulieren, um unautorisierten Datenzugriff zu erlangen.

Was sollte ein mittelständisches E-Commerce-Unternehmen sofort umsetzen, um Haftungsrisiken durch KI-Agenten zu reduzieren?

Drei Maßnahmen haben unmittelbare Wirkung: Erstens sollten alle im Unternehmen betriebenen KI-Agenten inventarisiert werden, einschließlich jener, die Fachabteilungen eigenständig erstellt haben. Zweitens sind die Zugriffsrechte jedes Agenten auf das tatsächlich erforderliche Minimum zu beschränken. Drittens müssen klare Verantwortlichkeiten festgelegt und Nutzer sowie betroffene Personen über den KI-Einsatz aufgeklärt werden. Der Wandel von klassischer Perimeter-Sicherheit hin zu einer datenorientierten Agenten-Governance ist dabei der entscheidende strategische Schritt.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.

KI-Agenten & Datenschutz: Haftung bei unbefugter Datenverarbeitung