Skill Poisoning bezeichnet gezielte Angriffe auf KI-Agenten über manipulierte Plugins und stellt Agenturen vor ungeklärte Haftungsfragen. Was Entscheider jetzt wissen müssen, um rechtliche und operative Risiken zu minimieren.

Agenturen, die KI-Tools für Kundenaufträge einsetzen, gelten laut EU AI Act als „Betreiber” und tragen damit die volle Haftung für fehlerhafte oder schadhaft manipulierte KI-Outputs – unabhängig davon, ob ein malicious Plugin des Toolanbieters die Ursache war (Quelle: eu-konform.ai, 5. Mai 2026). Mittelständische E-Commerce-Unternehmen, die Agenturen mit KI-gestützten Kampagnen oder Produkttexten beauftragen, sind direkt betroffen: Veröffentlichen sie fehlerhafte oder rechtswidrige KI-Inhalte unter ihrem Namen, drohen DSGVO-Bußgelder und Reputationsschäden. Laut HORTMANN LAW fehlt den meisten Agenturverträgen bislang eine klare Pflichtenmatrix für Korrektur- und Auditpflichten. Entscheider sollten daher vor jeder Agenturbeauftragung prüfen, ob Haftungsbegrenzung, menschliche Prüfpflicht und Regressregelungen vertraglich fixiert sind.

Skill Poisoning und Agent-Sicherheit: Haftungsrisiken für Agenturen bei malicious KI-Plugins

Leitfakt: Wenn Agenturen KI-Agenten mit externen Plugins oder Skills erweitern und dabei schadhafte Komponenten eingebunden werden, haften sie nach geltendem Vertragsrecht als Betreiber des Systems gegenüber ihren Kunden, sofern keine klare vertragliche Haftungsverteilung dokumentiert ist.

Was ist Skill Poisoning?

Skill Poisoning bezeichnet eine Angriffsmethode, bei der externe Plugins, Tools oder Skills, die an einen KI-Agenten angebunden werden, manipulierten Code oder vergiftete Instruktionen enthalten. Der Agent führt diese Instruktionen aus, ohne dass der Nutzer oder die Agentur dies unmittelbar bemerkt. Mögliche Folgen: Datenabfluss, fehlerhafte Ausgaben, diskriminierende Inhalte oder rechtswidrige Aktionen im Namen des Kunden.

Für Agenturen, die solche Setups für ihre Kunden betreiben, entsteht damit eine dreifache Risikolage: vertraglich, regulatorisch und reputational.

Praktische Implikationen für Agenturen

1. Betreiberhaftung greift auch bei Drittkomponenten

Der EU AI Act unterscheidet klar zwischen Anbietern und Betreibern eines KI-Systems. Wer ein KI-System für einen Kunden einsetzt, gilt als Betreiber und trägt damit eigene Pflichten, unabhängig davon, ob ein Plugin von einem Drittanbieter stammt. Agenturen können sich nicht ohne Weiteres auf den Tool-Hersteller berufen. Regress gegen den Plugin-Lieferanten ist theoretisch möglich, setzt aber eine saubere vertragliche Grundlage voraus.

Wer mehr über die konkreten Pflichten im Rahmen des AI Acts erfahren möchte, findet einen strukturierten Überblick unter Haftung KI-Agenten: EU AI Act, Verantwortlichkeit und Schadensersatz.

2. Werkvertragliche Korrekturpflicht bleibt bestehen

Agenturen arbeiten häufig auf Basis von Werkverträgen. Das bedeutet: Sie schulden ein mangelfreies Werk. Wenn ein malicious Plugin dazu führt, dass ein KI-Agent falsche, diskriminierende oder rechtswidrige Inhalte produziert und diese zum Kunden gelangen, liegt ein Mangel im werkvertraglichen Sinne vor. Die Pflicht zur menschlichen Überprüfung von KI-Ergebnissen ist nach Einschätzung von HORTMANN LAW eine zentrale Sorgfaltspflicht, die Agenturen in ihrer Pflichtenmatrix verankern müssen.

Eine fehlende Kontrolle führt laut HORTMANN LAW schnell zu Schadensersatz, Reputationsverlust oder DSGVO-Bußgeldern.

Zur Absicherung von KI-generierten Inhalten in Kundenverträgen lesen Sie auch: KI-generierte Inhalte: Haftung, Gewährleistung und Urheberrecht in Agenturverträgen.

3. AGB-Kontrolle und Auditpflichten als Minimalstandard

Agenturen, die externe Plugins einbinden, sollten deren Nutzungsbedingungen und Sicherheitsarchitektur vor dem Einsatz prüfen. Das ist kein freiwilliger Best-Practice, sondern Teil der Sorgfaltspflicht. Fehlt diese Prüfung, entstehen Haftungslücken, die durch nachträgliche AGB-Klauseln schwer zu schließen sind. HORTMANN LAW empfiehlt ausdrücklich Auditpflichten als vertragliche Klausel, um den eigenen Handlungsspielraum zu dokumentieren.

Ein technisch verwandtes Thema ist die Absicherung automatisierter KI-Workflows auf Compliance-Ebene: KI-Agenten: Content-Workflows, Haftung und Compliance-Risiken.

4. Geschäftsmodell-Druck erhöht das Risiko voreiliger Plugin-Adoption

Laut Neon Gold Innovations geraten Agenturen 2026 unter erheblichen Druck, weil Kunden die Effizienzgewinne durch KI-Tools direkt beobachten und die klassische Stundenabrechnung hinterfragen. Sven Wiesner, Gründer von Neon Gold Innovations, beschreibt im OMR Education Podcast, dass viele Agenturen ihre Zeitersparnis durch KI verschweigen, was er als riskante Strategie bezeichnet. Dieser Druck kann dazu führen, dass Agenturen externe Plugins schnell und ohne ausreichende Sicherheitsprüfung einbinden, um wettbewerbsfähig zu bleiben. Das erhöht die Angriffsfläche für Skill Poisoning erheblich.

Zur rechtssicheren Dokumentation von KI-Einsatz in Agenturen empfiehlt sich ein strukturierter Freigabeprozess: KI-Freigabeprozesse: Compliance und Dokumentation für Agenturen.

Was Agenturen jetzt konkret tun sollten

Plugin-Whitelisting einführen: Nur geprüfte, dokumentierte Skills in KI-Agenten einbinden.
Sorgfaltspflicht schriftlich fixieren: In Kundenverträgen klar regeln, welche Prüfschritte vor dem Plugin-Einsatz durchgeführt werden.
Haftungsbegrenzungsklauseln prüfen: Nicht jede Klausel hält einer AGB-Kontrolle stand. Juristischen Rat einholen.
Menschliche Prüfinstanz etablieren: Insbesondere bei Ausgaben, die direkt an Kunden kommuniziert werden.

Für Agenturen, die automatisierte Penetrationstests als Teil ihrer Sicherheitsstrategie evaluieren, bietet sich zusätzlich ein Blick auf automatisierte Penetrationstests und Vulnerability Scanning für Enterprise-Websites an.

Quellen

Häufige Fragen

Was versteht man unter Skill Poisoning und warum ist es für Agenturen relevant?

Skill Poisoning bezeichnet den gezielten Angriff auf KI-Systeme über manipulierte Plugins oder externe Datenquellen, die das Verhalten eines KI-Agenten unbemerkt verändern. Für Agenturen ist das relevant, weil sie als Betreiber im Sinne des AI Acts gelten, sobald sie solche Systeme für Kunden einsetzen. Liefert ein manipuliertes Plugin fehlerhafte oder rechtswidrige Inhalte, haften Agenturen gegenüber ihren Auftraggebern, sofern keine klare vertragliche Regelung besteht.

Wer haftet, wenn ein malicious KI-Plugin in einem Kundenprojekt Schaden anrichtet?

Der AI Act unterscheidet zwischen Anbieter und Betreiber. Den Toolhersteller treffen die schwersten Pflichten als Anbieter. Die Agentur gilt als Betreiber und trägt Verantwortung für die Auswahl, Prüfung und den kontrollierten Einsatz des Systems. Der Kunde haftet für das, was er unter seinem Namen veröffentlicht. Ohne vertragliche Pflichtenmatrix und Freistellungsklauseln trägt die Agentur bei Schäden durch manipulierte Plugins das volle Haftungsrisiko gegenüber dem Kunden.

Welche Vertragsklauseln schützen Agenturen konkret vor Haftung durch unsichere KI-Plugins?

Laut HORTMANN LAW brauchen Agenturen folgende Vertragsbausteine: eine Korrekturpflicht mit dokumentierter menschlicher Prüfung vor Auslieferung, Haftungsbegrenzungsklauseln für KI-generierte Inhalte, Auditpflichten für eingesetzte Plugins sowie Regressklauseln gegenüber Toolanbietern. Ergänzend sollten AGB-Kontrollen sicherstellen, dass der Kunde über den KI-Einsatz informiert ist. Fehlen diese Regelungen, drohen Schadensersatzforderungen und DSGVO-Bußgelder.

Müssen Agenturen ihren Kunden offenlegen, welche KI-Plugins sie einsetzen?

Transparenz ist 2026 keine Frage des guten Willens, sondern eine strategische Notwendigkeit. Kunden erkennen selbst, was KI-Tools leisten, und hinterfragen Abrechnungen zunehmend kritisch. Wer den Plugin-Einsatz verschweigt, riskiert Vertrauensverlust und rechtliche Angriffsflächen. Agenturen, die offen kommunizieren, welche Systeme sie nutzen und wie sie diese prüfen, stärken die Kundenbeziehung und reduzieren gleichzeitig ihr Haftungsrisiko bei Sicherheitsvorfällen.

Wie sollten Agenturen ihre interne Prüfpflicht für KI-Plugins dokumentieren?

Eine belastbare Dokumentation umfasst: Protokolle zur Plugin-Auswahl und Sicherheitsprüfung, Nachweise über menschliche Kontrolle vor der Inhaltsauslieferung sowie regelmäßige Audits des Plugin-Verhaltens. Diese Unterlagen dienen im Haftungsfall als Beweis für die Erfüllung der werkvertraglichen Sorgfaltspflicht. Agenturen, die Pflichten klar verteilen und sauber dokumentieren, können KI-Ergebnisse nach HORTMANN LAW rechtssicher einsetzen und Regress gegen Toolanbieter glaubhaft durchsetzen.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.

Skill Poisoning: Haftungsrisiken für Agenturen durch KI-Plugins