Zum Inhalt springen
KI

OpenAI textGrain: KI-Wasserzeichen und EU-AI-Act-Compliance

OpenAI textGrain markiert KI-generierte Texte mit unsichtbaren Wasserzeichen und adressiert damit eine zentrale Anforderung des EU-AI-Acts. Was mittelständische E-Commerce-Unternehmen jetzt wissen müssen.

Von Maik Boche

OpenAI textGrain: KI-Wasserzeichen und EU-AI-Act-Compliance

OpenAI führt in den kommenden Wochen mit “textGrain” unsichtbare Wasserzeichen in ChatGPT- und Codex-Texten für alle EU-Nutzer ein, um Artikel 50 des EU-AI-Acts zu erfüllen. Für mittelständische E-Commerce-Unternehmen, die KI-generierte Texte produktiv einsetzen, wird Compliance zur Pflicht: Der EU-AI-Act verlangt, dass KI-Inhalte maschinell erkennbar sind. textGrain verändert dazu statistisch die Wortwahl des Modells. Entscheider sollten wissen, dass die Technologie laut OpenAI bei kurzen Passagen und stark bearbeitetem Text deutlich an Erkennungsgenauigkeit verliert.

OpenAI textGrain: Unsichtbare Wasserzeichen für KI-Texte in der EU

OpenAI führt in den kommenden Wochen eine neue Technologie namens textGrain ein, die KI-generierte Texte aus ChatGPT und Codex für Nutzer in der Europäischen Union mit unsichtbaren Wasserzeichen versieht. Hintergrund ist Artikel 50 des EU AI Acts, der Anbieter generativer Modelle verpflichtet, KI-generierte Inhalte maschinell erkennbar und nachverfolgbar zu machen.

Wie textGrain funktioniert

textGrain bringt keine versteckten Zeichen, zusätzlichen Leerzeichen oder sichtbaren Markierungen in den Text ein. Stattdessen justiert die Technologie statistisch die Wortwahl des Modells während der Generierung. Dieses statistische Muster kann ein Detektor im Nachhinein identifizieren und so feststellen, ob OpenAI-Technologie an der Erstellung beteiligt war.

Das Wasserzeichen ist beim Lesen oder Kopieren des Textes nicht erkennbar. Es sagt laut OpenAI ausschließlich aus, ob OpenAI-Technologie involviert war. Es erlaubt keine Rückschlüsse auf eine bestimmte Person, einen Prompt, ein Konto, einen Eigentümer oder den menschlichen Anteil am Text.

Praktische Implikationen für Entscheider im E-Commerce

1. Eingeschränkte Verlässlichkeit der Erkennung

OpenAI räumt selbst ein, dass die Erkennungsgenauigkeit bei kurzen Textpassagen und stark bearbeiteten oder übersetzten Texten erheblich sinkt. Wer KI-gestützte Produktbeschreibungen im Redaktionsprozess nachbearbeitet, kann nicht davon ausgehen, dass das Wasserzeichen zuverlässig erhalten bleibt. Unternehmen sollten dies bei ihrer internen Qualitätssicherung berücksichtigen.

2. Detektorzugang zunächst auf Forscher beschränkt

In der Anfangsphase ist der Zugang zum Detektor auf zugelassene Forscher begrenzt. Für Compliance-Verantwortliche bedeutet das: Eine eigenständige Überprüfung, ob eigene Inhalte als KI-generiert erkennbar sind, ist vorerst nicht möglich. Wer rechtliche Sicherheit benötigt, sollte Prozesse und Dokumentation intern regeln, solange der Detektor nicht breit verfügbar ist. Mehr zum Thema KI-Kennzeichnungspflicht und EU AI Act zeigt, welche weiteren Pflichten auf Anbieter zukommen.

3. Rollout zunächst nur für EU-Nutzer, globaler Standard offen

Der Rollout gilt für alle Abonnement-Pläne in der EU, aber nur für geeignete Ausgaben (“eligible output”). Ein globaler Standard ist laut OpenAI derzeit nicht geplant. API-Entwickler weltweit können sich optional einschreiben. Unternehmen, die international operieren, müssen daher differenzieren, welche Texte unter die Kennzeichnungspflicht fallen und welche nicht.

4. Keine Urheberschafts- oder Eigentumsaussage

textGrain kann weder Authorship noch Eigentumsrechte an Texten belegen noch deren Korrektheit bestätigen. Für Unternehmen, die KI-generierte Inhalte in Kundenverträgen oder auf Marktplätzen einsetzen, bleiben Haftungsfragen und urheberrechtliche Aspekte weiterhin ungeklärt und müssen vertraglich separat geregelt werden.

Einordnung: Warum der EU AI Act diesen Schritt auslöst

Artikel 50 des EU AI Acts sowie der begleitende Code of Practice verpflichten Anbieter generativer Modelle dazu, KI-generierte Inhalte maschinell lesbar und nachverfolgbar zu machen. Das Gesetz schreibt dabei keine feste technische Lösung vor, sondern gibt das Ziel vor: Deepfakes und synthetische Medien sollen erkennbar sein. OpenAI reagiert mit textGrain auf diese Vorgabe. Ähnliche Transparenzpflichten gelten auch für andere Bereiche der KI-generierten Kommunikation, etwa für KI-Kennzeichnung in der Werbung.

Für mittelständische E-Commerce-Unternehmen gilt: Die technische Umsetzung durch OpenAI entbindet nicht von der eigenen Pflicht, interne Prozesse zur Kennzeichnung und Dokumentation KI-generierter Inhalte aufzubauen.

Quellen

Häufige Fragen

Was ist textGrain und wie funktioniert die Technologie?

textGrain ist eine von OpenAI entwickelte Wasserzeichen-Technologie für KI-generierte Texte. Sie verändert beim Generierungsprozess subtil die Wortauswahl des Modells und erzeugt so ein statistisches Muster, das ein Detektor nachträglich identifizieren kann. Es werden weder versteckte Zeichen noch zusätzliche Leerzeichen oder sichtbare Markierungen eingefügt. Der Text sieht beim Lesen oder Kopieren vollständig unverändert aus.

Für wen gilt das textGrain-Wasserzeichen und wann wird es eingeführt?

OpenAI rollt textGrain in den kommenden Wochen für Nutzer aller Abonnement-Pläne in der Europäischen Union aus. Betroffen sind Ausgaben von ChatGPT und Codex, sofern es sich um geeignete Inhalte handelt. Eine globale Einführung ist vorerst nicht geplant. API-Entwickler außerhalb der EU können sich optional für die Technologie entscheiden.

Welche rechtliche Grundlage zwingt OpenAI zur Einführung von textGrain in der EU?

Die rechtliche Grundlage bildet Artikel 50 des EU-AI-Acts sowie der dazugehörige Code of Practice. Diese Vorschriften verpflichten Anbieter generativer KI-Modelle dazu, KI-generierte Inhalte maschinell lesbar und rückverfolgbar zu machen. Ziel der Regulierung ist es, irreführende Deepfakes und die unkontrollierte Verbreitung synthetischer Medien einzudämmen. Das Gesetz schreibt dabei die Nachweisbarkeit vor, legt aber keine spezifische technische Umsetzung fest.

Wie zuverlässig ist die Erkennung von textGrain-Wasserzeichen in der Praxis?

Die Erkennungsgenauigkeit ist laut OpenAI selbst eingeschränkt. Insbesondere kurze Textpassagen sowie stark bearbeitete oder übersetzte Texte reduzieren die Detektionszuverlässigkeit erheblich. OpenAI räumt zudem ein, dass die Technologie vergleichsweise leicht zu umgehen ist. Der Zugang zum Detektor ist in der Anfangsphase auf zugelassene Forschende begrenzt.

Was kann textGrain erkennen und was nicht?

Das Wasserzeichen kann Hinweise darauf liefern, ob OpenAI-Technologie bei der Texterstellung beteiligt war. Es kann jedoch keine Rückschlüsse auf die Identität eines Nutzers, den verwendeten Prompt, ein Konto, den Eigentümer des Inhalts oder den menschlichen Beitragsanteil ziehen. Auch Urheberschaft, Eigentumsrechte oder die inhaltliche Korrektheit eines Textes lassen sich darüber nicht feststellen.


Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.