KI-Agenten entwickeln in Unternehmenssystemen zunehmend eigenständige Kommunikationsmuster, die weder auf Barrierefreiheitsstandards noch auf Nutzerverständlichkeit ausgelegt sind. Welche Risiken entstehen und wie Entscheider gegensteuern können.

KI-Agenten arbeiten laut Insiders Technologies selbstständig innerhalb definierter Systeme: Sie analysieren Daten, verknüpfen unterschiedliche Quellen und lösen eigenständig Folgeprozesse aus, ohne dass Nutzer jeden Schritt steuern oder nachvollziehen. Für mittelständische E-Commerce-Unternehmen bedeutet das ein konkretes Verständlichkeitsrisiko: Wenn KI-Agenten Prozessschritte auslösen, Rückfragen formulieren oder Entscheidungen vorbereiten, entstehen systemseitige Kommunikationsmuster, die für unterschiedliche Nutzergruppen schwer nachvollziehbar sind. Fehlende Transparenz über Agentenaktionen erschwert die Kontrolle, gefährdet die Barrierefreiheit und kann Compliance-Anforderungen tangieren.

KI-Agenten in Unternehmenssystemen: Wenn eigenständige Kommunikation zur Barriere wird

KI-Agenten arbeiten heute in E-Commerce-Systemen, Kundenportalen und Dokumentenprozessen weitgehend selbstständig. Sie analysieren Informationen, bereiten Entscheidungen vor und lösen Folgeprozesse aus, ohne dass ein Mensch jeden Schritt freigibt. Diese Eigenständigkeit bringt Effizienzgewinne, schafft aber gleichzeitig ein strukturelles Risiko: Die von KI-Agenten entwickelten Kommunikationsformen passen sich nicht automatisch an die Verständlichkeits- und Barrierefreiheitsanforderungen unterschiedlicher Nutzergruppen an.

Was KI-Agenten in Unternehmenssystemen tun

Laut Insiders Technologies bezeichnet Agentic AI KI-Systeme, die innerhalb eines definierten Rahmens selbstständig auf ein Ziel hinarbeiten. Ein KI-Agent kann Informationen analysieren, unterschiedliche Daten und Systeme einbeziehen, Entscheidungen vorbereiten und abhängig vom Ergebnis die nächsten Prozessschritte auslösen. Besonders in dokumentenintensiven Geschäftsprozessen entstehen dabei eigenständige Kommunikationsketten: Dokumente werden nicht mehr nur erkannt und ausgelesen, sondern KI-Agenten leiten daraus konkrete Aktionen ab, einschließlich gezielter Rückfragen bei fehlenden Informationen.

IBM beschreibt KI-Agenten in diesem Zusammenhang als Systeme, die auf Basis von Reasoning, Planning und Tool Calling handeln. Forschungsarbeiten, auf die IBM verweist, darunter Arbeiten zu LLM-Agenten als “experiential learners” sowie Analysen zu dynamischer Planung mit LLMs, belegen, dass diese Systeme ihre Kommunikationsstrategien iterativ anpassen. Was im Hinblick auf Prozesseffizienz gewünscht ist, kann aus Nutzerperspektive zu schwer nachvollziehbaren, inkonsistenten oder nicht barrierefreien Ausgaben führen.

Praktische Implikationen für Entscheider

1. Automatisch generierte Texte erfüllen WCAG-Anforderungen nicht zuverlässig

KI-Agenten erzeugen Ausgabetexte, Status-Updates und Fehlermeldungen dynamisch. Dabei werden ARIA-Attribute, Kontrastanforderungen oder Alternativtexte nicht automatisch mitgeneriert. In B2B-Kundenportalen und Enterprise-Shops, in denen diverse Nutzergruppen arbeiten, darunter Personen mit eingeschränkter Sehfähigkeit oder kognitiven Einschränkungen, entstehen dadurch konkrete Zugänglichkeitslücken. Wer KI-Agenten in solche Systeme integriert, muss sicherstellen, dass die generierten Schnittstellen WCAG 2.2 entsprechen. Hinweise zur technischen Umsetzung finden Sie unter ARIA-Live-Regionen für KI-generierte Inhalte und ARIA-Landmark-Regionen in KI-Chatbot-Interfaces.

2. Dynamische Kommunikation ohne Konsistenzprüfung erzeugt Verständlichkeitsrisiken

KI-Agenten passen ihre Formulierungen kontextabhängig an. In einem mehrstufigen Prozess, etwa bei automatisierten Rückfragen zu fehlenden Dokumentenfeldern, kann dies dazu führen, dass Nutzer bei unterschiedlichen Durchläufen strukturell unterschiedliche Hinweise erhalten. Ohne ein definiertes Kommunikationsmodell fehlt die Vorhersehbarkeit, die reguläre Geschäftsprozesse verlangen. Das betrifft besonders Systeme, die in der B2B-Kundenkommunikation oder im automatisierten Rechnungsmanagement eingesetzt werden.

3. Haftungsfragen bei fehlerhafter KI-Kommunikation sind noch nicht abschließend geregelt

Wenn ein KI-Agent eigenständig kommuniziert und dabei irreführende, unvollständige oder für bestimmte Nutzergruppen unverständliche Ausgaben erzeugt, stellt sich die Frage nach der Verantwortlichkeit. Der EU AI Act schafft zwar einen Rahmen, doch die konkrete Zuordnung von Haftung bei agentisch handelnden Systemen bleibt komplex. Entscheider sollten ihre Vertragswerke und internen Freigabeprozesse entsprechend anpassen. Weiterführende Informationen dazu unter Haftung bei KI-Agenten und EU AI Act sowie KI-generierte Inhalte in Kundenverträgen.

4. Barrierefreiheit muss als Systemanforderung definiert werden, nicht als Nachbearbeitung

Die Empfehlung aus Forschung und Praxis ist eindeutig: Barrierefreiheit lässt sich nicht nachträglich auf KI-generierte Kommunikation aufsetzen. Sie muss als Systemanforderung in die Architektur des KI-Agenten und die zugehörige Schnittstelle eingebaut werden. Das umfasst automatisierte ARIA-Label-Generierung, konsistente Fehlertext-Strukturen und die Einhaltung von Farbkontrastwerten auch in dynamisch erzeugten Bereichen. Relevante technische Ansätze dazu: Automatisierte ARIA-Label-Generierung mit Machine Learning, KI-Farbkontrast-Automatisierung nach WCAG 2.2 und KI-Accessibility-Automatisierung in Enterprise-Shops.

Fazit

KI-Agenten, die eigenständig kommunizieren, erzeugen in Unternehmenssystemen neue Risikokategorien: unzuverlässige Barrierefreiheit, inkonsistente Verständlichkeit und offene Haftungsfragen. Für mittelständische E-Commerce-Unternehmen bedeutet das, dass der Einsatz agentic AI nicht allein nach Prozesseffizienz bewertet werden darf. Die Kommunikationsqualität und Zugänglichkeit der Systemausgaben müssen als eigenständige Anforderungen in Planung, Implementierung und Betrieb eingehen.

Quellen

Häufige Fragen

Was sind KI-Agenten und wie kommunizieren sie in Unternehmenssystemen?

KI-Agenten sind KI-Systeme, die innerhalb eines definierten Rahmens selbstständig auf ein Ziel hinarbeiten. Sie analysieren Informationen, beziehen unterschiedliche Daten und Systeme ein, bereiten Entscheidungen vor und lösen abhängig vom Ergebnis die nächsten Prozessschritte aus. In Unternehmenssystemen agieren sie dabei oft ohne direkte menschliche Steuerung, was bedeutet, dass Rückmeldungen, Statusmeldungen oder Rückfragen automatisch und in systemseitig erzeugter Form an Nutzer ausgegeben werden können.

Welche Verständlichkeitsrisiken entstehen, wenn KI-Agenten eigenständig mit Nutzern kommunizieren?

KI-Agenten können Rückfragen stellen oder Prozessschritte auslösen, ohne dass Nutzer den Kontext dieser Kommunikation vollständig nachvollziehen können. Da die Agenten Informationen aus verschiedenen Systemen und Dokumenten verarbeiten, können automatisch erzeugte Nachrichten fachlich komplex oder unvollständig formuliert sein. Für Mitarbeiter ohne technischen Hintergrund besteht das Risiko, dass sie Handlungsaufforderungen oder Statusmeldungen falsch interpretieren und fehlerhafte Entscheidungen treffen.

Sind bestimmte Branchen oder Prozesse besonders von diesen Risiken betroffen?

KI-Agenten werden branchenübergreifend eingesetzt, unter anderem in Versicherungen, Banken, der Industrie, im Handel, im Gesundheitswesen und im öffentlichen Sektor. Besonders betroffen sind dokumentenintensive Geschäftsprozesse, in denen Agenten nicht nur Dokumente erkennen und auslesen, sondern daraus auch konkrete Aktionen ableiten. Gerade in sensiblen Bereichen wie dem Gesundheitswesen oder dem öffentlichen Sektor kann eine missverständliche automatisierte Kommunikation erhebliche Folgen für betroffene Nutzer haben.

Wie können Unternehmen sicherstellen, dass die Kommunikation von KI-Agenten für alle Nutzergruppen verständlich bleibt?

Unternehmen sollten bei der Einführung von KI-Agenten klare Rahmenbedingungen für die automatisierte Kommunikation definieren. Dazu gehört, dass Ausgaben und Rückfragen der Agenten auf die jeweiligen fachlichen Anforderungen und Zielgruppen ausgerichtet werden. Prozesse sollten so gestaltet sein, dass Nutzer jederzeit nachvollziehen können, welcher Schritt ausgelöst wurde und warum. Zudem empfiehlt es sich, Eskalationswege vorzusehen, über die Nutzer bei Unklarheiten einen menschlichen Ansprechpartner erreichen können.

Welche Rolle spielt Barrierefreiheit bei der Einführung von KI-Agenten in Unternehmen?

Barrierefreiheit wird bei der Einführung von KI-Agenten häufig unterschätzt. Da KI-Agenten Informationen aus unterschiedlichen Daten und Systemen verarbeiten und daraus selbstständig Kommunikation erzeugen, sind die Ausgaben nicht zwingend auf barrierefreie Nutzung ausgelegt. Für Mitarbeiter mit eingeschränkter Lese- oder Sprachkompetenz, aber auch für Menschen mit technischen Hilfsmitteln, kann automatisiert erzeugte Kommunikation schwer zugänglich sein. Unternehmen sollten daher Barrierefreiheitsanforderungen bereits bei der Konfiguration und dem Einsatz von KI-Agenten berücksichtigen.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.

KI-Agenten: Kommunikationsrisiken für Barrierefreiheit im E-Commerce