EU AI Act: Was bedeutet die neue KI-Gesetzgebung für den Kundenservice?
Die Europäische Union hat mit dem EU AI Act die weltweit erste umfassende Regulierung für Künstliche Intelligenz (KI) beschlossen. Doch was bedeutet das für Unternehmen, die KI im Kundenservice einsetzen? Müssen bestehende Systeme angepasst werden? Welche neuen Vorschriften gibt es – und was passiert, wenn man sie ignoriert? In diesem Beitrag erklären wir die wichtigsten Punkte und zeigen, worauf Unternehmen jetzt achten sollten.
Warum gibt es den EU AI Act?
Der EU AI Act soll sicherstellen, dass Künstliche Intelligenz verantwortungsvoll eingesetzt wird. Das Gesetz verfolgt einen risikobasierten Ansatz: Je nachdem, wie kritisch eine KI-Anwendung ist, gelten unterschiedliche Regeln. Während Hochrisiko-Systeme (z. B. KI im Finanzsektor oder in der Medizin) strengen Vorgaben unterliegen, gelten für KI im Kundenservice vor allem Transparenzpflichten.
Welche neuen Regeln gelten für KI im Kundenservice?
Unternehmen, die KI-gestützte Systeme wie Chatbots, AI Agents oder automatisierte Kundenservice-Prozesse nutzen, müssen künftig bestimmte Vorgaben beachten:
1. Transparenzpflicht: Kunden müssen wissen, dass sie mit einer KI interagieren
Ein Chatbot darf nicht den Eindruck erwecken, ein menschlicher Agent zu sein. Das bedeutet: Jeder KI-gestützte Dialog muss klar als solcher gekennzeichnet sein. Unternehmen sollten deshalb ihre Systeme überprüfen und sicherstellen, dass Bots und virtuelle Assistenten sich klar als KI ausweisen.
2. KI-generierte Inhalte müssen erkennbar sein
Antworten, die von KI erstellt wurden, dürfen nicht ungekennzeichnet an Kunden gesendet werden. Das betrifft etwa automatisch generierte E-Mails, Chat-Antworten oder Dokumente. Unternehmen sollten sicherstellen, dass solche Inhalte als KI-generiert gekennzeichnet sind – beispielsweise durch einen Hinweis in der Nachricht.
3. Emotionserkennung und biometrische Analysen sind stark eingeschränkt
Tools, die Emotionen aus Sprache oder Gesichtsausdrücken analysieren, unterliegen künftig strengen Regeln oder werden ganz verboten. Unternehmen, die solche Technologien einsetzen, sollten genau prüfen, ob sie weiterhin zulässig sind.
4. „Human in the Loop“: Eine KI-Interaktion muss jederzeit an einen Menschen übergebbar sein
Kunden dürfen nicht in einer Endlosschleife mit einer KI festhängen. Sie müssen jederzeit die Möglichkeit haben, die Interaktion an einen menschlichen Support-Agenten zu übergeben. Unternehmen sollten daher sicherstellen, dass ihre Systeme eine einfache Eskalation an den menschlichen Support ermöglichen.
Was bedeutet das für Unternehmen, die Zendesk nutzen?
Besonders Unternehmen, die KI-gestützte Lösungen wie Zendesk AI Agents, automatisierte Antworten oder Chatbots nutzen, sollten ihre Systeme überprüfen. Anpassungen könnten nötig sein, um die neuen Vorgaben einzuhalten. Dazu gehören:
Kennzeichnung von AI Agents und Chatbots: Klare Hinweise, dass Kunden mit einer KI sprechen.
Überprüfung von automatisierten Antworten: Sicherstellen, dass generierte Inhalte als solche erkennbar sind.
Integration von Eskalationsmöglichkeiten: Eine einfache Weiterleitung an menschliche Agenten einbauen.
Fristen
Der EU AI Act legt klare Vorgaben für den Einsatz von künstlicher Intelligenz in Europa fest. Unternehmen und Organisationen müssen sich auf unterschiedliche Umsetzungsfristen einstellen, je nach Art der betroffenen KI-Systeme:
2. Februar 2025 (6 Monate nach Inkrafttreten): KI-Systeme, die unter das Verbot fallen, müssen innerhalb dieses Zeitraums abgeschaltet werden.
2. August 2025 (12 Monate nach Inkrafttreten): Allgemein einsetzbare KI-Systeme (General Purpose AI, GPAI) müssen die neuen Vorschriften erfüllen.
2. August 2026 (24 Monate nach Inkrafttreten): KI-Systeme mit hohem Risiko, die in Anhang III des Gesetzes definiert sind, müssen in diesem Zeitraum konform sein.
2. August 2027 (36 Monate nach Inkrafttreten): Für weitere Hochrisiko-KI-Systeme, die in Anhang I aufgeführt sind, gilt eine längere Umsetzungsfrist.
Diese Fristen geben Unternehmen den notwendigen Rahmen, um ihre Systeme und Prozesse an die neuen regulatorischen Anforderungen anzupassen. Die Einhaltung der Vorschriften ist entscheidend, um Sanktionen zu vermeiden und die rechtssichere Nutzung von KI-Technologien in der EU sicherzustellen.
Welche Strafen drohen bei Nichteinhaltung?
Der EU AI Act sieht empfindliche Strafen für Verstöße vor: Unternehmen, die gegen die Vorschriften verstoßen, riskieren Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes. Deshalb lohnt es sich, frühzeitig auf die neuen Vorgaben zu reagieren.
Fazit: Unternehmen sollten jetzt handeln
Die neuen Vorgaben des EU AI Act sind keine Zukunftsmusik – die erste Frist ist bereits abgelaufen; Unternehmen, die KI im Kundenservice nutzen, sollten sich jetzt mit den neuen Regeln auseinandersetzen. Wer proaktiv handelt, kann nicht nur rechtliche Risiken vermeiden, sondern auch das Vertrauen seiner Kunden stärken.
Leafworks hilft Unternehmen dabei, Zendesk und andere KI-gestützte Kundenservice-Lösungen rechtskonform zu gestalten. Sei es bei der Anpassung ausgehender Benachrichtigungen für mit AI generiertem Text, bei der Optimierung von Bot-Flows, um sicherzustellen, dass KI-gesteuerte Konversationen den regulatorischen Anforderungen entsprechen, oder der Prüfung und Anpassung der “Agent-Handover”-Einstellungen, um sicherzustellen, dass der Übergang von KI zu menschlichen Agenten reibungslos erfolgt und die “Human-in-the-Loop”-Anforderungen erfüllt werden. Sprechen Sie mit uns über Ihre Prozesse!
Quellen & weiterführende Informationen
Offizieller EU AI Act Text: EU-Gesetzgebung zur Regulierung von Künstlicher Intelligenz
EU-Kommission: Übersicht zum AI Act: Regulierungsansätze für vertrauenswürdige KI
- Zendesk Trust Center: Sicherer Kundenservice
