Ab dem 2. August 2026 tritt mit dem EU AI Act das erste umfassende KI-Gesetz der Welt in Kraft.
Danach bleiben Chatbots, Voicebots und virtuelle Assistenten zwar erlaubt, doch ihr Einsatz wird künftig streng reguliert. Transparenz, menschliche Kontrolle und rechtliche Absicherung werden zur Pflicht. Wer sich nicht vorbereitet, riskiert hohe Strafen und den Verlust von Kundenvertrauen.
„Wer jetzt handelt, kann sich einen klaren Wettbewerbsvorteil sichern“, betont Jonathan Bernwieser, CEO von EverLeaf und Experte für KI-gestützte Kundenkommunikation.
Was sich konkret ändert:
Die neuen Vorgaben greifen tief in bestehende Prozesse ein – insbesondere in Customer-Care-Teams, die zunehmend auf Automatisierung setzen. Die wichtigsten Punkte im Überblick:
Menschliche Aufsicht (Human-in-the-Loop): Für Hochrisiko-Systeme schreibt der EU AI Act verbindliche menschliche Aufsicht vor. Außerhalb von Hochrisiko gilt: angemessene Aufsicht und klare Eskalationswege zu einer menschlichen Ansprechperson sicherstellen – insbesondere bei sensiblen Anliegen. KI kann unterstützen, die finale Verantwortung bleibt beim Menschen.
- Transparenz gegenüber Kund:innen:
Unternehmen müssen offenlegen, wenn Interaktionen durch KI erfolgen. Versteckte Hinweise oder automatisierte Kommunikation ohne Kennzeichnung sind künftig unzulässig. - Hohe Strafen bei Verstößen:
Wer gegen die Vorgaben verstößt, riskiert Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes. - Doppelprüfung mit der DSGVO:
Datenschutzvorgaben bleiben bestehen und müssen eng mit den neuen KI-Regeln verzahnt werden. - Pflicht zu Schulungen:
Teams müssen verstehen, wie KI funktioniert, welche Risiken bestehen – und wann sie eingreifen müssen.
Warum Handlungsbedarf besteht.
Viele Unternehmen unterschätzen die Tragweite der neuen Regulierung. „In vielen Customer-Care-Abteilungen fehlt ein noch klarer Plan für die gesetzeskonforme Integration von KI“, warnt Bernwieser. Noch immer fehlt es an systematischen Prüfungen, verbindlichen Prozessen und gezielter Weiterbildung.
Was Unternehmen jetzt tun sollten
EverLeaf empfiehlt Unternehmen, jetzt folgende Schritte anzugehen:
Bestehende Systeme prüfen: Welche KI-Anwendungen sind im Einsatz – und wie transparent sind sie?
Prozesse anpassen: Verantwortung, Kontrollpunkte und Eskalationswege definieren.
Datenschutz absichern: DSGVO- und AI-Act-Konformität gemeinsam denken.
Teams schulen: Mitarbeitende befähigen, KI-Tools verantwortungsvoll zu nutzen.
Unternehmen, die heute handeln, sichern sich nicht nur Compliance, sondern auch Vertraue