Künstliche Intelligenz entwickelt sich rasant – und mit ihr die gesetzlichen Anforderungen. Mit dem EU AI Act hat die Europäische Union erstmals einen umfassenden Rechtsrahmen geschaffen, der den Einsatz von KI-Systemen regelt.

Für Unternehmen, die KI-Telefonassistenten oder AI Call Center einsetzen, stellt sich daher die Frage: Müssen wir unseren KI-Telefonassistenten an den EU AI Act anpassen? Die gute Nachricht lautet: In den meisten Fällen ja – aber der Aufwand ist überschaubar, wenn die Lösung professionell umgesetzt wird.

Was ist der EU AI Act?

Der EU AI Act ist die erste umfassende Verordnung für künstliche Intelligenz weltweit. Sein Ziel ist es,

  • Innovation zu fördern,
  • Risiken zu reduzieren,
  • Transparenz zu schaffen,
  • Grundrechte zu schützen
  • und Vertrauen in KI-Systeme aufzubauen.

Dabei verbietet der AI Act KI nicht – sondern regelt ihren verantwortungsvollen Einsatz.

Gilt der EU AI Act auch für KI-Telefonassistenten?

Ja. Ein KI-Telefonassistent ist ein KI-System im Sinne des EU AI Act. Welche konkreten Anforderungen gelten, hängt jedoch davon ab,

  • wie die KI eingesetzt wird,
  • welche Daten verarbeitet werden,
  • ob Entscheidungen getroffen werden,
  • in welchem Bereich sie verwendet wird.

Nicht jede Sprach-KI fällt automatisch unter dieselben Pflichten.

Der risikobasierte Ansatz

Der EU AI Act unterscheidet vier Risikostufen.

1. Unzulässiges Risiko

Einige Anwendungen sind vollständig verboten. Dazu gehören beispielsweise bestimmte Formen manipulativer oder sozial bewertender KI-Systeme. Für klassische KI-Telefonassistenten ist diese Kategorie in der Regel nicht relevant.

2. Hochrisiko-KI

Hierzu gehören unter anderem KI-Systeme in sensiblen Bereichen wie Medizin, Beschäftigung, Bildung, kritischer Infrastruktur und Strafverfolgung. Für solche Systeme gelten besonders strenge Anforderungen.

3. Begrenztes Risiko

Viele KI-Telefonassistenten fallen in diese Kategorie. Hier stehen vor allem Transparenzpflichten im Mittelpunkt.

4. Minimales Risiko

Einfache KI-Anwendungen mit geringem Einfluss unterliegen nur wenigen Anforderungen.

Die wichtigste Pflicht: Transparenz

Für die meisten Unternehmen ist eine Regel besonders relevant: Menschen sollen wissen, dass sie mit einer KI sprechen. Deshalb empfiehlt sich beispielsweise folgende Begrüßung:

„Herzlich willkommen. Sie sprechen mit unserem KI-Telefonassistenten. Wie kann ich Ihnen helfen?"

Diese kurze Information erfüllt nicht nur rechtliche Anforderungen, sondern schafft auch Vertrauen.

Muss der Kunde zustimmen?

Der EU AI Act verlangt grundsätzlich Transparenz – jedoch nicht automatisch eine ausdrückliche Zustimmung allein deshalb, weil eine KI eingesetzt wird.

Unabhängig davon können andere Vorschriften, etwa aus der DSGVO oder dem Telekommunikationsrecht, zusätzliche Anforderungen stellen – beispielsweise wenn Gespräche aufgezeichnet oder personenbezogene Daten verarbeitet werden.

Welche Pflichten haben Unternehmen?

Unternehmen sollten sicherstellen, dass ihr KI-System:

  • nachvollziehbar arbeitet,
  • sicher betrieben wird,
  • dokumentiert ist,
  • überwacht werden kann,
  • transparent kommuniziert,
  • datenschutzkonform eingesetzt wird.

Zusätzlich empfiehlt sich eine klare interne Dokumentation.

Human in the Loop

Ein zentraler Gedanke des EU AI Act lautet: Menschen sollen die Kontrolle behalten. Das bedeutet beispielsweise:

  • Gespräche können an Mitarbeitende übergeben werden.
  • Mitarbeitende können Entscheidungen überprüfen.
  • Die KI trifft keine unkontrollierten Endentscheidungen in sensiblen Bereichen.

Ein moderner KI-Telefonassistent sollte daher immer eine Möglichkeit zur Übergabe an einen Menschen bieten.

Welche Rolle spielt die DSGVO?

Der EU AI Act ersetzt die DSGVO nicht. Beide Regelwerke gelten nebeneinander. Während die DSGVO den Schutz personenbezogener Daten regelt, beschäftigt sich der AI Act mit dem sicheren und verantwortungsvollen Einsatz von KI. Unternehmen müssen daher beide Rechtsrahmen berücksichtigen.

Checkliste für Unternehmen

Vor dem Einsatz eines KI-Telefonassistenten sollten Sie prüfen:

  • Wird transparent kommuniziert, dass eine KI eingesetzt wird?
  • Können Gespräche an Mitarbeitende übergeben werden?
  • Ist die Datenverarbeitung DSGVO-konform?
  • Gibt es eine technische Dokumentation?
  • Werden Risiken regelmäßig überprüft?
  • Ist nachvollziehbar, wie das System eingesetzt wird?
  • Sind Mitarbeitende über den Umgang mit der KI informiert?

Häufige Missverständnisse

„KI ist durch den EU AI Act verboten."

Falsch. Der AI Act schafft Regeln für den Einsatz von KI – nicht ein generelles Verbot.

„Jede KI ist Hochrisiko-KI."

Falsch. Die meisten KI-Anwendungen im Kundenservice gehören nicht automatisch zur Hochrisiko-Kategorie.

„Ich darf Kunden nichts mehr automatisiert beantworten."

Auch das stimmt nicht. Routineanfragen können weiterhin automatisiert bearbeitet werden, solange die gesetzlichen Anforderungen eingehalten werden.

Warum Compliance zum Wettbewerbsvorteil wird

Immer mehr Kunden achten darauf, wie Unternehmen mit künstlicher Intelligenz umgehen. Wer transparent kommuniziert, welche KI eingesetzt wird, welche Daten verarbeitet werden, wie Entscheidungen zustande kommen und wann ein Mensch übernimmt, stärkt das Vertrauen in die eigene Marke.

Compliance ist deshalb nicht nur eine rechtliche Pflicht, sondern kann auch ein Wettbewerbsvorteil sein.

So unterstützt ein professioneller Anbieter

Ein seriöser Anbieter von KI-Telefonie sollte Unternehmen dabei unterstützen,

  • Transparenzanforderungen umzusetzen,
  • DSGVO-Vorgaben einzuhalten,
  • Gesprächsübergaben zu ermöglichen,
  • sichere Hosting-Optionen bereitzustellen,
  • Dokumentation für Audits vorzuhalten
  • und neue regulatorische Anforderungen laufend zu berücksichtigen.

Dadurch reduziert sich der Aufwand für Unternehmen erheblich.

Fazit

Der EU AI Act stellt Unternehmen vor neue Anforderungen – verbietet den Einsatz von KI-Telefonassistenten jedoch keineswegs. Wer auf Transparenz, Datenschutz und menschliche Kontrolle achtet, kann moderne Sprach-KI weiterhin sicher und rechtskonform einsetzen.

Für die meisten Unternehmen bedeutet das vor allem: offen kommunizieren, Prozesse dokumentieren und einen vertrauenswürdigen Anbieter wählen. So lassen sich die Vorteile von KI nutzen, ohne regulatorische Risiken einzugehen.

Den ausführlichen EU-AI-Act-Leitfaden für KI-Telefonie finden Sie auf bitpull.ai.