EU-KI-Verordnung: Kennzeichnungspflicht für KI am Telefon (Art. 50)

Wer Anrufe von einem KI-Telefonassistenten annehmen lässt, muss die Anrufer darüber informieren, dass sie mit einem KI-System sprechen — klar, eindeutig und spätestens zu Beginn des Gesprächs. Das verlangt Art. 50 Abs. 1 der EU-KI-Verordnung (Verordnung (EU) 2024/1689), und diese Pflicht gilt seit dem 2. August 2026. Eine Ausnahme besteht nur, wenn der KI-Charakter für einen durchschnittlich informierten Menschen ohnehin offensichtlich ist — bei einer natürlich klingenden Stimme am Telefon ist das in aller Regel nicht der Fall. In der Praxis reicht ein kurzer Satz am Gesprächsanfang. Loomira ist ein KI-Telefonassistent für kleine und mittlere Unternehmen, der sich zu Beginn jedes Anrufs als KI zu erkennen gibt und die gesamte Verarbeitung in der EU durchführt, DSGVO-konform und standardmäßig ohne Audio-Mitschnitt. Dieser Artikel erklärt, was die Vorschrift genau verlangt, wer sie erfüllen muss, wie eine rechtssichere Ansage klingt und wie sie mit den Informationspflichten der DSGVO zusammenspielt. Er ersetzt keine Rechtsberatung.

Was verlangt Art. 50 Abs. 1 der KI-Verordnung?

Die Kennzeichnungspflicht nach Art. 50 Abs. 1 KI-Verordnung ist die Pflicht, KI-Systeme, die direkt mit Menschen interagieren, so zu gestalten, dass diese Menschen erfahren, dass sie mit einer KI kommunizieren. Sie gilt unabhängig davon, ob das System als hochriskant eingestuft ist — ein Telefonassistent für Terminvergabe fällt also darunter, obwohl er kein Hochrisiko-System ist.

Der Wortlaut in der amtlichen Fassung der Verordnung auf EUR-Lex verlangt, dass „die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren“. Art. 50 Abs. 5 ergänzt zwei Anforderungen an das Wie: Die Information muss „spätestens zum Zeitpunkt der ersten Interaktion“ und „in klarer und eindeutiger Weise“ erfolgen, und sie muss den geltenden Barrierefreiheitsanforderungen entsprechen. Für ein Telefonat heißt das: Die Offenlegung gehört in die ersten Sekunden des Gesprächs und muss hörbar sein — ein Hinweis in den AGB oder auf der Website allein erreicht den Anrufer nicht im Moment der Interaktion.

Nicht verlangt wird dagegen eine bestimmte Formulierung, eine bestimmte Länge oder ein Hinweis auf das verwendete Modell. Es geht allein darum, dass niemand glaubt, mit einem Menschen zu sprechen, wenn das nicht stimmt.

Seit wann gilt die Kennzeichnungspflicht — und hat der Digital Omnibus daran etwas geändert?

Nach Art. 113 der KI-Verordnung gilt die Verordnung grundsätzlich ab dem 2. August 2026; nur einzelne Kapitel wurden früher oder später wirksam. Art. 50 gehört zu diesem allgemeinen Geltungsbeginn. Die Kennzeichnungspflicht am Telefon ist also bereits heute anwendbares Recht, keine Zukunftsfrage.

Die Digital-Omnibus-Verordnung zur KI (Verordnung (EU) 2026/1744), im Amtsblatt veröffentlicht am 24. Juli 2026, hat vor allem die Fristen für Hochrisiko-Systeme auf den 2. Dezember 2027 beziehungsweise den 2. August 2028 verschoben. Art. 50 Abs. 1 hat sie nicht geändert. Angepasst wurden lediglich Art. 50 Abs. 7 (Praxisleitfäden) sowie eine Übergangsfrist bis zum 2. Dezember 2026 für die maschinenlesbare Markierung KI-erzeugter Inhalte nach Art. 50 Abs. 2 — das betrifft Anbieter generativer Systeme, die bereits vor dem 2. August 2026 auf dem Markt waren, nicht die Offenlegung im Gespräch.

Wer ist Anbieter, wer Betreiber — und wen trifft die Pflicht?

Die KI-Verordnung unterscheidet zwei Rollen. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3). Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich verwendet (Art. 3 Nr. 4). Beim Telefonassistenten ist der Softwareanbieter typischerweise Anbieter, Ihr Betrieb, der den Assistenten für seine Anrufe einsetzt, typischerweise Betreiber.

Art. 50 Abs. 1 richtet sich dem Wortlaut nach an den Anbieter: Er muss das System so gestalten, dass die Offenlegung stattfindet. Daraus folgt aber nicht, dass Sie als Betreiber das Thema ignorieren können. Sie konfigurieren die Begrüßung, Sie entscheiden, welche Nummer der Assistent bedient, und Sie stehen gegenüber Ihren Anrufern in der Verantwortung. Wer die Begrüßung so umschreibt, dass die KI-Ansage verschwindet oder untergeht, unterläuft die Gestaltung des Anbieters. Und wer einen Telefonbot selbst entwickelt und unter eigenem Namen betreibt, ist ohnehin selbst Anbieter. Klären Sie daher vor dem Start schriftlich, wie der Anbieter die Offenlegung technisch sicherstellt und was Sie bei der Konfiguration beachten müssen.

Wie klingt eine rechtssichere KI-Ansage am Telefon?

Eine gute Ansage ist kurz, steht am Anfang und lässt keinen Zweifel. Zwei Beispiele, die Sie an Ihren Betrieb anpassen können:

„Guten Tag, hier ist der KI-Assistent der Praxis Muster. Ich bin ein automatisiertes System und helfe Ihnen gern bei Terminen und Fragen zu unseren Öffnungszeiten.“

„Willkommen bei Muster Haustechnik. Sie sprechen mit unserer KI-gestützten Telefonassistenz. Wenn Sie lieber mit einem Menschen sprechen möchten, sagen Sie es einfach — ich gebe Ihr Anliegen weiter.“

Wichtig sind drei Punkte: Das Wort „KI“ oder eine gleichwertige Formulierung wie „automatisiertes System“ fällt ausdrücklich; die Ansage kommt vor dem eigentlichen Gespräch, nicht nach mehreren Minuten; und sie ist sprachlich einfach genug, dass auch ältere oder weniger technikaffine Anrufer sie verstehen. Erwägungsgrund 132 der Verordnung verlangt ausdrücklich, schutzbedürftige Gruppen — etwa wegen Alter oder Behinderung — bei der Umsetzung zu berücksichtigen.

Vermeiden sollten Sie Formulierungen, die den KI-Charakter verschleiern, etwa „Sie sprechen mit Anna aus unserem Team“, ohne dass danach klar wird, dass „Anna“ eine Software ist. Ein Name für den Assistenten ist zulässig, solange die KI-Kennzeichnung unmissverständlich bleibt.

Wann ist eine KI „offensichtlich“ — und greift die Ausnahme am Telefon?

Art. 50 Abs. 1 macht eine Ausnahme, wenn der KI-Charakter „aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich“ ist. Das kann etwa bei einem klar als Chatbot gekennzeichneten Fenster auf einer Website zutreffen.

Am Telefon sollten Sie sich auf diese Ausnahme nicht verlassen. Moderne Sprachsynthese klingt so natürlich, dass viele Anrufer nicht zuverlässig erkennen, ob ein Mensch oder eine Maschine spricht — und genau diese Verwechslungsgefahr will die Vorschrift ausschließen. Zudem kostet die Ansage nur wenige Sekunden. Das Risiko, im Streitfall darlegen zu müssen, warum die KI angeblich offensichtlich war, steht dazu in keinem Verhältnis. Die konservative Lesart lautet deshalb: Am Telefon wird immer offengelegt.

Welche Bußgelder drohen bei Verstößen?

Verstöße gegen die Transparenzpflichten aus Art. 50 sind nach Art. 99 Abs. 4 lit. g der KI-Verordnung mit Geldbußen von bis zu 15 Millionen Euro oder — bei Unternehmen — bis zu 3 Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres bedroht, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen einschließlich Start-ups gilt nach Art. 99 Abs. 6 jeweils der niedrigere der beiden Beträge. Die Digital-Omnibus-Verordnung hat diese Beträge nicht verändert, sondern die Begünstigung zusätzlich auf kleine Midcap-Unternehmen ausgedehnt.

Diese Zahlen sind Obergrenzen, keine Regelsätze. Art. 99 Abs. 7 verpflichtet die Behörden, im Einzelfall unter anderem Art, Schwere und Dauer des Verstoßes zu berücksichtigen; die konkreten Sanktionsvorschriften legen die Mitgliedstaaten fest. Für einen kleinen Betrieb ist das realistische Risiko weniger ein Millionenbußgeld als eine behördliche Anordnung, Beschwerden von Anrufern und ein Vertrauensschaden — die sich mit einem einzigen Satz am Gesprächsanfang vermeiden lassen.

Wie hängt die KI-Kennzeichnung mit Art. 13 DSGVO zusammen?

Beide Pflichten bestehen nebeneinander, und Art. 50 Abs. 6 KI-Verordnung stellt klar, dass andere Transparenzpflichten unberührt bleiben. Die KI-Kennzeichnung beantwortet die Frage „Spreche ich mit einer Maschine?“. Die Informationspflicht nach Art. 13 DSGVO beantwortet andere Fragen: Wer ist verantwortlich, zu welchem Zweck und auf welcher Rechtsgrundlage werden die Daten verarbeitet, wie lange werden sie gespeichert? Diese Information schuldet der Verantwortliche „zum Zeitpunkt der Erhebung“ — und Verantwortlicher sind datenschutzrechtlich Sie als Betrieb, nicht der Softwareanbieter.

Am Telefon lässt sich der vollständige Katalog aus Art. 13 nicht vorlesen. Üblich ist ein gestuftes Vorgehen: Die Ansage nennt die KI und verweist kurz auf die Datenschutzinformation, die ausführliche Fassung steht auf Ihrer Website. Beide Hinweise lassen sich in einer Eröffnung verbinden, etwa: „… Ich bin ein KI-Assistent. Informationen zum Datenschutz finden Sie auf unserer Website unter Datenschutz.“ Was im Einzelnen zu den Informationspflichten, zum Auftragsverarbeitungsvertrag und zu Löschfristen gehört, fasst unsere DSGVO-Checkliste für KI-Telefonassistenten zusammen.

Wie setzt Loomira die Kennzeichnungspflicht um?

Bei Loomira ist die KI-Kennzeichnung standardmäßig aktiv. Begrüßung und Kennzeichnung werden gemeinsam verwaltet und verschmelzen zu einer gesprochenen Eröffnung am Anfang jedes Anrufs; eine Live-Vorschau im Editor zeigt wörtlich, was Anrufende hören werden, sodass etwa auffällt, wenn eine eigene Begrüßung die Kennzeichnung doppelt. Mit dem Testanruf aus dem Editor hören Sie vor dem Start genau das, was auch Ihre Anrufer hören. Anrufende können jederzeit eine menschliche Bearbeitung verlangen; der Assistent nimmt das Anliegen dann auf und leitet es weiter. Anruf-Audio wird standardmäßig nicht gespeichert, Transkripte werden nach 30 Tagen anonymisiert. Für die Informationspflichten nach Art. 13 DSGVO stellt Loomira eine ausfüllfertige Vorlage für die Datenschutzinformation für Anrufer bereit. Details beschreiben die Seite zur KI-Transparenz nach Art. 50 und die Datenschutz-Übersicht.

Zur ehrlichen Einordnung gehört auch, was Software nicht abnehmen kann: Die Datenschutzinformation muss mit Ihren Unternehmensangaben ergänzt und auf Ihrer Website veröffentlicht werden, und wer die Begrüßung selbst umformuliert, bleibt dafür verantwortlich, dass die KI-Ansage klar verständlich bleibt. Ob Ihr konkreter Einsatz weitere Pflichten auslöst — etwa weil Anrufer Gesundheitsdaten nennen —, klären Sie mit Ihrem Datenschutzbeauftragten oder einer Rechtsberatung.

Fazit: ein Satz, der Pflicht und Vertrauensgewinn zugleich ist

Seit dem 2. August 2026 gilt: Wer einen KI-Telefonassistenten einsetzt, sorgt dafür, dass Anrufer das zu Beginn des Gesprächs erfahren. Die Pflicht trifft formal den Anbieter, praktisch aber beide Seiten — den Anbieter bei der Gestaltung, Sie bei der Konfiguration und bei den eigenen Informationspflichten nach der DSGVO. Eine kurze, klare Ansage genügt, die Ausnahme für „offensichtliche“ KI sollten Sie am Telefon nicht in Anspruch nehmen, und die Bußgeldrahmen sind für KMU gedeckelt, aber nicht bedeutungslos. Dieser Artikel gibt den Stand der Rechtslage vom September 2026 wieder und ist keine Rechtsberatung; für Ihren Einzelfall wenden Sie sich an eine fachkundige Beratung.