Der Chatbot muss jetzt sagen, dass er ein Chatbot ist

Für einen Teil der europäischen KI-Verordnung ist die Schonfrist abgelaufen. Seit dem 2. August setzen das KI-Büro der EU-Kommission – die zentrale Aufsichtsstelle der EU für KI – und die nationalen Behörden die Regeln tatsächlich durch. Das betrifft nicht nur die großen Modellanbieter, sondern auch jedes Unternehmen, das Kunden auf der eigenen Website von einem Chatbot begrüßen lässt oder Produkttexte maschinell erzeugt.

Vier Pflichten, zwei Rollen

Artikel 50 der Verordnung regelt Transparenz in vier Fällen: bei der direkten Interaktion zwischen Mensch und KI, bei maschinell erzeugten Inhalten, beim Einsatz von Emotionserkennung und biometrischer Kategorisierung sowie bei Deepfakes – also täuschend echt wirkenden, künstlich erzeugten oder veränderten Bildern, Tonaufnahmen und Videos.

Entscheidend ist, in welcher Rolle ein Unternehmen steckt. Die Verordnung trennt zwischen dem Anbieter, der ein KI-System entwickelt und in den Markt bringt, und dem Betreiber, der es unter eigener Verantwortung einsetzt. Die Kennzeichnung von Chatbots und maschinell erzeugten Inhalten trifft der Systematik nach zunächst den Anbieter; die Offenlegung bei Deepfakes und bei Texten zu Themen von öffentlichem Interesse trifft den Betreiber.

Diese Grenze ist durchlässiger, als sie klingt: Wer ein zugekauftes System wesentlich verändert oder unter eigenem Namen anbietet, kann selbst in die Anbieterrolle rutschen. Für den Mittelständler, der einen fertigen Chatbot einbindet und nur konfiguriert, ist die praktische Frage aber leichter zu beantworten als die juristische. Der Hinweis, dass hier eine Maschine antwortet, muss beim ersten Kontakt erscheinen und „klar und unterscheidbar" sein – nicht im Impressum, nicht in den AGB, nicht in grauer Schrift unter dem Eingabefeld.

Ausgenommen sind Fälle, in denen der Maschinencharakter ohnehin offensichtlich ist, reine Korrekturfunktionen wie eine Rechtschreibprüfung und Texte, die ein Mensch inhaltlich geprüft hat und für die er redaktionell einsteht.

Beim Wasserzeichen fehlt noch der Standard

Schwieriger ist die zweite Pflicht: KI-erzeugte Audio-, Bild-, Video- und Textinhalte müssen maschinenlesbar markiert sein, damit sich automatisch erkennen lässt, dass sie nicht von einem Menschen stammen – etwa über digitale Wasserzeichen oder Metadaten. Ein sichtbarer Hinweis unter dem Bild genügt dafür nicht.

Welches Verfahren als ausreichend gilt, ist noch nicht abschließend geklärt. Die Kommission arbeitet mit einem Verhaltenskodex, den nach ihren Angaben über 180 Organisationen unterzeichnet haben; wer ihn befolgt, hat es im Zweifel leichter, Konformität nachzuweisen. Für generative Systeme, die vor dem 2. August bereits im Markt waren, gilt eine Übergangsfrist bis zum 2. Dezember 2026. Inhalte, die vorher veröffentlicht wurden, müssen nicht nachträglich gekennzeichnet werden.

Zuständig ist die Bundesnetzagentur

Deutschland hat die nationale Aufsicht kurz vorher geregelt: Das KI-Marktüberwachungs- und Innovationsförderungsgesetz ist am 29. Juli in Kraft getreten. Die Bundesnetzagentur ist seither Marktüberwachungsbehörde, nationale Anlaufstelle und Beschwerdestelle.

Der Punkt Beschwerdestelle verdient Aufmerksamkeit. Die Behörde nimmt nach eigener Darstellung Beschwerden „von natürlichen und juristischen Personen" entgegen und lässt sie in ihre Überwachung einfließen – Anstoß kann also auch ein verärgerter Kunde oder ein Wettbewerber geben, nicht nur eine Behördenprüfung. Umgekehrt hat dieselbe Behörde den Auftrag, Unternehmen zu unterstützen, unter anderem über einen KI-Service-Desk, Reallabore zum Erproben neuer Anwendungen und ein Selbsteinschätzungswerkzeug.

Was offen bleibt

Der Bußgeldrahmen liegt bei bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, was höher ist. Das klingt drastisch, sagt aber wenig über das tatsächliche Risiko für ein mittelständisches Unternehmen: Vollzugspraxis gibt es noch keine, öffentlich bekannte Verfahren zu den neuen Transparenzpflichten ebenfalls nicht. Wie streng gemessen wird, ob kleinere Verstöße überhaupt verfolgt werden und wie viel Personal die Aufsicht dafür hat, ist im Moment nicht seriös zu beantworten.

Dazu kommt: Nicht alles ist in Kraft. Die aufwendigen Pflichten für Hochrisiko-Systeme – Konformitätsbewertung, technische Dokumentation, CE-Kennzeichnung – wurden nach hinten verschoben. Wer Meldungen über den 2. August gelesen hat und daraus geschlossen hat, dass nun alles gleichzeitig gilt, liegt falsch.

Drei Fragen lassen sich ohne Rechtsabteilung beantworten und decken den größten Teil des Themas ab: Sagt unser Chatbot beim ersten Satz, dass er ein Programm ist? Sind KI-erzeugte Bilder und Texte auf unseren Kanälen so markiert, dass eine Maschine das erkennt? Und wissen wir eigentlich, welche unserer Werkzeuge KI-Inhalte erzeugen – auch die, die jemand im Marketing auf eigene Faust abonniert hat?