EU AI Act - Neue Regelungen ab August 2026

Mit dem 2. August 2026 beginnt nun eine weitere wichtige Phase der Anwendung des EU AI Acts. Insbesondere die Transparenzpflichten nach Artikel 50 werden ab diesem Zeitpunkt anwendbar. Für Unternehmen bedeutet das: Sie müssen genauer prüfen, wo und wie KI-Systeme eingesetzt werden und ob Nutzer, Kunden oder die Öffentlichkeit über diesen Einsatz informiert werden müssen.

Dabei geht es nicht darum, jeden KI-Einsatz pauschal sichtbar zu kennzeichnen. Entscheidend sind vielmehr der konkrete Anwendungsfall, die Rolle des Unternehmens sowie die Art des erzeugten oder verarbeiteten Inhalts.

Die wichtigsten Punkte auf einen Blick:

1. Transparenzpflichten für bestimmte KI-Systeme

   Ab August 2026 gelten die Transparenzanforderungen nach Artikel 50 des EU AI Acts. Sie betreffen unter anderem KI-Systeme, die direkt mit Menschen interagieren, generative KI-Systeme sowie bestimmte KI-generierte oder manipulierte Inhalte.

2. Kennzeichnung KI-generierter Inhalte

   Anbieter bestimmter KI-Systeme, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen dafür sorgen, dass die Outputs in maschinenlesbarer Form als künstlich erzeugt oder manipuliert erkennbar sind.

3. Offenlegungspflichten für bestimmte veröffentlichte Inhalte

   Für bestimmte Inhalte reicht eine technische Kennzeichnung allein nicht aus. Wer beispielsweise Deepfakes oder bestimmte KI-generierte beziehungsweise manipulierte Texte zu Angelegenheiten von öffentlichem Interesse veröffentlicht, kann verpflichtet sein, die künstliche Herkunft des Inhalts gegenüber Menschen offenzulegen.

4. Transparenz bei der Interaktion mit KI

   Auch bei der direkten Interaktion zwischen Mensch und KI gelten Transparenzanforderungen. Nutzer müssen grundsätzlich darüber informiert werden, wenn sie unmittelbar mit einem KI-System interagieren, sofern dies nicht bereits offensichtlich ist.

Der nächste Schritt im Zuge der profilaktischen Notwendigkeitsprüfung von Unternehmen für die Implementierung von gesetzeskonformen Maßnahmen, ist festzustellen, innerhalb welcher konkreter Prozesse, in welchem Umfang KI-Technologie eingesetzt wird.

Dabei stellen sich insbesondere folgende Fragen:

Wo setzen wir KI-Systeme ein, die direkt mit Kunden, Mitarbeitenden oder anderen Personen interagieren?

Erstellen oder verändern unsere KI-Systeme Texte, Bilder, Audio- oder Videoinhalte?

Sind wir Anbieter des KI-Systems oder setzen wir ein System eines externen Anbieters lediglich ein?

Müssen die von uns erzeugten KI-Inhalte maschinenlesbar gekennzeichnet werden?

Müssen wir zusätzlich gegenüber Nutzern oder der Öffentlichkeit offenlegen, dass ein Inhalt mit KI erzeugt oder manipuliert wurde?

Wie muss eine solche Kennzeichnung oder Offenlegung konkret aussehen?

Gerade die letzte Frage ist für viele Unternehmen besonders relevant. Denn wenn festgestellt wurde, dass ein KI-Anwendungsfall einer Transparenzpflicht unterliegt, muss im nächsten Schritt geklärt werden, welche Form der Transparenz tatsächlich erforderlich ist.

Artikel 50: Wann gelten Transparenzpflichten?

Artikel 50 des EU AI Acts definiert die zentralen Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme. Dabei lassen sich insbesondere folgende Fälle unterscheiden:

1. Menschen interagieren direkt mit einem KI-System

Personen müssen grundsätzlich darüber informiert werden, dass sie mit einem KI-System interagieren, sofern dies für sie nicht bereits offensichtlich ist.

Ein typisches Beispiel sind KI-basierte Chatbots oder virtuelle Assistenten.

2. KI-Systeme erzeugen oder manipulieren Inhalte

Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte generieren, müssen grundsätzlich dafür sorgen, dass diese Inhalte maschinenlesbar als künstlich erzeugt oder manipuliert erkennbar sind.
Hier geht es also zunächst um eine technische Kennzeichnung der Herkunft eines Inhalts.

3. Deepfakes werden veröffentlicht

Wer KI-Systeme einsetzt, um Deepfake-Inhalte zu erzeugen oder zu manipulieren und diese veröffentlicht, muss grundsätzlich offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde.

Hier besteht damit eine Offenlegungspflicht gegenüber dem Menschen, nicht lediglich eine technische Kennzeichnung im Hintergrund.

4. KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse werden veröffentlicht

Auch bei bestimmten KI-generierten oder manipulierten Texten, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, kann eine Offenlegungspflicht bestehen.

Eine wichtige Ausnahme sieht der AI Act unter bestimmten Voraussetzungen vor, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.

5. Emotionserkennung oder biometrische Kategorisierung wird eingesetzt

Wer bestimmte Systeme zur Emotionserkennung oder biometrischen Kategorisierung einsetzt, muss die davon betroffenen Personen grundsätzlich über den Einsatz des Systems informieren.

Kennzeichnung oder Offenlegung – was ist der Unterschied?

Für Unternehmen ist insbesondere die Unterscheidung zwischen Kennzeichnung und Offenlegung wichtig.

Bei der maschinenlesbaren Kennzeichnung geht es darum, dass die Herkunft eines KI-generierten oder manipulierten Inhalts technisch erkannt werden kann.

Bei der Offenlegungspflicht geht es hingegen darum, Menschen aktiv darüber zu informieren, dass ein bestimmter Inhalt künstlich erzeugt oder manipuliert wurde.

Artikel 50 legt fest, in welchen Fällen solche Transparenzpflichten bestehen. Die konkrete praktische Umsetzung ist jedoch eine weitere Frage.

Wie können Unternehmen die Transparenzpflichten praktisch umsetzen?

Der von der Europäischen Kommission beziehungsweise dem AI Office unterstützte Code of Practice on Transparency of AI-Generated Content soll Anbieter und Betreiber generativer KI-Systeme dabei unterstützen, die Anforderungen des EU AI Acts zur Kennzeichnung und Offenlegung von KI-generierten Inhalten praktisch umzusetzen. Die Teilnahme am Code ist freiwillig; Unternehmen können die gesetzlichen Anforderungen auch auf andere geeignete Weise erfüllen (Code of Practice on Transparency of AI-Generated Content).

Dazu gehören beispielsweise Ansätze zur maschinenlesbaren Kennzeichnung von KI-Inhalten sowie zur sichtbaren Information von Nutzern über deren künstliche Herkunft. Die Europäische Kommission hat den Code im Juli 2026 als geeignet bewertet, die Umsetzung der Pflichten aus Artikel 50 Absätze 2, 4 und 5 zu unterstützen.

Zusätzlich hat die Europäische Kommission im Juli 2026 eigene Guidelines zu den Transparenzpflichten nach Artikel 50 veröffentlicht. Diese sollen Unternehmen und Behörden insbesondere dabei helfen, den Anwendungsbereich der gesetzlichen Pflichten zu verstehen, während der Code of Practice stärker auf die praktische Umsetzung der Kennzeichnung und Offenlegung KI-generierter Inhalte ausgerichtet ist (Guidelines zu den Transparenzpflichten nach Artikel 50).