AI Act: Welche Videos gekennzeichnet werden müssen

Dieser Artikel wurde zuletzt am 20. Juli 2026 aktualisiert.

Derzeit wird vor allem in den sozialen Medien – zumindest in meiner Bubble – viel über die ab dem 2. August 2026 geltenden Transparenzpflichten des EU AI Acts diskutiert. Meist geht es darum, dass man nun alle KI-generierten Inhalte kennzeichnen müsse. Doch das stimmt so nicht.

Was ist der AI Act?

Der AI Act ist die erste umfassende gesetzliche Regulierung von künstlicher Intelligenz auf EU-Ebene. Es geht darin um KI-generierte Videos oder Bilder, wobei die Verordnung an sich ein deutliches größeren Anwendungsbereich hat. Sie verfolgt einen risikobasierten Ansatz und stellt je nach Art, Einsatzgebiet und möglichem Risiko unterschiedliche Anforderungen an KI-Systeme.

An dieser Stelle muss ich meinen Satz von oben gleich einmal konkretisieren: Der AI Act ist bereits seit dem 1. August 2024 in Kraft. Viele seiner Regelungen gelten allerdings erst nach entsprechenden Übergangsfristen. Die Transparenzpflichten aus Artikel 50 gelten ab dem 2. August 2026 verbindlich. Genau darum soll es im Folgenden gehen: Welche KI-Inhalte müssen als solche gekennzeichnet werden – und wo muss diese Kennzeichnung erfolgen?

Was muss gekennzeichnet werden?

Die Regelungen zu den Transparenzpflichten finden sich in Kapitel IV des AI Acts. In der Zusammenfassung auf der Seite der EU-Kommission heißt es:

„KI-generierte oder -manipulierte Inhalte müssen deutlich als künstlich erzeugt gekennzeichnet werden und erkennbar sein.“

Diese Zusammenfassung klingt zunächst so, als müsse tatsächlich jeder mit KI erstellte Inhalt sichtbar gekennzeichnet werden. Im eigentlichen Gesetzestext wird aber genauer unterschieden, wer für welche Form der Kennzeichnung verantwortlich ist. Artikel 50 unterscheidet unter anderem zwischen Anbietern und Betreibern eines KI-Systems.

• Ein Anbieter ist beispielsweise ein Unternehmen, das ein KI-System entwickelt und unter dem eigenen Namen anbietet. Dazu gehören etwa OpenAI mit ChatGPT oder Google mit Gemini.
• Ein Betreiber ist dagegen eine Person, ein Unternehmen, eine Behörde oder eine andere Stelle, die ein KI-System in eigener Verantwortung verwendet. Wer ein KI-Tool ausschließlich privat und außerhalb einer beruflichen Tätigkeit nutzt, gilt in diesem Zusammenhang grundsätzlich nicht als Betreiber.

Für die Anbieter generativer KI-Systeme sieht der AI Act eine technische Kennzeichnungspflicht vor. Anbieter von KI-Systemen, die Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.

Dieser Absatz betrifft also zunächst Anbieter wie OpenAI oder Google und nicht unmittelbar den Nutzer, der ein Bild generiert und anschließend veröffentlicht. Gemeint ist außerdem nicht zwingend ein sichtbares Wasserzeichen im Bild (z. B. das Gemini Logo als Wasserzeichen) oder ein kleiner Zusatz wie „KI-generiert“ am Bildrand. Es geht vielmehr um technische Verfahren, mit denen die Herkunft eines Inhalts maschinell erkannt werden kann.

Eine Ausnahme gibt es unter anderem für KI-Systeme, die lediglich eine unterstützende Funktion bei einer üblichen Bearbeitung übernehmen oder die eingegebenen Daten und deren Bedeutung nicht wesentlich verändern. Nicht jede automatische Bildkorrektur, Rauschreduzierung oder Rechtschreibprüfung muss deshalb technisch als KI-generierter Inhalt gekennzeichnet werden. Das greift z. B. bei der Bildretusche mit Photoshop.

Ein konkretes Beispiel für eine technische Kennzeichnung ist SynthID von Google DeepMind. Dieses Verfahren bindet ein für Menschen unsichtbares Signal direkt in einen generierten Inhalt ein. Anders als klassische Metadaten ist das Bestandteil des eigentlichen Bildes und kann daher auch nach Bearbeitungen, Komprimierungen oder Screenshots noch erkennbar bleiben.

Mittlerweile setzt auch OpenAI bei Bildern, die mit ChatGPT erzeugt wurden, SynthID ein. Zusätzlich werden klassische Metadaten verwendet. Diese enthalten Informationen über die Herkunft und Entstehung einer Datei. Beide Verfahren ergänzen sich: Metadaten können detaillierte Informationen liefern, lassen sich aber leichter entfernen. Ein unsichtbares Wasserzeichen kann bestimmte Veränderungen besser überstehen, ist jedoch ebenfalls nicht grundsätzlich unzerstörbar. Wer also möchte, kann solche Kennzeichnungen nach wie vor entfernen.

Für den eigentlichen Nutzer eines KI-Systems wird die folgende Passage wichtiger: „Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass diese Inhalte künstlich erzeugt oder manipuliert wurden.„

Was ist ein Deepfake?

An dieser Stelle sollte man zuerst den Begriff Deepfake definieren. Der AI Act versteht darunter „einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.“

Der Begriff umfasst damit deutlich mehr als manipulierte Videos von Politikern oder Prominenten. Auch realistisch erzeugte Gegenstände, Gebäude, Landschaften oder vollständig erfundene Ereignisse können darunterfallen, wenn der Eindruck entsteht, es handle sich um eine authentische Aufnahme.

Weitere Infos zu Deepfakes habe ich dir hier zusammengefasst.

Mit diesen Definitionen und dem Gesetzestext lässt sich also Folgendes ableiten:

• Die Transparenzpflicht betrifft zwei Ebenen. Anbieter wie OpenAI oder Google müssen generierte Inhalte technisch kennzeichnen. Berufliche Nutzer müssen bestimmte Inhalte für die Menschen kennzeichnen, die damit konfrontiert werden.
• Eine unmittelbare Offenlegungspflicht für den Nutzer besteht insbesondere bei Bild-, Audio- oder Videoinhalten, die als Deepfake gelten.
• Nicht jeder Einsatz eines KI-Tools führt automatisch zu einer sichtbaren Kennzeichnungspflicht.
• Offensichtlich unrealistische, stilisierte oder abstrakte Inhalte sind in der Regel keine Deepfakes, sofern sie vernünftigerweise nicht mit einer authentischen Aufnahme verwechselt werden können.
• Auch eine teilweise KI-basierte Manipulation eines echten Fotos, Videos oder einer Audioaufnahme kann einen Deepfake erzeugen.

Welche KI-Inhalte sind konkret betroffen?

Ein konkretes Beispiel: Erstelle ich ein Video, in dem eine echte Person scheinbar ein Produkt bewirbt, obwohl sie diese Aussagen nie gemacht hat, handelt es sich sehr wahrscheinlich um einen Deepfake. Das Video muss entsprechend als künstlich erzeugt oder manipuliert offengelegt werden.

Bei einem vollständig fiktiven, aber realistisch wirkenden KI-Influencer ist die Einordnung komplizierter. Wenn die Figur so dargestellt wird, als handle es sich um einen echten Menschen, spricht viel dafür, den Inhalt ebenfalls offenzulegen. Der bisherige Entwurf der Leitlinien der EU-Kommission legt den Begriff Deepfake weit aus. Aus praktischer Sicht würde ich solche realistisch dargestellten KI-Personen deshalb kennzeichnen.

Erstelle ich dagegen eine offensichtlich animierte Szene mit einem sprechenden oder tanzenden Elefanten, dann ist das in der Regel kein Deepfake. Niemand wird eine deutlich stilisierte Animation für eine authentische Naturaufnahme halten.

Anders sieht es aus, wenn ich ein fotorealistisches Video erzeuge, das den Eindruck vermittelt, ein echter Elefant habe tatsächlich mitten in einer bestimmten Stadt getanzt. In diesem Fall wird ein erfundenes Ereignis als vermeintlich authentische Aufnahme dargestellt. Das kann unter die Deepfake-Definition fallen. Ein konkretes Beispiel dazu wären die vielfach geteilten Hasen auf einem Trampolin.

Vereinfacht lässt sich also sagen: Je realistischer ein KI-generierter oder manipulierter Inhalt wirkt und je eher er für eine echte Aufnahme gehalten werden kann, desto wahrscheinlicher ist eine Offenlegungspflicht.

Eine allgemeine Pflicht, sämtliche anderen KI-Inhalte beispielsweise im Abspann eines Films oder auf einer Webseite zu nennen, enthält Artikel 50 dagegen nicht. Eine freiwillige Information über die verwendeten KI-Tools kann trotzdem sinnvoll sein, ist aber von einer gesetzlichen Kennzeichnungspflicht zu unterscheiden.

Was gilt für Filme, Kunst und fiktionale Inhalte?

Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke gibt es eine besondere Regelung. Ist ein kennzeichnungspflichtiger Deepfake Teil eines solchen Werks, muss die Offenlegung in einer geeigneten Weise erfolgen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.

Das bedeutet nicht, dass alle KI-generierten Inhalte in einem Film grundsätzlich im Abspann genannt werden müssen. Die Erleichterung betrifft Inhalte, die zunächst unter die Deepfake-Regelung fallen.

Ein Beispiel wäre ein Spielfilm, in dem ein Schauspieler mithilfe von KI verjüngt wird oder die Stimme einer realen Person synthetisch nachgebildet wird. In einem solchen Fall müsste nicht dauerhaft ein großer Hinweis im Bild eingeblendet werden. Eine geeignete Offenlegung im Vor- oder Abspann kann ausreichen, solange erkennbar bleibt, dass entsprechende Inhalte künstlich erzeugt oder manipuliert wurden.

Was gilt für KI-generierte Texte?

Grundsätzlich können von den Transparenzregelungen auch Texte betroffen sein. Allerdings muss nicht jeder Text gekennzeichnet werden, der mithilfe eines KI-Tools entstanden ist. Die Offenlegungspflicht betrifft Texte, die mit einem KI-System erzeugt oder manipuliert und veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Keine Offenlegung ist nach Artikel 50 erforderlich, wenn der KI-generierte Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.

Nutze ich also ein KI-Tool, um einen Artikel zu strukturieren, einzelne Formulierungen zu verbessern oder einen ersten Entwurf zu erstellen, bedeutet das nicht automatisch, dass der veröffentlichte Artikel als KI-generiert gekennzeichnet werden muss. Entscheidend ist, dass eine echte menschliche Überprüfung stattfindet und jemand die Verantwortung für den Inhalt übernimmt.

Was gilt für Audioinhalte?

Auch Audioinhalte können unter die Deepfake-Regelung fallen. Für mich ist das eines der schwierigsten Medien. Warum? Eine Kennzeichnung lässt sich bei einem reinen Audioinhalt nicht einfach als Grafik im Bild platzieren.

Artikel 50 verlangt, dass die Information spätestens bei der ersten Konfrontation mit dem Inhalt klar und eindeutig bereitgestellt wird. Bei einem Video oder einem Beitrag in einem Audioplayer mit Display kann dafür möglicherweise eine sichtbare Kennzeichnung im Player verwendet werden. Bei einer klassischen Radioausstrahlung gibt es diese Möglichkeit aber nicht.

Bei einem Radiospot, der eine realistisch klingende, vollständig synthetische Stimme verwendet und damit als Deepfake einzuordnen ist, dürfte ein hörbarer Hinweis deshalb die naheliegendste Lösung sein. Dieser könnte unmittelbar vor dem Spot oder innerhalb des Spots platziert werden.

Problematisch: Ein gesprochener Hinweis benötigt Zeit. Gerade bei einem Spot von 20 oder 30 Sekunden können dadurch wertvolle Sekunden verloren gehen, die am Ende auch bezahlt werden müssen. Die Kennzeichnung kann einen solchen Spot also tatsächlich länger und damit teurer machen. Möglicherweise werden sich dafür standardisierte akustische Signale oder andere eindeutige Lösungen etablieren. Die praktischen Details werden sich aber vermutlich erst mit der Anwendung der Regelungen und den dazugehörigen Leitlinien vollständig klären.

Was bringt der AI Act?

Die EU-Verordnung ist notwendig und in weiten Teilen auch sinnvoll. Wir müssen die Technologie rechtlich betrachten, da sie viel Raum für Manipulation und Missbrauch bietet. Eine Kennzeichnungspflicht kann dabei helfen, seriöse und transparente Anwendungen von bewusst irreführenden Inhalten zu unterscheiden. Sie wird kriminelle Absichten allerdings nicht verhindern. Wer gezielt täuschen, betrügen oder manipulieren möchte, wird sich vermutlich auch nicht an eine Kennzeichnungspflicht halten.

Trotzdem schafft der AI Act erstmals einheitliche Regeln und weist unterschiedlichen Beteiligten konkrete Verantwortlichkeiten zu. Anbieter müssen technische Voraussetzungen schaffen und berufliche Nutzer müssen bestimmte realistisch wirkende Inhalte für ihr Publikum offenlegen.

Wichtig ist dabei aber die Differenzierung: Nicht jeder mit KI erzeugte Text, jedes KI-Bild und jedes animierte Video muss sichtbar als KI-generiert gekennzeichnet werden. Entscheidend sind die Art des Inhalts, sein Verwendungszweck, seine Wirkung und die Frage, ob er als authentisch oder wahrheitsgemäß missverstanden werden kann.

Weitere Informationen zum Thema Deepfakes und KI-Videos findest du auf unserer Übersichtsseite. Wenn du Lehrkraft bist, dann schaue dir meinen Kurs zum Thema an.

ℹ️ Dieser Artikel dient der allgemeinen Information und stellt keine individuelle Rechtsberatung dar. Transparenzhinweis: Das Titelbild ist KI generiert 🙂