Leitfaden zu Transparenz- und Kennzeichnungspflichten für KI-Texte, Bilder, Videos und KI-Interaktionen

Die rasante Entwicklung von Künstlicher Intelligenz (KI) verändert die digitale Kommunikationslandschaft grundlegend. Immer mehr Texte, Bilder, Videos und Tonaufnahmen werden mithilfe von KI-Systemen erstellt – oft so überzeugend, dass sie von menschlichen Werken kaum noch zu unterscheiden sind. Und immer häufiger interagieren Menschen mit KI-Systemen, z.B. Chatbots oder oder Voice-Agents. Um Transparenz und Vertrauen zu sichern, hat die EU mit der neuen KI-Verordnung (KI-VO) erstmals klare Regeln zur Transparenz- und Kennzeichnungspflicht für KI-generierte Inhalte geschaffen. In diesem Beitrag erkläre ich dir, was konkret auf dich und dein Unternehmen zukommt – und wie du dich vorbereiten kannst.

Mit dem vollständigen Inkrafttreten der KI-Verordnung am 2. August 2026 müssen bestimmte KI-generierte Inhalte eindeutig als solche gekennzeichnet werden. Geregelt sind die Anforderungen in Art. 50 KI-Verordnung. Zusätzlich finden sich im Erwägungsgrund 134 weitere hilfreiche Informationen. 

Die Pflicht richtet sich an alle, die KI-Systeme im beruflichen oder gewerblichen Kontext einsetzen – also Unternehmen, Behörden und Organisationen. Ausgenommen sind ausschließlich private, nicht-berufliche Anwendungen. 

Ziel ist es, Nutzerinnen und Nutzer darüber zu informieren, wenn sie mit von KI erstellten oder manipulierten Inhalten interagieren. Die Kennzeichnungspflicht betrifft insbesondere:

• Texte zu Angelegenheiten von öffentlichem Interesse: 
  Wenn KI-generierte Texte veröffentlicht werden, die die Öffentlichkeit informieren sollen, besteht eine Kennzeichnungspflicht.
• Deepfakes: 
  KI-generierte oder manipulierte Bilder, Videos und Tonaufnahmen, die echte Personen, Orte oder Ereignisse täuschend echt darstellen, müssen klar gekennzeichnet werden
• Interaktion von KI-Systemen (z.B. Chatbots oder Voice-Agents) mit natürlichen Personen
  Wenn natürliche Personen mit einem KI-System interagieren, muss offengelegt werden, dass sie mit KI interagieren, sofern dies nicht offensichtlich ist.

KI-generierte Texte müssen dann gekennzeichnet werden, wenn sie vollständig oder überwiegend durch ein KI-System erzeugt oder wesentlich manipuliert wurden und anschließend veröffentlicht werden, um die Öffentlichkeit über relevante Themen zu informieren (z.B. Nachrichten, politische Beiträge, gesellschaftliche Entwicklungen, Produktwarnungen).

Wie muss gekennzeichnet werden?
Die Kennzeichnung muss klar und deutlich erfolgen – etwa durch einen Hinweis am Anfang oder Ende des Textes, dass der Inhalt (ganz oder teilweise) künstlich erzeugt wurde. Die Offenlegung soll so gestaltet sein, dass sie für alle Nutzer verständlich und leicht auffindbar ist.

Ausnahmen von der Kennzeichnungspflicht
Art. 50 KI-VO und Erwägungsgrund 134 der KI-VO sehen wichtige Ausnahmen vor:

1. Menschliche Überprüfung und redaktionelle Kontrolle:
Wird ein KI-generierter Text vor der Veröffentlichung einer umfassenden menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen und übernimmt eine natürliche oder juristische Person ausdrücklich die redaktionelle Verantwortung für den Inhalt, entfällt die Kennzeichnungspflicht. Das bedeutet: Wenn ein Redaktionsteam, eine verantwortliche Person oder ein Unternehmen den Inhalt prüft, anpasst und die Veröffentlichung verantwortet, muss nicht explizit offengelegt werden, dass KI beteiligt war.
2. Strafverfolgung: Die Kennzeichnungspflicht entfällt, wenn der KI-generierte Text zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten veröffentlicht wird.
3. Kreative, künstlerische, satirische oder fiktionale Werke:
Inhalte, die offensichtlich kreativ, künstlerisch oder satirisch sind, unterliegen einer erleichterten Transparenzpflicht. Hier reicht es aus, das Vorhandensein von KI-generierten oder manipulierten Elementen in geeigneter Weise offenzulegen – etwa im Abspann, in den Metadaten oder durch einen allgemeinen Hinweis. Die Offenlegung darf dabei die Darstellung oder den Genuss des Werks nicht beeinträchtigen.
4. Wahrung der Grundrechte:
Die Transparenzpflicht darf nicht so ausgelegt werden, dass sie die Meinungsfreiheit, die Freiheit der Kunst oder der Wissenschaft einschränkt, wie sie in der EU-Grundrechtecharta garantiert sind.
5. Unterstützende KI-Systeme: Wenn KI-Systeme nur unterstützend eingesetzt werden (z.B. bei einer Autokorrektur) oder die ursprünglichen Eingaben nicht wesentlich verändert werden, entfällt die Kennzeichnungspflicht ebenfalls.

Beispiele für die Anwendung der Ausnahmen:

• Ein KI-generierter Nachrichtenartikel, der nachträglich von einer Redaktion geprüft, angepasst und veröffentlicht wird, benötigt keine Kennzeichnung, sofern die Redaktion die Verantwortung übernimmt.
• Ein satirischer KI-Text, der als Teil eines Comedy-Programms erscheint, muss nicht prominent gekennzeichnet werden, solange klar ist, dass es sich um Satire handelt und die Rechte Dritter gewahrt bleiben.
• Ein KI-generierter Roman oder ein Gedichtband, der als fiktionales Werk veröffentlicht wird, kann die Offenlegung dezent im Impressum oder Vorwort platzieren.

Zusammengefasst
Die Kennzeichnungspflicht für KI-generierte Texte greift immer dann, wenn die Öffentlichkeit über wichtige Themen informiert wird und keine menschliche Kontrolle oder redaktionelle Verantwortung vorliegt. Für kreative, künstlerische oder satirische Werke sowie für Inhalte unter redaktioneller Verantwortung gelten Ausnahmen oder erleichterte Offenlegungspflichten.

Deepfakes (ein Kofferwort aus „Deep Learning“ und „Fake“) sind realistisch wirkende Medieninhalte – wie Fotos, Videos oder Audioaufnahmen, die mithilfe von Techniken der künstlichen Intelligenz (KI) erzeugt, abgeändert oder verfälscht wurden. Deepfakes imitieren Personen, Stimmen oder Handlungen so realitätsnah, dass sie vom Original kaum noch zu unterscheiden sind.

Die Einsatzmöglichkeiten reichen von harmlosen Anwendungen im Bereich der Kunst bis hin zu gezielter Desinformation, Manipulation und Betrug. Besonders problematisch wird es, wenn Deepfakes zur Diskreditierung von Personen, zur Verbreitung von Fake News oder zur Beeinflussung der öffentlichen Meinung eingesetzt werden.

KI-generierte Bilder und Fotos sind kennzeichnungspflichtig, wenn sie so gestaltet sind, dass sie echte Personen, Gegenstände oder Ereignisse imitieren und der Eindruck entsteht, es handle sich um reale Aufnahmen (Deepfakes). Dies betrifft insbesondere realistisch wirkende Szenen, die eine tatsächliche Situation, einen Ort oder eine Person nachbilden. Ein KI-generiertes Porträtfoto einer Person, die es nicht gibt, aber wie ein echtes Passfoto aussieht, ist ebenso kennzeichnungspflichtig wie ein KI-generiertes Bild eines bekannten Ortes, das wie eine echte Aufnahme wirkt.

Videos, die mithilfe von KI erstellt oder manipuliert wurden und reale Ereignisse oder Personen nachahmen, müssen als künstlich erzeugt oder verändert gekennzeichnet werden. Auch KI-generierte Audiodateien, insbesondere solche, die Stimmen imitieren oder täuschend echt erscheinen lassen (z. B. Deepfake-Anrufe), unterliegen der Kennzeichnungspflicht. 

Wie muss gekennzeichnet werden?
Die Kennzeichnung muss klar und deutlich erfolgen. Soweit technisch möglich muss sie hinreichend zuverlässig, interoperabel, wirksam und belastbar sein, wobei verfügbare Techniken, wie Wasserzeichen, Metadatenidentifizierungen, kryptografische Methoden zum Nachweis der Herkunft und Authentizität des Inhalts, Protokollierungsmethoden, Fingerabdrücke oder andere Techniken, oder eine Kombination solcher Techniken je nach Sachlage zu berücksichtigen sind. Die Offenlegung soll so gestaltet sein, dass sie für alle Nutzer verständlich und leicht auffindbar ist.

Ausnahmen von der Kennzeichnungspflicht
Wie bei KI-generierten Texten sehen Art. 50 KI-VO und Erwägungsgrund 134 der KI-VO wichtige Ausnahmen vor:

1. Offensichtlich KI-generierte Inhalte: Keine Kennzeichnungspflicht besteht, wenn die Inhalte offensichtlich fiktiv oder symbolisch sind und dies für Betrachter eindeutig erkennbar ist – zum Beispiel bei klar gezeichneten Illustrationen, Comics oder stilisierten Grafiken, die keine reale Szene imitieren.
2. Strafverfolgung: Die Kennzeichnungspflicht entfällt, wenn der KI-generierte Text zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten veröffentlicht wird.
3. Kreative, künstlerische, satirische oder fiktionale Werke:
Inhalte, die offensichtlich kreativ, künstlerisch oder satirisch sind, unterliegen einer erleichterten Transparenzpflicht. Hier reicht es aus, das Vorhandensein von KI-generierten oder manipulierten Elementen in geeigneter Weise offenzulegen – etwa im Abspann, in den Metadaten oder durch einen allgemeinen Hinweis. Die Offenlegung darf dabei die Darstellung oder den Genuss des Werks nicht beeinträchtigen.
4. Wahrung der Grundrechte:
Die Transparenzpflicht darf nicht so ausgelegt werden, dass sie die Meinungsfreiheit, die Freiheit der Kunst oder der Wissenschaft einschränkt, wie sie in der EU-Grundrechtecharta garantiert sind.
5. Unterstützende KI-Systeme: Wenn KI-Systeme nur unterstützend eingesetzt werden (z.B. bei einer Bearbeitung des Hintergrunds) oder die ursprünglichen Eingaben nicht wesentlich verändert werden, entfällt die Kennzeichnungspflicht ebenfalls.

Beispiele für die Anwendung der Ausnahmen:

• Eine KI-generierte Comicfigur oder ein eindeutig als Illustration erkennbares Bild, das keine reale Person oder Szene abbildet, ist nicht kennzeichnungspflichtig.

Wenn Menschen direkt mit einem KI-System interagieren – etwa über einen Chatbot, Sprachassistenten oder ein intelligentes Service-Tool – müssen sie darüber aktiv informiert werden, dass sie mit KI kommunizieren. Diese Pflicht gilt immer dann, wenn es nicht offensichtlich ist, dass es sich um ein KI-System handelt.

Die Information soll dabei so gestaltet sein, dass sie auch für durchschnittlich informierte und aufmerksame Personen klar verständlich ist. Ausnahmen gelten nur für KI-Systeme, die ausschließlich zur Strafverfolgung eingesetzt werden – vorausgesetzt, es bestehen geeignete Schutzvorkehrungen für die Rechte und Freiheiten betroffener Personen. Wenn solche Systeme jedoch öffentlich zur Anzeige von Straftaten bereitgestellt werden, muss der Hinweis auf KI trotzdem erfolgen.

Die Kennzeichnung muss spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden (Art. 50 Abs. 5 KI-VO). Darüber hinaus müssen die geltenden Barrierefreiheitsanforderungen, zum Beispiel durch Alternativtexte für Screenreader, beachtet werden. 

Geeignete Methoden sind:

• Wasserzeichen auf Bildern und Videos
• Hinweise in Bildunterschriften, Videobeschreibungen oder am Anfang von Tonaufnahmen
• Textliche Hinweise am Anfang oder Ende von Artikeln
• Kryptografische Herkunftsnachweise
• Log- und Fingerprinting-Methoden

Diese Techniken sollen zuverlässig, wirksam und interoperabel sein und sich am Stand der Technik und an der Art des Inhalts orientieren.

Einige KI-Systeme, die mit Menschen interagieren oder Inhalte erzeugen, können ein erhöhtes Risiko für Täuschung oder Identitätsbetrug darstellen – auch wenn sie nicht als Hochrisiko-KI eingestuft sind (vg. Erwägungsgrund 132 KI-VO). Deshalb gelten für solche Systeme besondere Transparenzpflichten, insbesondere:

• Personen müssen informiert werden, wenn sie mit einem KI-System interagieren, außer es ist für eine durchschnittlich informierte und aufmerksame Person offensichtlich.
• Schutzbedürftige Gruppen, wie Kinder oder Menschen mit Behinderungen, müssen besonders berücksichtigt werden, wenn KI-Systeme mit ihnen interagieren. Diese Hinweise müssen barrierefrei zugänglich sein – z.B. für Menschen mit Seh- oder Hörbeeinträchtigungen.
• Personen müssen auch dann informiert werden, wenn KI-Systeme ihre biometrischen Merkmale (wie Mimik oder Stimme) nutzen, um Emotionen, Absichten oder persönliche Merkmale (z. B. Alter, Geschlecht, Interessen) zu erkennen oder abzuleiten.

Auch wenn einige KI‑Regeln bereits 2025 gelten, beginnen die Pflichten zur Kennzeichnung von Interaktionen im Rahmen der Transparenzpflichten aus Art. 50 KI-VO erst zum 2. August 2026.

Um die Anforderungen der KI-Verordnung zu erfüllen und Risiken zu minimieren, sollten Unternehmen eine klare KI-Richtlinie für den Umgang mit Künstlicher Intelligenz entwickeln und ihre Mitarbeitenden gezielt im Umgang mit KI und KI-generierten Inhalten schulen.

Wir bieten hierfür ein kostenloses Muster für eine KI-Richtlinie an, das Unternehmen als Grundlage für ihre eigenen Regelwerke nutzen und individuell anpassen können. Diese Richtlinie hilft, Verantwortlichkeiten zu klären, Prozesse zu definieren und Transparenz im Umgang mit KI-Systemen zu schaffen.

Darüber hinaus bieten wir Schulungen zur KI-Kompetenz an, um dein Team praxisnah auf die Herausforderungen und Chancen von KI vorzubereiten. So stellt dein Unternehmen sicher, dass alle Beschäftigten die gesetzlichen Vorgaben, ethischen Grundsätze und technischen Möglichkeiten im Arbeitsalltag sicher anwenden können.

Die Kennzeichnungspflicht für KI-generierte Inhalte ist ein wichtiger Schritt für mehr Transparenz und Vertrauen im digitalen Raum. Unternehmen sollten sich frühzeitig mit den neuen Anforderungen auseinandersetzen und klare Prozesse etablieren, um rechtliche Risiken zu vermeiden und das Vertrauen ihrer Nutzer zu stärken.

Wichtig ist:
👉 Die Nutzer müssen wissen, dass sie mit KI interagieren
👉 KI-Inhalte müssen klar gekennzeichnet sein

Wer frühzeitig klare Hinweise integriert und redaktionelle Verantwortung übernimmt, ist gut vorbereitet – und schützt nicht nur sich, sondern auch das Vertrauen der Nutzer.