Jetzt anrufen:
Seit 2. August 2026 gelten neue Transparenzpflichten für KI. Aber muss jetzt wirklich unter jedem ChatGPT-Text „KI-generiert“ stehen? Nein.
Die oft verwendete Kurzfassung „Ab August müssen KI-Inhalte gekennzeichnet werden“ klingt praktisch. Sie ist nur leider ein bisschen zu praktisch.
Denn Artikel 50 des EU AI Act unterscheidet ziemlich genau zwischen Chatbots, Deepfakes, KI-generierten Texten, technischen Kennzeichnungen und normaler KI-Unterstützung im Arbeitsalltag.
Für Unternehmen, Agenturen, Selbstständige und Creator*innen ist deshalb weniger die Frage entscheidend: „War hier irgendwo KI beteiligt?“
Die bessere Frage lautet: Was wurde mit KI erzeugt, wie wird es eingesetzt – und könnte das Publikum dadurch getäuscht werden?
Die Kurzfassung
Wer KI für Texte, Bilder, Videos, Chatbots oder andere Inhalte verwendet, sollte sich seit August 2026 mit Artikel 50 des EU AI Act beschäftigen.
Eine allgemeine Pflicht, jeden KI-unterstützten Inhalt sichtbar als „KI-generiert“ zu kennzeichnen, gibt es aber nicht.
Besonders relevant sind vier Bereiche:
- Direkte KI-Interaktion: Menschen kommunizieren mit einem KI-System, etwa einem Chatbot.
- Emotionserkennung und biometrische Kategorisierung: KI analysiert bestimmte persönliche Merkmale oder Reaktionen.
- Deepfakes: KI erzeugt oder manipuliert realistisch wirkende Bilder, Videos oder Audios.
- Texte von öffentlichem Interesse: KI erzeugt entsprechende Inhalte, die ohne ausreichende menschliche bzw. redaktionelle Prüfung veröffentlicht werden.
Dazu kommt eine zweite Ebene: Anbieter generativer KI-Systeme müssen bestimmte synthetische Inhalte technisch beziehungsweise maschinenlesbar als künstlich erzeugt oder manipuliert erkennbar machen.
Der Schnellcheck: Muss ich meinen KI-Inhalt kennzeichnen?
Ein paar typische Fälle machen die Unterschiede schnell klar:
- ChatGPT hilft bei einem normalen Unternehmensposting, das anschließend redaktionell bearbeitet wird: in der Regel keine spezielle Kennzeichnung nach Artikel 50.
- KI schreibt praktisch selbstständig einen Artikel zu Politik oder Gesundheit, der ungeprüft veröffentlicht wird: Kennzeichnung kann erforderlich sein.
- KI erzeugt ein realistisches Video einer echten Person, die etwas sagt, das sie nie gesagt hat: Deepfake – Kennzeichnung grundsätzlich relevant.
- KI erzeugt eine offensichtlich fantastische Illustration für eine Kampagne: nicht allein deshalb automatisch sichtbar kennzeichnungspflichtig.
- Ein KI-Chatbot beantwortet auf einer Webseite selbstständig Fragen: Für Nutzer*innen muss grundsätzlich erkennbar sein, dass sie mit einer KI interagieren.
- Ein KI-Werkzeug reduziert Bildrauschen oder korrigiert kleine technische Fehler: nicht automatisch ein Fall für eine sichtbare KI-Kennzeichnung.
Die konkrete rechtliche Bewertung hängt natürlich immer vom Inhalt, dem Einsatzkontext und der Art der KI-Nutzung ab. Eine Checkliste ersetzt im Zweifelsfall keine Rechtsberatung. Sonst wäre Jura erfreulich einfach.
1. Chatbots und KI-Assistenten: Bin ich hier gerade mit einer KI im Gespräch?
Wenn Menschen direkt mit einem KI-System interagieren, müssen sie grundsätzlich erkennen können, dass sie es mit einer KI zu tun haben.
Typische Beispiele sind:
- KI-Chatbots auf Webseiten
- KI-gestützter Kundenservice
- virtuelle Assistent*innen
- KI-Avatare
- bestimmte autonome KI-Agenten mit direktem Nutzer*innenkontakt
Ist für einen vernünftigen Menschen ohnehin offensichtlich, dass er mit einer KI kommuniziert, kann die Situation anders zu beurteilen sein. Für Unternehmen ist trotzdem meist die einfachste Lösung auch die beste:
„Du chattest hier mit unserem KI-Assistenten.“
Ein Satz. Viel Transparenz. Compliance muss nicht immer aussehen wie eine 73-seitige PDF-Datei.
2. KI-Bilder und KI-Videos: Muss jetzt jedes generierte Bild gekennzeichnet werden?
Nein.
Eine allgemeine sichtbare Kennzeichnungspflicht für jedes Bild, das mit ChatGPT, Adobe Firefly, Midjourney, Gemini oder einem anderen generativen System erstellt wurde, ergibt sich daraus nicht.
Besonders relevant sind stattdessen Deepfakes.
Gemeint sind künstlich erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte, die realen oder plausibel existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln und dadurch fälschlicherweise authentisch oder wahr wirken können.
Typische Beispiele
Kennzeichnung besonders relevant:
- Ein realistisches KI-Video zeigt eine reale Person bei einer Aussage, die sie nie gemacht hat.
- Ein KI-Bild zeigt eine reale Stadt nach einem angeblichen Ereignis, das nie stattgefunden hat.
- Die Stimme einer realen Person wird täuschend echt synthetisch nachgebildet.
- Eine reale Person wird glaubwürdig in eine Situation versetzt, die nie stattgefunden hat.
Nicht automatisch ein Deepfake:
- eine offensichtlich fantastische Illustration
- eine eindeutig stilisierte KI-Grafik
- technische Bildkorrekturen
- übliche Postproduktion
- fiktive Bildwelten, die erkennbar keine dokumentarische Aufnahme darstellen sollen
Die praktisch wichtigere Frage ist deshalb nicht:
„Hat hier jemand KI verwendet?“
Sondern:
„Könnte das Publikum diesen Inhalt fälschlicherweise für eine authentische Darstellung der Realität halten?“
3. Deepfake erkannt – wie muss gekennzeichnet werden?
Wenn die Deepfake-Regeln greifen, reicht eine rein technische Information irgendwo tief in Metadaten nicht unbedingt als Transparenz gegenüber dem Publikum.
Der Hinweis für Menschen muss klar und wahrnehmbar sein und spätestens dann zur Verfügung stehen, wenn sie dem entsprechenden Inhalt ausgesetzt werden.
Genau deshalb ist auch das Aufmacherbild dieses Artikels sichtbar als KI-generiert gekennzeichnet. Es soll bewusst zeigen, wie ein realistischer synthetischer Videoinhalt aussehen kann – inklusive Transparenzhinweis.
Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke sieht der AI Act dabei Erleichterungen vor: Die Kennzeichnung soll den Genuss oder die Darstellung des Werks nicht unnötig beeinträchtigen.
4. KI-generierte Texte: Muss ich ChatGPT offenlegen?
Hier liegt wahrscheinlich das größte Missverständnis.
Dass ChatGPT bei einem Text geholfen hat, löst nicht automatisch eine Kennzeichnungspflicht aus.
Besonders relevant sind KI-generierte oder KI-manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren.
Das kann beispielsweise Bereiche betreffen wie:
- Politik und demokratische Prozesse
- öffentliche Verwaltung
- Justiz und Grundrechte
- öffentliche Sicherheit
- Gesundheit
- Umwelt
- wirtschaftliche oder gesellschaftliche Entwicklungen
- wissenschaftliche Entwicklungen
Und die normale Unternehmenskommunikation?
Ein Produkttext, eine Einladung, eine Landingpage oder ein LinkedIn-Posting werden nicht allein deshalb kennzeichnungspflichtig, weil ein Sprachmodell beim Formulieren geholfen hat.
Anders wird es, wenn beispielsweise weitgehend automatisiert Inhalte zu gesellschaftlich relevanten Themen produziert und ohne echte redaktionelle Prüfung veröffentlicht werden.
5. Die wichtige Ausnahme: echte menschliche Prüfung
Für Unternehmen, Medien und professionelle Creator*innen ist das einer der praktisch wichtigsten Punkte.
Bei entsprechenden KI-generierten Texten kann die spezielle Offenlegungspflicht entfallen, wenn eine ausreichende menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat und eine Person oder Organisation die redaktionelle Verantwortung übernimmt.
Nur einmal die Rechtschreibprüfung darüberlaufen zu lassen, ist allerdings keine tiefgreifende menschliche Kontrolle.
Eine echte redaktionelle Prüfung bedeutet zum Beispiel:
- Fakten überprüfen
- Quellen kontrollieren
- inhaltliche Aussagen bewerten
- Fehler und Halluzinationen erkennen
- Passagen ändern oder verwerfen können
- die endgültige Veröffentlichung bewusst freigeben
Nicht ausreichend sind für sich allein:
- Rechtschreibprüfung
- Grammatikkorrektur
- rein formales Gegenlesen
- Copy-and-paste mit anschließendem „schaut eh gut aus“
Das ist übrigens auch unabhängig vom AI Act ein ziemlich brauchbarer redaktioneller Mindeststandard.
6. Was bedeutet das für Creator*innen?
Die Regeln sind nicht nur für große Unternehmen relevant. Auch Agenturen, Freelancer*innen, Selbstständige und professionelle Creator*innen sollten ihren KI-Einsatz prüfen.
Besonders sinnvoll sind drei Fragen:
- Erzeuge ich realistisch wirkende Bilder, Videos oder Stimmen?
- Bezieht sich der Inhalt auf reale Personen, Orte oder Ereignisse?
- Veröffentliche ich KI-generierte Informationen zu Themen von öffentlichem Interesse ohne fundierte eigene Prüfung?
Je öfter hier „Ja“ steht, desto genauer sollte man sich Artikel 50 ansehen.
7. Maschinenlesbare Kennzeichnung ist etwas anderes
Ein Punkt geht in der aktuellen Diskussion leicht unter: Der AI Act kennt nicht nur sichtbare Hinweise für Menschen.
Anbieter generativer KI-Systeme müssen grundsätzlich dafür sorgen, dass bestimmte synthetische Audio-, Bild-, Video- und Textinhalte maschinenlesbar als künstlich erzeugt oder manipuliert erkannt werden können.
Das betrifft zunächst vor allem die Anbieter dieser Systeme – nicht automatisch jedes Unternehmen, das ChatGPT, Firefly oder ein anderes Werkzeug benutzt.
Für die Praxis sollte man deshalb zwei Dinge auseinanderhalten:
- Technische beziehungsweise maschinenlesbare Markierung: vor allem eine Pflicht auf Anbieterseite.
- Verständliche Transparenz für Menschen: kann eine Pflicht des Unternehmens oder der Creator*innen sein, die den Inhalt veröffentlichen oder einsetzen.
Ein unsichtbares technisches Signal und ein sichtbarer Hinweis erfüllen also unterschiedliche Zwecke.
8. Nicht jede KI-Bildbearbeitung ist ein Deepfake
Auch das ist für den Alltag relevant: Nicht jede Funktion, auf der heute irgendwo „AI“ steht, verwandelt den fertigen Inhalt automatisch in einen kennzeichnungspflichtigen KI-Inhalt.
Typische unterstützende Funktionen sind etwa:
- Rauschreduzierung
- technische Bildkorrekturen
- einfache Retuschen
- Standardbearbeitung von Audio oder Video
Entscheidend wird es vor allem dann, wenn KI neue Inhalte erzeugt, reale Zusammenhänge wesentlich verändert oder etwas erzeugt, das fälschlich für authentisch gehalten werden könnte.
Die PR-Eins-Checkliste für Unternehmen
Wer KI im Unternehmen einsetzt, muss daraus kein neues Ministerium machen. Ein klarer Prozess ist trotzdem sinnvoll.
1. KI-Anwendungen erfassen
- Welche generativen KI-Systeme verwenden wir?
- Haben wir KI-Chatbots oder Assistenten?
- Produzieren wir KI-Bilder, Videos oder synthetische Stimmen?
- Wer veröffentlicht KI-generierte oder KI-unterstützte Texte?
2. Veröffentlichte Inhalte kategorisieren
- interne Inhalte
- Marketing und Werbung
- redaktionelle Inhalte
- Informationen von öffentlichem Interesse
- realistische synthetische Medien
3. Deepfake-Risiko prüfen
- Wirkt der Inhalt wie eine reale Aufnahme?
- Imitiert er reale oder plausibel reale Personen, Orte oder Ereignisse?
- Könnte das Publikum über seine Echtheit getäuscht werden?
4. Redaktionelle Verantwortung festlegen
- Wer prüft KI-generierte Inhalte?
- Wer kontrolliert Fakten und Quellen?
- Wer gibt Inhalte zur Veröffentlichung frei?
- Ist nachvollziehbar, dass tatsächlich eine inhaltliche Prüfung stattgefunden hat?
5. Kennzeichnungsstandard definieren
- Wie kennzeichnen wir Deepfakes?
- Wie weisen unsere Chatbots auf ihren KI-Einsatz hin?
- Wo erfolgt die Kennzeichnung bei Audio und Video?
- Welche Formulierungen verwenden wir einheitlich?
6. Mitarbeitende schulen
Die Kennzeichnungspflichten sollten nicht isoliert betrachtet werden. Bereits seit Februar 2025 verlangt Artikel 4 des AI Act, dass Anbieter und Betreiber von KI-Systemen Maßnahmen treffen, um bei den beteiligten Personen ein ausreichendes Maß an KI-Kompetenz sicherzustellen.
Mehr dazu gibt es in unserem Beitrag „EU AI Act: Warum Artikel 4 jetzt wichtig ist“.
Eine kurze interne Guideline plus Schulung ist meistens sinnvoller als zwanzig spontane Einzelfallentscheidungen in Teams, Slack und E-Mail.
Eine einfache Entscheidungslogik für den Alltag
Die Infografik weiter oben fasst das kompakt zusammen. Wer lieber Schritt für Schritt denkt, kann diese fünf Fragen verwenden:
- Interagiert eine Person direkt mit unserer KI?
Wenn ja: Transparenz über den KI-Einsatz sicherstellen. - Veröffentlichen wir realistisches KI-Bild-, Audio- oder Videomaterial?
Wenn ja: prüfen, ob die Deepfake-Regeln greifen. - Veröffentlichen wir KI-generierten Text zu einem Thema von öffentlichem Interesse?
Wenn nein: Die spezielle Offenlegungspflicht für solche Texte ist nicht einschlägig. - Wenn ja: Wurde der Inhalt fachlich und redaktionell geprüft?
Eine tatsächliche menschliche Kontrolle und redaktionelle Verantwortung können entscheidend sein. - Ist der Einsatz unklar?
Dokumentieren, genauer prüfen und im Zweifel transparent kommunizieren.
FAQ zur KI-Kennzeichnung
Muss ich jeden Text kennzeichnen, bei dem ChatGPT geholfen hat?
Nein. Der AI Act enthält keine allgemeine sichtbare Kennzeichnungspflicht für jeden KI-unterstützten Text.
Muss jedes KI-generierte Bild als KI-Bild gekennzeichnet werden?
Nein. Besonders relevant ist, ob ein realistischer synthetischer Inhalt als authentisch missverstanden werden kann und damit beispielsweise die Deepfake-Regeln greifen.
Muss ich KI-Postings auf LinkedIn kennzeichnen?
Nicht allein deshalb, weil KI beim Formulieren beteiligt war. Bei bestimmten Informationen von öffentlichem Interesse und fehlender echter redaktioneller Prüfung kann die Situation anders aussehen.
Zählt ein Rechtschreibcheck als menschliche Kontrolle?
Nein. Entscheidend ist eine tatsächliche inhaltliche und redaktionelle Prüfung, nicht nur die Korrektur von Tippfehlern.
Muss ein Chatbot sagen, dass er eine KI ist?
Grundsätzlich muss für Nutzer*innen erkennbar sein, dass sie mit einem KI-System interagieren, sofern dies nicht ohnehin offensichtlich ist.
Fazit: Transparenz ja. KI-Warnpickerl auf allem nein.
Die neuen Regeln sind deutlich differenzierter, als es die Schlagzeile „KI muss ab August gekennzeichnet werden“ vermuten lässt.
Für Unternehmen ist deshalb nicht entscheidend, ob irgendwo im Workflow einmal ChatGPT, Firefly oder ein anderes KI-System vorkommt.
Entscheidend ist:
- Was wurde mit KI erzeugt?
- Wie realistisch wirkt der Inhalt?
- Worum geht es inhaltlich?
- Wer prüft das Ergebnis?
- Wer übernimmt die Verantwortung?
Wer diese Fragen beantworten kann und einen klaren Prozess dafür hat, hat einen großen Teil der Arbeit bereits erledigt.
Und muss auch nicht vorsichtshalber unter jede mit ChatGPT formulierte Geburtstagsgratulation einen Compliance-Hinweis setzen.
KI im Unternehmen sicher einsetzen
PR Eins unterstützt Unternehmen und Organisationen dabei, KI nicht nur auszuprobieren, sondern sinnvoll und regelkonform einzusetzen – von AI-Act-Schulungen und KI-Guidelines bis zu konkreten Workflows für Kommunikation, Content und Automatisierung.
Unsicher, welche Regeln für euren konkreten KI-Einsatz gelten? Wir schauen uns Tools und Prozesse gemeinsam an und übersetzen AI Act, Datenschutz und KI-Praxis in Regeln, mit denen Mitarbeiter*innen tatsächlich arbeiten können.
Offizielle Quellen und weiterführende Informationen
- EU AI Act – Verordnung (EU) 2024/1689, insbesondere Artikel 50 zu den Transparenzpflichten.
- Europäische Kommission: Guidelines zu den Transparenzpflichten für Anbieter und Betreiber von KI-Systemen.
- Europäische Kommission: FAQ zu den Transparenzpflichten nach Artikel 50.
- Europäische Kommission: Quick Facts zu den Transparenzregeln für KI-Systeme.
Hinweis: Dieser Beitrag dient der allgemeinen Information und stellt keine Rechtsberatung dar. Grundlage sind die Verordnung (EU) 2024/1689, insbesondere Artikel 50, sowie die Leitlinien und Informationen der Europäischen Kommission. Bei rechtlich kritischen Einzelfällen sollte eine entsprechende juristische Beratung eingeholt werden.
Bildhinweis: Das Aufmacherbild und die Infografik dieses Beitrags wurden mit Unterstützung generativer KI erstellt und redaktionell geprüft. Das Aufmacherbild ist zusätzlich direkt im Motiv als KI-generiert gekennzeichnet.