Der EU AI Act (Art. 50) regelt die Kennzeichnungspflicht für KI-generierte Inhalte. Gemäß dieser europäischen KI-Verordnung müssen Anbieter und Betreiber KI-Interaktionen und Deepfakes klar markieren. In diesem Artikel erläutern wir, in welchen Fällen und wie KI-Inhalte zu kennzeichnen sind.
Dieser Artikel zur KI-Kennzeichnungspflicht dient zur reinen Information und stellt keine rechtssichere Beratung dar.
Die KI-Kennzeichnungspflicht gilt für Anbieter und Betreiber bestimmter KI-Systeme. Anbieter sind Personen oder Organisationen, die KI-Systeme entwickeln, entwickeln lassen, in der EU in Verkehr bringen oder unter eigenem Namen bereitstellen. Betreiber sind Personen oder Organisationen, die ein KI-System im beruflichen oder geschäftlichen Kontext nutzen.
Dies umfasst:
Die Pflichten können daher sowohl Softwareanbieter, Plattformbetreiber und KI-Tool-Anbieter als auch Unternehmen betreffen, die KI im Marketing, Kundenservice, Recruiting, Vertrieb, Journalismus oder in der Unternehmenskommunikation einsetzen.
Relevant ist die KI-Kennzeichnungspflicht besonders für Unternehmen, die mit KI-Systemen direkt mit Menschen interagieren, generative KI zur Erstellung von Texten, Bildern, Audios oder Videos einsetzen oder KI zur Erzeugung beziehungsweise Manipulation realistischer Inhalte verwenden. Dazu gehören zum Beispiel Chatbots auf Websites, KI-generierte Social-Media-Bilder, synthetische Produktvideos, virtuelle Avatare, KI-generierte Interviews oder automatisierte Informationsbeiträge zu gesellschaftlich relevanten Themen.
Die Kennzeichnungspflicht gilt nicht für rein private, nicht berufliche KI-Nutzung (Art. 2 Nr. 10 AI Act). Wer KI ausschließlich im persönlichen Bereich verwendet, fällt grundsätzlich nicht als Betreiber unter die Transparenzpflichten der KI-Verordnung. Sobald die Nutzung jedoch geschäftlich, beruflich, kommerziell oder regelmäßig mit wirtschaftlichem Vorteil erfolgt, kann die betreffende Person oder Organisation als Betreiber gelten.
KI-Inhalte müssen nicht als solche gekennzeichnet werden, wenn:
Die Transparenzpflichten nach Art. 50 KI-VO werden ab dem 2. August 2026 relevant, da die KI-Verordnung unmittelbar in den EU-Mitgliedstaaten gilt. Das bedeutet, dass Unternehmen in Deutschland ab diesem Zeitpunkt in bestimmten Fällen darauf hinweisen müssen, wenn Inhalte durch KI erstellt oder verändert wurden oder wenn Nutzer mit einer KI interagieren.
KI muss von Anbieter und Betreiber als solche gekennzeichnet werden, wenn eine der in Art. 50 KI-VO geregelten Situationen vorliegt.
KI-generierte Inhalte müssen vor allem dann gekennzeichnet werden, wenn sie für Menschen echt wirken könnten oder wenn sie die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen.
KI muss nicht gekennzeichnet werden, wenn die KI nur eine unterstützende Standardfunktion übernimmt und die Eingaben oder deren Bedeutung nicht wesentlich verändert. Dazu gehören etwa:
Auch Inhalte, die klar als künstlich, satirisch, künstlerisch, fiktional, comichaft oder grafisch-abstrakt erkennbar sind, lösen nicht in jedem Fall dieselben Kennzeichnungspflichten aus wie realistisch wirkende Inhalte. Bei künstlerischen, kreativen oder satirischen Werken kann eine Offenlegung zudem so erfolgen, dass sie den Genuss oder die Darstellung des Werks nicht beeinträchtigt.
Eine allgemeine rückwirkende Kennzeichnungspflicht für bereits veröffentlichte Inhalte ergibt sich aus Art. 50 KI-VO nicht pauschal. Die Transparenzpflichten werden ab dem 2. August 2026 relevant. Für neue Veröffentlichungen ab diesem Zeitpunkt sollten Unternehmen prüfen, ob ein Inhalt unter die KI-Kennzeichnungspflicht fällt.
In der Praxis kann es dennoch sinnvoll sein, ältere Inhalte freiwillig zu prüfen, wenn sie weiterhin aktiv genutzt, beworben, wiederveröffentlicht oder in aktuelle Kampagnen eingebunden werden.
KI-Texte müssen gekennzeichnet werden, wenn sie mit dem Zweck veröffentlicht werden, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren und wenn sie durch KI erzeugt oder wesentlich bearbeitet wurden. Das betrifft zum Beispiel politische Inhalte, gesellschaftliche Analysen, Nachrichten, öffentliche Debattenbeiträge oder Inhalte, die die Meinungsbildung beeinflussen können.
Keine automatische Kennzeichnungspflicht besteht hingegen für jeden einzelnen Marketingtext, jede Produktbeschreibung oder jeden allgemeinen Website-Text.
Kennzeichnungspflichtig sind insbesondere KI-generierte Texte, die öffentliche Interessen berühren. Dazu zählen beispielsweise
Nicht kennzeichnungspflichtig sind in vielen Fällen Texte, bei denen KI lediglich unterstützend eingesetzt wurde. Beispiele sind Rechtschreibprüfungen, Zusammenfassungen interner Notizen, Übersetzungen, stilistische Glättungen oder KI-Vorschläge, die anschließend wesentlich durch Menschen überarbeitet und redaktionell verantwortet wurden.
Spätestens zum Zeitpunkt der ersten Interaktion mit KI müssen Nutzer barrierefrei und in klarer, eindeutiger Weise informiert werden, dass sie mit KI interagieren.
Es gibt keine festen Textvorgaben. Die Kennzeichnung muss klar, verständlich und für Nutzer leicht wahrnehmbar sein. Für viele Unternehmen reicht eine einfache und verständliche Formulierung aus.
Mögliche Hinweise sind zum Beispiel:
Die Kennzeichnung kann je nach Kontext am Ende des Artikels, in unmittelbarer Nähe zum Inhalt, in einem Transparenzhinweis oder auf einer gut zugänglichen Transparenzseite erfolgen. Wichtig ist, dass die Information nicht versteckt wird und spätestens zum Zeitpunkt der ersten Wahrnehmung beziehungsweise Veröffentlichung nachvollziehbar ist.
KI-Texte müssen in der Regel nicht gekennzeichnet werden, wenn sie nicht zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen. Auch Produktbeschreibungen, einfache Serviceinformationen, interne Texte oder rein unterstützend bearbeitete Inhalte fallen nicht automatisch unter die Kennzeichnungspflicht.
Eine Kennzeichnung kann außerdem entfallen, wenn der Text einer echten menschlichen Prüfung unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt. Entscheidend ist allerdings nicht eine oberflächliche Kontrolle, sondern eine substanzielle menschliche Verantwortung für Aussage, Inhalt und Veröffentlichung.
Eine eigene KI-Richtlinie ist durch Art. 50 KI-VO nicht ausdrücklich als allgemeine Pflicht für jedes Unternehmen vorgeschrieben. Dennoch ist sie aus Compliance-Sicht sehr empfehlenswert. Unternehmen müssen nachvollziehen können, wann KI eingesetzt wird, wer verantwortlich ist, welche Inhalte geprüft werden und wie Kennzeichnungen umgesetzt werden.
Eine KI-Richtlinie hilft besonders Marketing-, HR-, Kommunikations- und Social-Media-Teams, einheitlich mit KI-Inhalten umzugehen. Sie sollte regeln, welche Tools genutzt werden dürfen, wann eine Kennzeichnung erforderlich ist, wer Inhalte freigibt, wie Deepfakes ausgeschlossen oder gekennzeichnet werden und wie KI-Nutzung dokumentiert wird.
Ein KI-Bild sollte klar und unmittelbar als KI-generiert oder KI-bearbeitet erkennbar gemacht werden, wenn es realistisch wirkt, Personen, Orte, Objekte oder Ereignisse scheinbar authentisch darstellt oder beim Publikum einen falschen Echtheitseindruck erzeugen könnte.
Mögliche Hinweise sind:
Bei Social Media sollte die Kennzeichnung direkt im Beitrag, in der Caption, im Alt-Text oder über eine plattformeigene KI-Kennzeichnung erfolgen. Wichtig ist, dass die Kennzeichnung nicht nur irgendwo im Impressum erscheint, wenn Nutzer den Inhalt typischerweise isoliert im Feed sehen. Gerade bei der KI-Kennzeichnungspflicht für Social Media kommt es darauf an, dass der Hinweis dort sichtbar ist, wo der Inhalt konsumiert wird.
Beispiel 1: KI-generierter Blogartikel zu öffentlichen Interesse
„Hinweis: Dieser Beitrag wurde mit Unterstützung künstlicher Intelligenz erstellt und redaktionell geprüft.“
Beispiel 2: KI-generiertes Bild für Social Media
„Bildhinweis: Dieses Motiv wurde mithilfe künstlicher Intelligenz generiert.“
Beispiel 3: KI-bearbeitetes Video
„Transparenzhinweis: Dieses Video enthält KI-generierte oder KI-bearbeitete Sequenzen.“
Beispiel 4: Chatbot auf einer Website
„Sie chatten mit einem KI-gestützten Assistenzsystem.“
Beispiel 5: KI-generierte Audiodatei
„Diese Audiostimme wurde künstlich erzeugt.“
Solche Hinweise sollten klar, verständlich und passend zum Medium platziert werden. Bei visuellem Content ist eine Kombination aus sichtbarem Hinweis, Metadaten und plattformeigener Kennzeichnung sinnvoll.
KI wird maschinenlesbar gekennzeichnet durch Metadaten, Content Credentials, digitale Wasserzeichen oder strukturierte Daten, die von Plattformen, Suchmaschinen, Prüftools oder Content-Management-Systemen automatisch erkannt werden können. Art. 50 KI-VO verlangt für Anbieter generativer KI-Systeme, dass synthetische Inhalte in einem maschinenlesbaren Format markiert und als künstlich erzeugt oder manipuliert erkennbar sind.
Verstöße gegen Transparenzpflichten nach Art. 50 KI-VO können nach Art. 99 KI-VO mit erheblichen Geldbußen verbunden sein. Für Verstöße gegen Transparenzpflichten von Anbietern und Betreibern sieht Art. 99 aktuell Bußgelder von bis zu 15 Millionen Euro oder bis zu 3 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gelten besondere Proportionalitätsregeln.
Neben Bußgeldern drohen Reputationsschäden, Vertrauensverluste, Beschwerden von Nutzern, regulatorische Prüfungen und mögliche Folgeprobleme im Wettbewerbs-, Datenschutz- oder Medienrecht. Unternehmen sollten deshalb nicht erst bei Inkrafttreten reagieren, sondern frühzeitig Kennzeichnungsprozesse, Freigaben und Verantwortlichkeiten definieren.
Die EU arbeitet an standardisierten Lösungen zur Kennzeichnung KI-generierter Inhalte. Der Code of Practice on Transparency of AI-Generated Content sieht unter anderem ein EU-Icon beziehungsweise standardisierte Kennzeichnungslösungen vor, um Transparenz für Nutzer leichter erkennbar zu machen. Solche Icons können künftig helfen, KI-Inhalte einheitlicher zu kennzeichnen, ersetzen aber nicht automatisch die Pflicht, den jeweiligen Inhalt klar und verständlich einzuordnen.
Für Unternehmen empfiehlt sich bis zur breiten Etablierung solcher Standards eine pragmatische Lösung: sichtbarer Hinweis am Inhalt, klare Formulierung ohne Fachsprache, zusätzliche technische Kennzeichnung über Metadaten, wenn möglich, und ein interner Prozess, der festlegt, wann welches Label verwendet wird.
Folgende Übersicht kann Unternehmen dabei helfen, zu beurteilen, ob eine Kennzeichnungspflicht besteht oder nicht.
| Frage | Wenn ja | Wenn nein |
|---|---|---|
| Wird mit einem KI-System Text erzeugt oder manipuliert? | Kennzeichnung notwendig! | Kennzeichnung nicht notwendig! |
| Ist das KI-System für die Strafverfolgung zugelassen? | Kennzeichnung nicht notwendig! | Kennzeichnung notwendig! |
| Wird der KI-Text im Internet veröffentlicht? | Kennzeichnung notwendig! | Kennzeichnung nicht notwendig! |
| Beinhaltet der KI-Text eine Angelegenheit von öffentlichem Interesse? | Kennzeichnung notwendig! | Kennzeichnung nicht notwendig! |
| Ist der KI-Text vor Veröffentlichung menschlich überprüft bzw. redaktionell kontrolliert worden und übernimmt zusätzlich ein Mensch oder ein Unternehmen die inhaltliche Verantwortung? | Kennzeichnung nicht notwendig! | Kennzeichnung notwendig! |
Die KI-Kennzeichnungspflicht 2026 ist nicht als pauschales Label für jede KI-Nutzung zu verstehen. Sie soll Transparenz dort schaffen, wo Menschen mit KI interagieren, wo Inhalte echt wirken könnten oder wo KI-generierte Informationen die öffentliche Meinungsbildung berühren. Unternehmen in Deutschland sollten deshalb prüfen, welche KI-Systeme, Inhalte und Veröffentlichungsprozesse betroffen sind. Wer klare Kennzeichnungen, redaktionelle Verantwortung und interne KI-Richtlinien etabliert, reduziert nicht nur Compliance-Risiken, sondern stärkt auch Vertrauen in die eigene Kommunikation.
Art. 50 AI Act, auf Deutsch Art. 50 KI-VO, regelt die Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme. Die Vorschrift umfasst im Kern vier Bereiche: direkte Interaktion mit KI-Systemen, maschinenlesbare Kennzeichnung synthetischer Inhalte, Information über Emotionserkennung oder biometrische Kategorisierung sowie Offenlegung von Deepfakes und bestimmten KI-generierten Texten.
Besonders relevant ist Art. 50 Abs. 4 AI Act für Unternehmen, die KI-generierte oder KI-manipulierte Bild-, Ton- oder Videoinhalte veröffentlichen, die als Deepfake gelten können. Betreiber müssen offenlegen, dass diese Inhalte künstlich erzeugt oder manipuliert wurden. Für KI-generierte Texte gilt eine zusätzliche Offenlegungspflicht, wenn sie zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden und keine ausreichende menschliche Prüfung mit redaktioneller Verantwortung vorliegt.
Ein KI-System ist nach der KI-Verordnung ein maschinenbasiertes System, das für unterschiedliche Autonomiegrade ausgelegt ist und aus Eingaben Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen. Die EU-Kommission hat zusätzliche Leitlinien zur Definition des KI-Systems veröffentlicht, weil die Einordnung im Einzelfall von den konkreten technischen und funktionalen Eigenschaften abhängt.
Ein Deepfake ist ein KI-generierter oder KI-manipulierter Bild-, Audio- oder Videoinhalt, der reale oder realistisch wirkende Personen, Orte, Objekte, Einrichtungen oder Ereignisse so darstellt, dass er für Menschen fälschlicherweise authentisch oder wahr erscheinen könnte. Entscheidend ist nicht nur die technische Erstellung, sondern die mögliche Täuschungswirkung beim Publikum.
Nach Art. 3 der KI-Verordnung sind Deepfakes KI-generierte oder KI-manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise authentisch oder wahr erscheinen würden. Art. 50 Abs. 4 AI Act verpflichtet Betreiber grundsätzlich dazu, solche Inhalte offenzulegen.
Eine Veröffentlichung liegt vor, wenn ein Inhalt für Dritte zugänglich gemacht wird. Das kann auf einer Website, in einem Blog, in einem Newsletter, in einer Pressemitteilung, auf Social Media, in einem Videoportal, in einer App oder über andere digitale Kanäle erfolgen.
Auch der Abdruck in Printmedien wie Zeitungen oder Magazinen zählt als Veröffentlichung.
Unter Angelegenheiten von öffentlichem Interesse fallen nicht Texte, die in erster Linie werben, verkaufen der rein produktbezogen informieren. Dazu gehören Produktbeschreibungen, Werbetexte, Social Media Posts sowie Newsletter.
Wenn der KI-Text vor Veröffentlichung menschlich überprüft bzw. redaktionell kontrolliert worden ist und zusätzlich ein Mensch oder ein Unternehmen die inhaltliche Verantwortung übernimmt.
Texthinweise oder EU-AI-Icons sollten am Textanfang platziert werden.
Das hängt vom Inhalt und vom Umfang der KI-Nutzung ab. Entscheidend ist, ob die Inhalte der öffentlichen Information dienen und wesentlich durch KI erstellt wurden.
Eine gesetzliche 30%-Regel für die KI-Kennzeichnungspflicht nach der KI-Verordnung gibt es nicht. Art. 50 KI-VO arbeitet nicht mit einem festen Prozentwert, sondern mit qualitativen Kriterien. Entscheidend ist, ob KI-Inhalte synthetisch erzeugt oder manipuliert wurden, ob sie als authentisch erscheinen können, ob ein Text die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert und ob die KI nur unterstützend eingesetzt wurde oder Aussage und Bedeutung wesentlich verändert hat.
Für Unternehmen ist daher nicht die Frage entscheidend, ob ein Inhalt zu 30 Prozent, 50 Prozent oder 80 Prozent mit KI erstellt wurde. Entscheidend ist die Wirkung des Inhalts, der Veröffentlichungszweck, der Grad der menschlichen Kontrolle und die mögliche Irreführung des Publikums.
Entdecke weitere Einblicke rund um Arbeit, Karriere und Trends im Arbeitsmarkt in unserem Blog.
Grammatikalisch männliche Personen- oder Funktionsnennungen werden ausschließlich aus Gründen der besseren Lesbarkeit und stets unabhängig einer geschlechtlichen Zuordnung der Personen verwendet. Wir legen Wert auf Sie und Ihr Talent, ungeachtet Ihres Geschlechtes.
© 2022 TimePartner Personalmanagement GmbH | House of HR Germany GmbH
