Posted on 1. August 202628. Juli 2026 by Damian Kaufmann

Transparenz bei der Nutzung künstlicher Intelligenz

Häufig hinkt die Gesetzgebung der technischen Entwicklung hinterher. Das ist auch im Kontext der Künstlichen Intelligenz nicht gänzlich anders. Ab dem 2. August 2026 gelten die Transparenz- und Kennzeichnungspflichten des Art. 50 der europäischen KI-Verordnung. Sie erfassen allerdings nicht sämtliche KI-Inhalte, sondern bestimmte, ausdrücklich geregelte Fälle. Der Betrachter von KI-Inhalten soll in die Lage versetzt werden, authentische von synthetischen Inhalten zu unterscheiden, um das Manipulationsrisiko zu senken. Für die Kennzeichnungspflicht kommt es übrigens nicht darauf an, ob der Ersteller oder Betreiber jemanden täuschen wollte. Ich möchte mir an dieser Stelle anschauen, was dabei für Content Creator im Hinblick auf Bild, Audio, Video und Text zu beachten gilt.

Wer ist kennzeichnungspflichtig?

Bevor wir uns dem Was und Wie widmen, müssen wir zunächst klären, wer kennzeichnungspflichtig ist. Dabei ist nämlich zwischen Anbieter und Betreiber zu unterscheiden, denen unterschiedliche Pflichten auferlegt werden.

Anbieter: Unter Anbietern versteht der Gesetzgeber in diesem Kontext, vereinfacht formuliert, die Entwickler oder Bereitsteller von KI-Systemen. Genauer sind Anbieter natürliche oder juristische Personen, die ein KI-System entwickeln oder entwickeln lassen und es unter ihrem eigenen Namen oder ihrer eigenen Marke auf den Markt bringen oder in Betrieb nehmen. Sie müssen KI-generierte Inhalte in Bild, Ton, Video oder Text maschinenlesbar markieren. Das kann über Metadaten oder Wasserzeichen geschehen. Da wir als Content Creator in aller Regel nicht in diese Gruppe fallen, müssen wir an dieser Stelle auch nicht vertiefen, was dies konkret zur Folge hat. Nur so viel: Google verwendet neben der sichtbaren Gemini-Raute das unsichtbare Wasserzeichen SynthID. Ob die sichtbare Raute allein zugleich als ausreichend klare Kennzeichnung durch den Betreiber angesehen werden kann, ist bislang nicht abschließend geklärt.

Betreiber: Unter dem Betreiber eines KI-Systems versteht der Gesetzgeber etwas paradox den Nutzer, der damit Inhalte generiert, also Unternehmen, Institutionen, Selbstständige oder Blogger, also die Content Creator. Diesen obliegt unter bestimmten Voraussetzungen die Pflicht, KI-Inhalte so zu kennzeichnen, dass das Publikum über deren Authentizität nicht getäuscht wird. Was das an konkreten Beispielen bedeutet, klären wir im nächsten Abschnitt. Übrigens: Privatpersonen, die nicht beruflich handeln, fallen in aller Regel nicht unter die Kennzeichnungspflicht der KI-VO.

Was ist für den Betreiber kennzeichnungspflichtig?

Glücklicherweise sind die Kennzeichnungspflichten für die Nutzer, also die Betreiber, vergleichsweise überschaubar und auf klar definierte Fälle beschränkt. Darüber hinaus gilt sie nicht für bereits vor dem 2. August 2026 erzeugte Inhalte. Betreiber müssen lediglich Deepfakes und Texte im Auge behalten:

Deepfakes: Deepfakes sind seit geraumer Zeit in aller Munde, weil damit nicht nur viel Unsinn, sondern viel Schaden angerichtet werden kann. Darunter fallen Inhalte, die die folgenden drei Voraussetzungen erfüllen:

• Der Inhalt wurde durch KI erzeugt oder manipuliert.
• Er ähnelt Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen, die tatsächlich existieren, plausibel existieren oder plausibel existiert haben könnten.
• Er wirkt dabei so realistisch, dass er als authentisch erscheinen kann.

Es muss also nicht immer eine echte Person involviert sein. Auch das realistisch wirkende Bild einer vollständig fiktiven, aber plausibel existierenden Person kann ein Deepfake darstellen. Entscheidend sind der Realitätsbezug, der Veröffentlichungskontext und die Möglichkeit, dass die angesprochene Zielgruppe den Inhalt für authentisch hält. Erkennbar fantastische Darstellungen wie ein Einhorn auf einem Regenbogen oder ein fliegender Drache fallen daher regelmäßig nicht unter diese Kategorie. Maßgeblich ist nicht nur, wie realistisch der Inhalt aussieht, sondern auch, in welchem Kontext er veröffentlicht wird und welche Erwartungen die vorgesehene oder vernünftigerweise vorhersehbare Zielgruppe hat. Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken genügt eine angemessene Offenlegung, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.

Texte: Auch Texte müssen vom Betreiber als KI-generiert gekennzeichnet werden – allerdings nur unter engen Voraussetzungen:

• Der Text ist von einer KI ganz oder teilweise generiert bzw. verändert.
• Der veröffentlichte Text dient dazu, über eine Angelegenheit von öffentlichem Interesse zu informieren. Dazu können etwa Politik, Gesundheit, Umwelt- und Verbraucherschutz sowie wirtschaftliche, wissenschaftliche oder kulturelle Entwicklungen gehören, sofern sie Gegenstand einer öffentlichen Debatte sein können.
• Es hat keine menschliche redaktionelle Kontrolle stattgefunden.

Gerade der letzte Punkt dürfte viele veröffentlichte Texte von Content Creatorn aus der Kennzeichnungspflicht heben, denn wer veröffentlicht Texte, ohne sie zumindest einer bewussten inhaltlichen Kontrolle unterzogen zu haben? Die redaktionelle Verantwortung muss dabei bei einer eindeutig bestimmten natürlichen oder juristischen Person liegen. Eine reine Rechtschreibprüfung genügt nicht! Die Prüfung der Richtigkeit des Inhalts ist Mindestbestandteil dieser Überprüfung. Nachrichtenplattformen, die öffentlichkeitsrelevante Texte dagegen vollautomatisch und ohne eine solche Kontrolle veröffentlichen, müssen diese als KI-generiert oder manipuliert kennzeichnen.

Wie hat die Kennzeichnung zu erfolgen?

Eine unsichtbare, maschinenlesbare Markierung allein genügt für Betreiber nicht. Die Kennzeichnung muss vielmehr auch für Menschen ohne besondere technische Hilfsmittel verständlich und wahrnehmbar sein. Sie ist klar und unterscheidbar spätestens bei der ersten Wahrnehmung des Inhalts bereitzustellen und muss die geltenden Anforderungen an die Barrierefreiheit berücksichtigen. Die Gerichte werden dabei zukünftig zu entscheiden haben, inwiefern etwa die weithin bekannte und im rechten unteren Bildausschnitt sichtbare Gemini-Raute von Google, die die meisten von uns mit KI-generierten Inhalten in Verbindung bringen, den gesetzlichen Vorgaben Genüge tut. Beispiele für eindeutige und zulässige KI-Kennzeichnungen wären:

• die offiziellen EU-Icons mit dem Schriftzug AI
• eigene, eindeutige Icons
• Hinweise wie „KI-generiert“ oder „Mit KI erstellt“ in der Bildunterschrift oder im Bild als Overlay integriert
• bei Video und Audio einen visuellen bzw. akustischen Hinweis spätestens beim ersten inhaltlichen Kontakt
• bei Texten ein deutlich wahrnehmbarer Hinweis vor oder unmittelbar zu Beginn des Inhalts

Zusammenfassung

Als Betreiber, also Nutzer, eines KI-Systems sollten Sie bei Deepfakes und KI-generierten Texten genauer hinschauen. Erstere sind grundsätzlich kennzeichnungspflichtig, letztere nur unter bestimmten Voraussetzungen. Insbesondere kommt es bei Texten darauf an, welche Thematik sie bespielen und ob eine redaktionelle Endkontrolle auf inhaltlicher Ebene stattgefunden hat. Egal, für welche Art der Kennzeichnung Sie sich entscheiden: Ausschlaggebend ist, dass diese für den Menschen eindeutig zu erkennen ist.

Weiterführende Artikel zur Vertiefung:

Praktischer Ratgeber zum AI Act 2026: Deepfakes und KI-Texte richtig kennzeichnen (Thomas Schwenke)
Transparenzpflichten in der KI-Verordnung (Art. 50): KI-Inhalte richtig kennzeichnen (Marlene Schreiber)
KI-Kennzeichnungspflicht 2026: Was gilt nach Art. 50 KI-VO? (Sophie Hartmann)