Seit dem 2. August 2026 gelten nach der europäischen KI-Verordnung (AI-Act) neue Transparenzpflichten für Unternehmen und Behörden, die Texte oder Bilder mithilfe von Künstlicher Intelligenz erstellen oder bearbeiten. Bei Verstössen drohen theoretisch Bussgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes (Art. 99 Abs. 4 KI-VO). Ein Beitrag der datenschutz nord GmbH ordnet ein, wann die Pflichten tatsächlich greifen.
Texte: Kennzeichnungspflicht nur in wenigen Fällen
Bei Texten besteht eine Kennzeichnungspflicht nach Art. 50 Abs. 4 KI-VO nur, wenn drei Voraussetzungen gleichzeitig vorliegen: Der Text wird veröffentlicht, er soll die Öffentlichkeit informieren, und er betrifft eine Angelegenheit von öffentlichem Interesse. Fehlt eine dieser Voraussetzungen, entfällt die Pflicht. Eine KI-gestützt formulierte Kunden-E-Mail oder eine automatisiert erstellte Produktbeschreibung im Online-Shop sind demnach in der Regel nicht betroffen. Ein Beitrag in einem Onlinemagazin, der eine Angelegenheit von öffentlichem Interesse behandelt, wäre dagegen grundsätzlich kennzeichnungspflichtig.
Hier greift jedoch häufig eine Ausnahme: Unterliegt der Text einer redaktionellen Kontrolle und trägt eine Person oder Organisation die redaktionelle Verantwortung für die Veröffentlichung, entfällt die Pflicht wieder (Art. 50 KI-VO). In der Praxis dürfte die Transparenzpflicht für Texte deshalb nur selten wirklich zum Tragen kommen.
Bilder, Audio und Video: Deepfakes im Fokus
Deutlich praxisrelevanter ist das Thema bei Bild-, Ton- und Videoinhalten. Die Offenlegungspflicht knüpft hier an sogenannte Deepfakes an (Art. 50 Abs. 4 KI-VO), definiert in Art. 3 Nr. 60 KI-VO als KI-erzeugte oder manipulierte Inhalte, die echten Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise als echt wahrgenommen werden könnten. Erkennbare Fantasieinhalte lösen keine Kennzeichnungspflicht aus.
Wann gilt eine Bearbeitung als Deepfake?
Schwieriger wird es bei der Bearbeitung echter Bilder mit KI. Auch dies kann ein Deepfake sein. Auf eine entsprechende Anfrage teilte der KI-Service Desk der Bundesnetzagentur mit, dass die genaue Abgrenzung noch offen sei, eine Kennzeichnung aber erforderlich sei, wenn die KI wesentliche Änderungen vorgenommen oder bei der Erstellung eine entscheidende Rolle gespielt habe. Eine inzwischen veröffentlichte Leitlinie der EU-Kommission konkretisiert dies: Geringfügige Änderungen wie das Entfernen von Passanten im Hintergrund, Anpassungen der Beleuchtung, Farbkorrekturen oder Rauschminderung führen in der Regel nicht zu einer Einstufung als Deepfake. Entscheidend bleiben laut Leitlinie der Kontext und die Wirkung auf die Wahrnehmung der Authentizität im Einzelfall.
Kennzeichnung: Symbole und Platzierung
Die EU-Kommission hat einen Verhaltenskodex für die Transparenz von KI-generierten Inhalten veröffentlicht, der drei Symbole vorsieht: «AI GENERATED» für vollständig KI-erzeugte Inhalte, «AI MODIFIED» für mit KI bearbeitete echte Inhalte und «AI» als Grundsymbol für nicht eindeutig zuordenbare Fälle. Die Kennzeichnung soll am Inhalt selbst angebracht werden, nicht etwa versteckt im Bildnachweis. Sie muss deutlich wahrnehmbar, nicht verdeckt und nicht zu klein sein. Für offensichtlich künstlerische, satirische oder fiktionale Werke bestehen Erleichterungen.
Was gilt für ältere Inhalte?
Bei Bild-, Ton- und Videoinhalten kommt es auf den Zeitpunkt der Erzeugung beziehungsweise Manipulation an, nicht auf die Veröffentlichung. Vor dem 2. August 2026 erstellte Deepfakes müssen deshalb bei erneuter Verwendung nicht nachträglich gekennzeichnet werden, ausser sie werden nach dem Stichtag erneut mit KI bearbeitet. Die EU-Kommission empfiehlt aber eine freiwillige Nachkennzeichnung, sofern dies ohne unverhältnismässigen Aufwand möglich ist. Bei Texten zu Angelegenheiten von öffentlichem Interesse gilt eine strengere Regel: Nur wenn der Text sowohl vor dem Stichtag erstellt als auch veröffentlicht wurde, entfällt die Kennzeichnungspflicht.
Was offen bleibt
Offen bleibt, wie einzelne Abgrenzungsfragen in der Praxis künftig gehandhabt werden, etwa bei stärkeren Bildbearbeitungen wie Hintergrundwechseln oder Retuschen von Personen. Auch die im Beitrag erwähnte europäische Leitlinie zur Definition von KI-modifizierten Inhalten wird die Praxis weiter prägen. Unternehmen und Behörden tun laut der Quelle gut daran, eine interne Richtlinie zur Kennzeichnung von Deepfakes zu erarbeiten und ihre Mitarbeitenden für Situationen zu sensibilisieren, in denen Transparenzpflichten bestehen.
Dieser Beitrag wurde KI-gestützt erstellt und vor der Veröffentlichung von unserer Redaktion geprüft und freigegeben.