Seit gestern, dem 2. August 2026, müssen Unternehmen und Behörden in bestimmten Situationen Transparenzpflichten nach der KI-Verordnung (AI-Act) beachten, wenn sie Texte oder Bilder mithilfe von KI generieren oder manipulieren. Bei Verstößen drohen theoretisch sogar Bußgelder von bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes (Art. 99 Abs. 4 KI-VO).
In der Praxis stellen sich daher viele KI-Nutzende derzeit die Frage, wann diese Pflichten greifen und wie sie umgesetzt werden können.
Aufatmen: KI-Texte sind nur selten kennzeichnungspflichtig
Im Hinblick auf Texte, die mithilfe von KI generiert oder manipuliert werden, können die meisten KI-Nutzenden vermutlich aufatmen. Denn eine Kennzeichnungspflicht nach der KI-VO ergibt sich nur in ganz bestimmten Situationen. Wann diese vorliegt, ist in Art. 50 Abs. 4 KI-VO geregelt:
Demnach besteht die Transparenzpflicht nur, wenn diese drei Voraussetzungen zusammen vorliegen:
- Der Text soll veröffentlicht werden,
- um die Öffentlichkeit zu informieren,
- über Angelegenheiten von öffentlichem Interesse.
Fehlt eine dieser Voraussetzungen, besteht keine Kennzeichnungspflicht.
Eine normale E-Mail, deren Text mithilfe von KI generiert oder manipuliert (z. B. übersetzt oder gestrafft) wurde, unterfällt im Rahmen der normalen Kundenkommunikation also grundsätzlich nicht der Transparenzpflicht. Denn sie wird nicht geschrieben, um die Öffentlichkeit zu informieren.
Eine Produktbeschreibung, die automatisiert von KI erstellt wird und die im Online-Shop das Produkt beschreibt, ist nach der KI-VO ebenfalls grundsätzlich nicht kennzeichnungspflichtig, denn die Produktbeschreibung betrifft in der Regel keine Angelegenheit des öffentlichen Interesses.
Ein Beitrag im Onlinemagazin oder in der Tageszeitung hingegen wäre transparenzpflichtig, sofern eine Angelegenheit von öffentlichem Interesse Beitragsgegenstand ist.
Eine Ausnahme: redaktionelle Kontrolle
Hier dürfte aber regelmäßig eine Ausnahme greifen, denn die Transparenzpflicht entfällt nach Art. 50 KI-VO, wenn der KI-generierte oder manipulierte Text
„einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt“.
Es bleibt also festzustellen, dass im Hinblick auf Texte die Transparenzpflicht vermutlich nur in sehr geringem Ausmaß wirklich greifen wird. Allerdings werden hier in Zukunft noch spannende Abgrenzungsfragen zu klären sein, da die Transparenzpflicht von vielen unbestimmten Rechtsbegriffen abhängt. Behandelt dieser Beitrag, mit dem wir die Öffentlichkeit informieren wollen, zum Beispiel eine Angelegenheit des öffentlichen Interesses? Keine Angst, es kommt nicht wirklich auf die Beantwortung der Frage an, denn wir haben ihn bewusst von Hand geschrieben. Allerdings hat die KI die Qualitätssicherung übernommen und Teile der Vorschläge sind (nach menschlicher Prüfung) auch eingeflossen. Auf jeden Fall haben wir aber eine Redaktion und auch eine verantwortliche Person im Sinne des Presserechts. Können und müssen wir darüber in Zukunft auch beitragsbezogen (noch) mehr Rechenschaft ablegen? Das sind spannende Fragen, die es zu klären gilt.
Aufpassen: Bei KI-Bildern ist die Kennzeichnungspflicht praxisrelevant
Im Gegensatz zu Texten wird das Thema der transparenten Kennzeichnung nach KI-VO bei Bildern vermutlich deutlich praxisrelevanter und nicht nur Bilder sind betroffen, auch KI generierte oder manipulierte Audio- und Videoinhalte.
Aber fangen wir auch hier mit einer Phase des Aufatmens an: Die Kennzeichnungspflicht besteht nicht für erkennbare Phantasieinhalte. Denn für Bild-, Ton- oder Videoinhalte knüpft die Offenlegungspflicht der Betreiber nur an sogenannte „Deepfakes“ an (Art. 50 Abs. 4 UAbs. 1 KI-VO). Was das genau ist, beschreibt die KI-VO in Art. 3 Nr. 60, nämlich:
„einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“.
Wenn also der KI-Output eines Bildes so realistisch ist, dass das Bild von einer nicht weiter informierten Person auch als Foto wahrgenommen werden könnte, spricht viel für das Vorliegen einer Transparenzpflicht. Reine und als solche erkennbare Phantasieinhalte begründen hingegen regelmäßig keine Transparenzpflicht. Allerdings sind im Falle von Deepfakes nicht nur Abbildungen von Personen transparenzpflichtig, sondern auch von Gegenständen, Orten, Einrichtungen oder Ereignissen. Hier muss man also aufpassen.
Besonders kniffelig wird es, wenn es um die Bearbeitung echter Bilder mit Hilfe von KI geht. Denn ein Deepfake liegt auch vor, wenn zum Beispiel echte Fotos mit Hilfe von KI nur manipuliert wurden. Löst eine leichte Weichzeichnung des Hintergrunds mit KI schon eine Transparenzpflicht aus? Oder ein Wechsel des Hintergrunds? Ein Hochskalieren mit Hilfe von KI? Ein Retuschieren des Hauptobjekts des Fotos? Eine Änderung der Frisur einer Person? Hierauf gibt die KI-VO selbst leider keine Antwort. Wir haben daher bereits vor einiger Zeit (am 31. März) schon einmal beim „KI-Service Desk“ der zuständigen Aufsichtsbehörde (Bundesnetzagentur) nachgefragt und sehr zeitnah folgende Antwort erhalten:
„Deepfake und Transparenzpflichten: Ab wann ein mittels KI veränderter Inhalt als synthetischer Inhalt zählt, kann zum jetzigen Zeitpunkt leider noch nicht abschließend beantwortet werden. Es ist anzunehmen, dass die noch ausstehende angesprochene Leitlinie [Anmerkung eine Leitlinie auf EU-Ebene] die Abgrenzung von KI-modifiziertem zu nicht-KI-modifiziertem Inhalt konkretisieren wird, also inwieweit die KI tatsächlich zur Erstellung oder Bearbeitung des Inhalts beigetragen hat. Grundsätzlich ist davon auszugehen, dass eine Kennzeichnung erforderlich sein wird, wenn die KI wesentliche Änderungen am Inhalt vorgenommen hat oder bei der Erstellung eine entscheidende Rolle gespielt hat. Ohne die Leitlinien kann leider keine Aussage getroffen werden, ob das Hochskalieren der Auflösung, das Austauschen des Hintergrunds oder die Veränderung der Lichtverhältnisse ausreicht, um die Transparenzpflichten auszulösen. Wir empfehlen Ihnen, die Entwicklung des Praxisleitfadens und der Leitlinien auf europäischer Ebene zu verfolgen.“
Eine entsprechende Leitlinie zu dieser speziellen Frage ist mittlerweile auch erschienen (Leitlinie der EU-Kommission zu Transparenzverpflichtungen für Anbieter und Betreiber von KI-Systemen) und konkretisiert die Aussage der Bundesnetzagentur (Seite 35 Rn. 116; eigene Übersetzung; die Leitlinie ist bisher nur in Englisch verfügbar):
„In ähnlicher Weise kann die KI-gestützte Veränderung unbedeutender inhaltlicher oder technischer Aspekte bereits vorhandener Inhalte für die Beurteilung der Authentizität oder Wahrhaftigkeit eines Inhalts durch eine Person nur von geringer Bedeutung sein und nicht dazu führen, dass der daraus resultierende Inhalt als Deepfake einzustufen ist. Dazu können beispielsweise die Bearbeitung von Hintergrunddetails (z. B. das Entfernen von Passanten), Anpassungen der Beleuchtung, Änderungen von Audioparametern, Farbkorrekturen, Rauschminderung oder -entfernung, Verbesserungen der Barrierefreiheit oder der Dateikomprimierung sowie kosmetische Anpassungen und Optimierungen gehören. Ob eine Manipulation in diese Kategorie fällt, hängt vom jeweiligen Kontext sowie von ihrem Einfluss auf die Wahrnehmung der Authentizität oder Wahrhaftigkeit des Inhalts durch die betroffenen Personen im konkreten Einzelfall ab.“
Entscheidend bleibt der letzte Satz der Randnummer: Es kommt auf den Kontext und die Wirkung auf die Wahrnehmung im konkreten Fall an.
Symbole
Über die Leitlinie hinaus hat die EU-Kommission auch einen Verhaltenskodex für die Transparenz von KI-generierten Inhalten veröffentlicht. Dieser enthält auch Symbole, die zur Kennzeichnung genutzt werden können. Es handelt sich um drei Symbole mit unterschiedlicher Bedeutung, jeweils als schwarzer Text auf weißem Grund oder als weißer Text auf schwarzem Grund: „AI GENERATED“ für vollständig KI-erzeugte Inhalte, „AI MODIFIED“ für mit KI bearbeitete echte Inhalte und das Grundsymbol „AI“ für Fälle, in denen der KI-Einsatz offengelegt, aber nicht eindeutig einer der beiden Kategorien zugeordnet werden soll – es ist für die Kombination mit einem kurzen Texthinweis, einem Tooltip oder einer aufklappbaren Informationsebene gedacht. Die Symbole können als Zip-Dateien in allen Variationen in SVG- und PNG-Formaten auf den Seiten der Europäischen Kommission heruntergeladen werden. Wer lieber eigene Symbole erstellt, darf dies auch weiterhin tun, muss dann aber im Zweifel selbst dafür einstehen, dass diese auch transparent und auffällig genug sind.
Wo platzieren?
Der Verhaltenskodex für die Transparenz von KI-generierten Inhalten enthält auch Platzierungsspezifikationen. Es wird demnach nicht ausreichend sein, den KI-Transparenzvermerk für Deepfakes zum Beispiel einfach im Bildnachweis im Impressum zu „verstecken“. Der Kodex sieht vielmehr vor, dass die Kennzeichnung am Inhalt selbst (zum Beispiel im Bild eingebettet) vorgenommen wird. Der Vermerk muss beim ersten Hinsehen deutlich wahrnehmbar sein, darf nicht verdeckt werden und nicht zu klein sein. Auch Barrierefreiheitsmaßnahmen sollen nach dem Kodex beachtet werden. Auch hier gilt: Wer den Kodex einhält, hat gute Argumente für die Einhaltung der Transparenzanforderungen. Wer in der Umsetzung hinter dem Kodex zurückbleibt oder die Platzierung anders gestaltet, muss im Zweifel neue Argumente suchen und individuell nachweisen, dass die eigene Platzierung ausreichte.
An dieser Stelle nur der Vollständigkeit halber: Im Rahmen von Art. 50 KI-VO bestehen Erleichterungen für offensichtlich künstlerische, kreative, satirische, fiktionale oder analoge Werke oder Programme – eine detaillierte Betrachtung würde den ohnehin schon umfangreich geratenen Blogbeitrag sprengen.
Was ist mit „alten“ Inhalten?
Eine Frage, die jetzt oft relevant wird, möchten wir zum Schluss aber doch noch beantworten: Müssen Inhalte, die vor dem 2. August als Deepfake erstellt oder manipuliert wurden jetzt nachträglich gekennzeichnet werden? Hier kann aufgeatmet werden. Bei Bild-, Ton- und Videoinhalten stellt die EU-Kommission allein auf den Zeitpunkt der Erzeugung bzw. Manipulation ab – auf den Zeitpunkt der Veröffentlichung kommt es insoweit gerade nicht an. Das ergibt sich aus der „Leitlinie der EU-Kommission zu Transparenzverpflichtungen für Anbieter und Betreiber von KI-Systemen“ (Seite 50 Rn. 154). Wer also ein vor dem Stichtag fertiggestelltes Bild nach dem 2. August erneut verwendet – etwa als Beitragsbild eines neuen Blogbeitrags –, löst damit keine Kennzeichnungspflicht aus. Anders liegt es, wenn das Bild ab dem 2. August noch einmal mit KI bearbeitet wird: Dann ist die neue Fassung erneut zu prüfen.
Unabhängig davon empfiehlt die Kommission in derselben Randnummer, bereits vorhandene ungekennzeichnete Deepfakes freiwillig nachzukennzeichnen – ausdrücklich aber ohne unverhältnismäßigen Aufwand. Als Gegenbeispiele nennt sie das Durchsuchen ganzer Content-Datenbanken und das Ändern bereits gedruckter Produktverpackungen.
Bei Texten zu Angelegenheiten von öffentlichem Interesse gilt dagegen etwas anderes: Hier verlangt die Kommission, dass der Text vor dem Stichtag erzeugt und veröffentlicht wurde. Ein vor dem 2. August erstellter, aber erst danach veröffentlichter Text ist deshalb grundsätzlich zu kennzeichnen – sofern nicht die oben beschriebene redaktionelle Ausnahme greift.
An dieser Stelle wollen wir den Blogbeitrag beenden, obwohl wir noch eine ganze Reihe an weiteren Punkten behandeln könnten.
Fazit
Unternehmen, Behörden und Organisationen
- brauchen eine interne KI-Richtlinie, die die Kennzeichnung von Deepfakes verbindlich regelt – einschließlich der konkreten Gestaltung und Platzierung der Transparenzvermerke,
- müssen ihre Beschäftigten in die Lage versetzen, Situationen zu erkennen, in denen Transparenzpflichten bestehen.
In eigener Sache: Wir bieten auch Workshops und eLearnings rund um dieses Thema an. Melden Sie sich gerne für ein unverbindliches Gespräch.
Keine Kommentare