Die neue Transparenzpflicht für KI-Inhalte

Schon klassische Bildbearbeitung hat seit Jahrzehnten Realität verändert. Fotomontagen, Retuschen, Farbkorrekturen oder Symbolbilder gehörten immer zum Werkzeugkasten visueller Kommunikation. Im Journalismus wurden solche Eingriffe bislang meist pragmatisch behandelt, etwa durch Hinweise wie „Fotomontage“ oder „Symbolbild“.

Mit generativer KI verschwimmen diese Grenzen nun jedoch vollständig. Moderne KI-Systeme verändern Bilder nicht nur technisch, sondern zunehmend semantisch. Geschlossene Augen werden geöffnet, Gesichtsausdrücke angepasst, Perspektiven rekonstruiert, Hintergründe ergänzt, Kleidung verändert, Tattoos entfernt oder Objekte hinzugefügt. Die entscheidende Frage lautet deshalb nicht mehr nur: „Ist das Bild echt?“ Vielmehr geht es zunehmend darum, welche Bestandteile eines Bildes überhaupt noch einer realen Aufnahme entsprechen.

Der AI Act versucht diese Problematik über eine zentrale Ausnahme einzugrenzen. Artikel 50 sieht vor, dass keine Kennzeichnungspflicht besteht, wenn KI-Systeme lediglich unterstützende Funktionen ausführen oder die Semantik der Inhalte nicht wesentlich verändern. Genau diese Formulierung dürfte zu einer der wichtigsten Auslegungsfragen der kommenden Jahre werden. Denn der Begriff der „wesentlichen semantischen Veränderung“ bleibt im Gesetz weitgehend undefiniert.

Relativ unproblematisch dürften klassische Optimierungen bleiben. Schärfen, Entrauschen, Kontrastanpassungen oder Farbkorrekturen verändern zwar technisch das Bild, aber kaum seine Aussage. Schwieriger wird es bei hybriden KI-Funktionen, die heute massenhaft in Apps und Bildbearbeitungsprogrammen angeboten werden. Was ist etwa mit künstlich geöffneten Augen, einem verstärkten Lächeln, einer veränderten Blickrichtung oder dem Entfernen eines Tattoos? Verändert ein künstlich erzeugter Gesichtsausdruck bereits die soziale Aussage eines Bildes? Wird aus ästhetischer Optimierung irgendwann semantische Manipulation? Genau an dieser Stelle beginnt die eigentliche juristische Grauzone.

Viele Experten warnen inzwischen vor einer Überdehnung des Deepfake-Begriffs. Denn KI steckt heute bereits in nahezu jeder modernen Medienproduktion. Smartphone-Kameras nutzen KI ebenso wie Portraitmodi, automatische HDR-Verarbeitung oder generative Bildreparaturen. Würde jede KI-basierte Veränderung kennzeichnungspflichtig, könnte dies zu einer massiven „Label Inflation“ führen. Dann würde am Ende fast jedes digitale Bild und jedes Audiofragment einen KI-Hinweis tragen. Die Folge wäre paradoxerweise ein Verlust an Transparenz, weil die Kennzeichnung ihren eigentlichen Warncharakter verlieren würde. Genau deshalb versuchen viele Juristen derzeit, die Vorschrift funktional auszulegen. Nicht jede synthetische Veränderung soll relevant sein, sondern vor allem solche Eingriffe, die geeignet sind, Wahrnehmung, Authentizität oder Realitätseindruck wesentlich zu verändern. Doch auch diese Grenze bleibt hochgradig subjektiv.

Besonders deutlich wird diese Problematik bei KI-generierten Stimmen und Video-Avataren. Wir haben an dieser Stelle mehrfach berichtet und die Risiken sind objektiv enorm. Bereits wenige Sekunden Sprachmaterial reichen heute aus, um täuschend echte Stimmen zu synthetisieren. Das Missbrauchspotenzial ist offensichtlich. Fake-Anrufe, CEO-Fraud, gefälschte Statements oder synthetische Interviews standen deshalb politisch stark im Fokus des Gesetzgebers. Gleichzeitig wird dieselbe Technologie inzwischen völlig legitim eingesetzt. Hörbuchsprecher synthetisieren ihre eigene Stimme, Moderatoren erzeugen digitale Sprachklone, Unternehmen erstellen virtuelle CEOs und Nachrichtensprecher nutzen KI-Avatare.

Genau dort wird die Rechtslage kompliziert. Denn der AI Act unterscheidet bislang nur unzureichend zwischen identitätstäuschendem Missbrauch und autorisierter professioneller Nutzung. Juristisch entsteht dadurch eine paradoxe Situation. Die gefährlichen Amateur-Deepfakes werden technisch immer einfacher verfügbar, während professionelle Medienakteure Gefahr laufen, sich in regulatorischen Grauzonen zu bewegen. Muss ein synthetischer Podcastsprecher künftig einen KI-Hinweis vorsprechen? Muss ein virtueller Nachrichtensprecher dauerhaft als KI gekennzeichnet werden? Reicht redaktionelle Verantwortung aus? Oder genügt bereits die Zustimmung der betroffenen Person? Der Gesetzestext liefert darauf bislang keine eindeutigen Antworten.

Ein weiterer zentraler Aspekt des Artikels 50 betrifft die maschinenlesbare Kennzeichnung künstlicher Inhalte. Der Gesetzgeber wollte ausdrücklich mehr als bloße Disclaimer oder Bauchbinden. Ziel war ein technisches Herkunftssystem für KI-Inhalte mit Metadaten, Wasserzeichen, digitalen Signaturen und interoperablen Standards. Im Zentrum der Debatte steht dabei insbesondere der Standard der Coalition for Content Provenance and Authenticity. Die Idee dahinter ist, dass KI-Inhalte entlang der gesamten digitalen Lieferkette identifizierbar bleiben sollen. Ein Teil der Industrie arbeitet bereits seit Jahren an der Umsetzung.

Die Praxis ist jedoch erheblich komplizierter. Schon einfache Verarbeitungsschritte können Metadaten zerstören. Screenshots, Social-Media-Uploads, Re-Encoding oder Bildbearbeitung entfernen oder verändern Herkunftsinformationen oft automatisch. Viele Plattformen löschen Metadaten sogar systematisch. Dadurch entsteht eine erhebliche Spannung zwischen regulatorischem Anspruch und technischer Realität. Der AI Act enthält deshalb die wichtige Einschränkung „soweit technisch möglich“. Viele Juristen interpretieren Artikel 50 derzeit daher eher als Bemühens- oder Sorgfaltspflicht und nicht als Garantie dauerhaft manipulationssicherer Kennzeichnung.

Besonders unklar ist außerdem, wie weit die Transparenzpflichten auf Social Media reichen. Der AI Act richtet sich nicht nur an Anbieter von KI-Systemen, sondern teilweise ausdrücklich auch an Betreiber. Das können grundsätzlich auch Privatpersonen sein. Zwar enthält der AI Act eine Privatausnahme für rein persönliche und nicht berufliche Tätigkeiten.

Doch genau diese Grenze verschwimmt im digitalen Raum zunehmend. Wann wird ein Social-Media-Account quasi-professionell? Reicht bereits Monetarisierung? Affiliate-Marketing? Hohe Reichweite? Politischer Einfluss? Gerade Influencer bewegen sich hier in einer regulatorischen Zwischenzone. Sie sind kein klassisches Medienhaus, aber oft auch nicht mehr rein privat.