Als KI-Kennzeichnungspflicht werden die Transparenzpflichten aus Artikel 50 der EU-KI-Verordnung (AI Act) bezeichnet. Sie verlangen, dass bestimmte KI-erzeugte oder KI-manipulierte Inhalte als solche erkennbar gemacht werden. Die Regeln gelten seit dem 2. August 2026 unmittelbar in allen EU-Mitgliedstaaten, ein nationales Umsetzungsgesetz ist dafür nicht nötig. Der sogenannte Digital Omnibus, der Fristen im AI Act verschoben hat, betrifft die Hochrisiko-Pflichten, nicht Artikel 50. Für KI-Systeme, die vor dem 2. August 2026 bereits auf dem Markt waren, gilt für die maschinenlesbare Kennzeichnung allerdings eine Übergangsfrist bis zum 2. Dezember 2026.
Die Verordnung unterscheidet zwei Rollen. Anbieter von KI-Systemen, die synthetische Bild-, Audio-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format als künstlich erzeugt oder verändert erkennbar sind, etwa durch Metadaten oder Wasserzeichen. Betreiber (englisch Deployer) sind Unternehmen und Agenturen, die solche Systeme beruflich einsetzen. Sie müssen bestimmte Inhalte offenlegen, die sie veröffentlichen.
Offenzulegen sind Bild-, Ton- oder Videoinhalte, die tatsächlich existierenden Personen, Objekten, Orten oder Ereignissen täuschend ähneln und echt wirken könnten, also DeepfakesAls Deepfake werden mithilfe künstlicher Intelligenz erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte bezeichnet, die realen Personen, Objekten oder Ereignissen täuschend ähnlich sehen oder klingen und dadurch echt wirken, obwohl sie ganz oder teilweise synthetisch erzeugt wurden. Der Begriff setzt sich aus Deep Learning, einer Methode des maschinellen Lernens, und Fake zusammen. Technisch entstehen Deepfakes meist durch neuronale Netze, die…
Weiterlesen: Deepfakes. Dasselbe gilt für KI-generierte Texte zu Themen von öffentlichem Interesse, wenn kein Mensch die redaktionelle Verantwortung übernommen hat. Keine Pflicht besteht bei assistierender Standardbearbeitung ohne wesentliche inhaltliche Veränderung. Bei erkennbar künstlerischen, satirischen oder fiktionalen Werken genügt eine angemessene Offenlegung, die die Darstellung nicht stört.
Zur Form schreibt der Gesetzestext keinen festen Wortlaut, kein Pflichtsymbol und keine Mindestgröße vor. Die Kennzeichnung muss klar erkennbar sein, spätestens beim ersten Kontakt mit dem Inhalt. Als Orientierung hat die EU-Kommission im Rahmen eines Code of Practice Icons für die Kennzeichnung veröffentlicht, ihre Verwendung ersetzt aber keine eigene rechtliche Prüfung. Wie Gerichte Grenzfälle auslegen, ist noch nicht abschließend geklärt.
Verstöße können mit Bußgeldern von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen sowie Start-ups gilt jeweils der niedrigere der beiden Werte. In Deutschland ist die Bundesnetzagentur zuständig. Zusätzlich können Mitbewerber nach dem Wettbewerbsrecht abmahnen, wenn Verbraucher durch fehlende Hinweise getäuscht werden.
Abzugrenzen ist die Kennzeichnungspflicht von der Frage, ob KI-Ergebnisse urheberrechtlich geschützt sind. Beides hängt zusammen, folgt aber unterschiedlichen Regeln: Die Transparenzpflicht dient der Information des Publikums, das Urheberrecht regelt, wem ein Ergebnis zugeordnet wird. Auch Plattformen führen eigene Kennzeichnungen ein, die zusätzlich zu den gesetzlichen Pflichten gelten können.
Für Designstudios heißt das, den Einsatz von KI-generierten Bildern in Kampagnen zu dokumentieren, Kundenverträge entsprechend zu ergänzen und Kennzeichnungen früh im Gestaltungsprozess einzuplanen. Dieser Eintrag gibt einen Überblick und ersetzt keine Rechtsberatung.