Am 01. August 2024 trat der EU AI Act in Kraft. Ein bürokratisches Ungetüm, in seiner Amtsblattversion vom 13. Juni 2024 fast 150 Seiten lang. Schritt für Schritt soll er bis Ende 2030 in Kraft treten. Seine neuersten Auswüchse sind die „Transparenz- und Kennzeichnungspflichten für KI generierte Inhalte“. Verbirgt sich hinter sperrigen Formulierungen die Rettung für die gebeutelte Kunstbranche, oder ist die Verordnung ein zahnloser Papiertiger? In diesem Artikel sezieren wir die für Medienschaffende relevanten Absätze aus Artikel 50 des EU AI Acts.

Artikel 50 Absatz 2 richtet sich an die Anbieter (Entwickler/Hersteller) der KI, also Unternehmen, die KI-Tools bauen und bereitstellen (z. B. Entwickler wie OpenAI, Midjourney oder Google). 

Diese müssen zukünftig generierte synthetische Inhalte wie Bilder, Töne, Videos oder Texte mit einem maschinenlesbaren Wasserzeichen (z. B. Metadaten-Kennzeichnungen, kryptografische Methoden zum Nachweis der Herkunft und Authentizität von Inhalten, Protokollierungsmethoden, Fingerabdrücke) kennzeichnen. Durch dieses soll klar erkennbar sein, ob ein Werk von einer KI erstellt wurde. 

Artikel 50 Absatz 4 regelt den Umgang mit sogenannten Deepfakes. Darunter fallen generierte Bilder, Videos oder Audio, die echten Menschen, Orten oder Ereignissen zum Verwechseln ähnlich sehen. In diesen Fällen muss klar offengelegt werden, dass eine KI verwendet wurde. 

Des Weiteren regelt Absatz 4: Wer KI-Texte veröffentlicht, um die Öffentlichkeit über wichtige Themen zu informieren, muss darauf hinweisen, dass der Text von einer KI stammt. Das gilt nur dann nicht, wenn ein echter Mensch den Text vorher gründlich gelesen, geprüft und die Verantwortung dafür übernommen hat.

Insbesondere Absatz 4 ist ein erster Meilenstein auf dem Weg zu zuverlässiger Transparenz im Kunstmarkt. Für Interessierte wird so der Zugang zu zuverlässigen Metadaten stark erleichtert. Damit wird der Herstellungsprozess leichter nachvollziehbar.