Verbraucherzentrale Nordrhein-Westfalen e.V.
Echt oder künstlich erzeugt? KI-Inhalte werden transparenter
- Bild-Infos
- Download
Ein Dokument
Echt oder künstlich erzeugt? KI-Inhalte werden transparenter
Drei Fragen an Digitalexpertin Ayten Öksüz
Ob Chatbots, Bilder, Videos oder Texte: Immer häufiger begegnen Verbraucher:innen Inhalten, die mit Künstlicher Intelligenz (KI) erstellt wurden. Oft lässt sich nicht erkennen, ob sie von Menschen oder einer Maschine stammen. Das soll sich nun ändern. Mit der KI-Verordnung führt die Europäische Union (EU) neue Transparenzpflichten ein. Ab dem
2. August 2026 müssen Anbieter und Betreiber viele künstlich erzeugte Inhalte kennzeichnen und offenlegen, wenn Nutzer:innen mit einem KI-System interagieren. Welche Regeln dann gelten und was sie für Verbraucher:innen bedeuten, erklärt Ayten Öksüz, Expertin für Digitales bei der Verbraucherzentrale NRW.
Was muss künftig genau gekennzeichnet werden?
Verbraucher:innen sollen klar erkennen können, wenn sie es mit Künstlicher Intelligenz zu tun haben. Das betrifft etwa interaktive KI-Systeme wie Chatbots und Sprachassistenten. Diese müssen als solche erkennbar sein, damit klar ist, dass eine KI antwortet und kein Mensch. Wer eine KI-Anwendung anbietet, die Bilder, Videos, Tonaufnahmen oder Texte generiert, muss sicherstellen, dass die Ergebnisse maschinenlesbar als künstlich erzeugt markiert werden. Besonders täuschend echt wirkende Inhalte, sogenannte Deepfakes, müssen deutlich sichtbar als automatisiert erstellt ausgewiesen werden. Auch KI-generierte Texte, die die Öffentlichkeit über wichtige Themen informieren sollen, wie Nachrichteninhalte, müssen entsprechend kenntlich gemacht werden, es sei denn, sie wurden redaktionell bearbeitet. Zudem müssen Nutzer:innen informiert werden, wenn KI-Technologien ihre Emotionen auswerten. Die meisten dieser Pflichten gelten ab dem 2. August 2026. Für Anbieter, die ihre generativen KI-Systeme bereits vor dem 2. August 2026 in Verkehr gebracht haben, ist hinsichtlich bestimmter Kennzeichnungspflichten eine Übergangsfrist vorgesehen.
Woran lassen sich KI-Inhalte erkennen?
KI-Inhalte lassen sich mit Einführung der Kennzeichnungspflichten an sichtbaren Hinweisen wie „mit KI erstellt“ oder „mit KI verändert“, an einem Wasserzeichen oder daran erkennen, dass sich ein Chatbot als automatisiertes KI-System ausweist. Damit Verbraucher:innen solche Hinweise leicht erkennen können, schlägt die EU einheitliche Symbole für KI-generierte Inhalte vor. Bei Texten, Fotos, Videos oder Tonaufnahmen kann außerdem in der Datei gespeichert sein, dass sie von einer KI erzeugt wurden. Diese Information steckt dann in den sogenannten Metadaten, also unsichtbaren Begleitinformationen. Diese sind nicht unmittelbar sichtbar und lassen sich nur mit technischen Hilfsmitteln auslesen. Verbraucher:innen sollten sich deshalb nicht allein auf Kennzeichnungen verlassen. Die Technik steckt noch in der Entwicklung und Markierungen können fehlen oder beim Teilen verloren gehen. Hilfreich bleibt ein kritischer Blick darauf, woher ein Inhalt stammt und wer ihn verbreitet hat. Wirkt ein Inhalt ungewöhnlich perfekt, besonders emotionalisierend oder reißerisch, lohnt es sich, die Quelle genauer zu prüfen. Gerade deshalb sind die neuen Kennzeichnungspflichten wichtig: Sie sollen ein verlässliches Symbol schaffen, das nicht vom geübten Auge abhängt.
Was können Verbraucher:innen tun, wenn KI-Inhalte nicht transparent sind?
Wer vermutet, dass eine gesetzlich vorgeschriebene Kennzeichnung fehlt, kann bei der zuständigen Marktaufsichtsbehörde eine Beschwerde einreichen. In Deutschland übernimmt die Bundesnetzagentur diese Aufgabe. Betroffene sollten die entsprechenden Inhalte möglichst dokumentieren und sichern, etwa durch Screenshots, und festhalten, wo und wann sie aufgetaucht sind. Unternehmen drohen bei Verstößen Bußgelder. Täuschen KI-Inhalte gezielt und beeinflussen Kaufentscheidungen, können zusätzlich wettbewerbsrechtliche Konsequenzen drohen.
Weitere Informationen:
- Wissenswertes rund um Künstliche Intelligenz: www.verbraucherzentrale.nrw/node/89112
- Mehr zur KI-Verordnung: www.verbraucherzentrale.de/node/95824
-- Verbraucherzentrale NRW Pressestelle Helmholtzstr. 19 40215 Düsseldorf Tel.: 0211/91380-1101 Informationen zum Datenschutz entnehmen Sie bitte unseren Hinweisen im Internet unter www.verbraucherzentrale.nrw/datenschutz.
Honorarfreie Verwendung sämtlichen Bildmaterials ausschließlich mit Nennung der Verbraucherzentrale NRW. Bitte beachten Sie den Copyrighthinweis in der Bildbeschreibung.