ZDIN Zentrum für digitale Innovationen Niedersachsen / OFFIS e.V. - Institut für Informatik
Wie gut erkennen Menschen manipulierte KI-Modelle?
Sprachassistenten, Navigationsdienste oder automatische Bildbearbeitung – Künstliche Intelligenz prägt unseren Alltag. Doch was passiert, wenn diese Systeme gezielt manipuliert werden? Unser Forschungsprojekt „Zukunftslabor Gesellschaft & Arbeit“ ist dieser Frage nachgegangen und hat untersucht, wie Menschen auf komplexe Angriffe auf KI-Modelle reagieren.
Dabei zeigt sich ein überraschender Befund: Während die Angriffe technisch besonders wirkungsvoll sind und Modelle zuverlässig täuschen, fällt es Menschen deutlich leichter, solche verfälschten Bilder als manipuliert zu erkennen. Die Ergebnisse werfen ein neues Licht auf die Rolle des Menschen bei Entscheidungen, die auf KI basieren.
Ausführliche Informationen finden Sie im Anhang. Bei Rückfragen nehmen Sie gerne Kontakt zu mir auf.
-- Kira Konrad B. A. Marketing & Kommunikation Zentrum für digitale Innovationen Niedersachsen (ZDIN) OFFIS e.V. - Institut für Informatik Escherweg 2, 26121 Oldenburg Telefon: +49 441 9722-435 Mobil: +49 176 18811067 E-Mail: kira.konrad@zdin.de URL: http://www.zdin.de Registergericht: Amtsgericht Oldenburg VR 1956; Vorstand: Prof. Dr. Sebastian Lehnhoff (Vorsitzender), Prof. Dr. techn. Susanne Boll-Westermann, Prof. Dr.-Ing. Andreas Hein, Prof. Dr.-Ing. Astrid Nieße
Weiteres Material zum Download Dokument: Wie gut erkennen Men~rte KI-Modelle.docx