EU-Projekt Compass: Wie widerstandsfähig sind wir gegen Deepfakes?
Europas Demokratien vor Desinformation schützen
Wie widerstandsfähig sind wir gegen Deepfakes?
Ein Video sieht echt aus, die Botschaft klingt plausibel – doch dahinter steckt gezielte Manipulation mithilfe von KI. Warum fallen manche Menschen eher darauf herein als andere? Und kann man lernen, Manipulation besser zu erkennen? Das untersucht ein Team unter Leitung von Prof. Dr. German Neubaum an der Universität Duisburg-Essen im neuen EU-Projekt COMPASS. Das Projekt wird mit rund 3,5 Millionen Euro aus dem Horizon Europe Programm gefördert, die psychologische Forschung in Duisburg erhält rund 443.000 Euro.
Mit Künstlicher Intelligenz lassen sich Bilder, Stimmen und Videos immer überzeugender erzeugen. Was heute noch durch kleine Ungereimtheiten auffällt, könnte morgen kaum mehr vom Original zu unterscheiden sein. Damit wachsen auch die Möglichkeiten, solche Inhalte gezielt einzusetzen, um Menschen zu täuschen, Debatten zu beeinflussen oder Zweifel zu säen.
COMPASS* nimmt deshalb nicht nur einzelne Falschmeldungen in den Blick, sondern das System dahinter: Wie entsteht und verbreitet sich Informationsmanipulation, warum wirkt sie und welche Gegenmaßnahmen helfen? Zugleich stellt sich die Frage: Wie können demokratische Gesellschaften sich schützen, ohne Meinungsfreiheit und Privatsphäre einzuschränken? Acht Partner aus acht europäischen Ländern verbinden dafür psychologische, rechtliche und gesellschaftliche Perspektiven.
An der Universität Duisburg-Essen (UDE) verantwortet Jun.-Prof. Dr. German Neubaum die psychologische Forschungsperspektive mit dem Titel „Co-creating Democratic Resilience: from Evidence to Empowerment“. In Experimenten zeigt das UDE-Team den Teilnehmenden unterschiedliche Arten von Deepfakes und untersucht, welche Faktoren am besten vorhersagen, ob sie die künstlich erzeugten Inhalte für wahr halten. Dabei betrachten die Forschenden sowohl personenbezogene Merkmale wie Alter und Bildung als auch kognitive Fähigkeiten, Einstellungen und emotionale Faktoren.
„Warum manche Menschen eher auf KI-generierte Falschinformationen hereinfallen als andere, lässt sich wahrscheinlich nicht an einem einzelnen Merkmal festmachen. Wir gehen von verschiedenen Faktoren aus, deren Zusammenspiel wir in unseren Experimenten untersuchen“, sagt Neubaum, Leiter des Fachgebiets „Psychologische Prozesse der Bildung in sozialen Medien“ an der UDE. Dabei interessiert das Team auch, welche Überzeugungen beeinflussen, wie Menschen mit zweifelhaften Inhalten umgehen. Wer eine Botschaft für gesellschaftlich wichtig hält, könnte sie etwa eher weitergeben, selbst wenn Zweifel an ihrer Echtheit bleiben.
Erkennen, bevor man hereinfällt
Im nächsten Schritt geht es um Prävention. Das UDE-Team entwickelt und testet sogenannte Inoculation- und Prebunking-Ansätze. Dabei werden Teilnehmende mit typischen Deepfake-Strategien und auffälligen Merkmalen vertraut gemacht. Anschließend prüfen die Forschenden, ob ihnen dieses Vorwissen hilft, auch neue Manipulationen besser zu erkennen.
„Solche Ansätze werden oft mit einer psychologischen Impfung verglichen. Gänzlich immun gegen Desinformation machen sie aber nicht. Wir wollen herausfinden, welche Hinweise Menschen tatsächlich helfen, Manipulation zu erkennen – und ob dieser Effekt auch bei neuen Inhalten und über längere Zeit anhält“, erklärt Dr. Jana Dreston aus der Forschungsgruppe „Psychological Processes of Education in Social Media“.
Die Forschung soll nicht im Labor enden. Gemeinsam mit Politik, Medien, Zivilgesellschaft und Bildungspraxis entwickelt COMPASS aus den Ergebnissen Trainingsmaterialien, Leitfäden und politische Empfehlungen. Sie werden mit verschiedenen Zielgruppen erprobt und später frei zugänglich veröffentlicht.
*COMPASS steht für “COuntering Manipulation while Preserving Authentic Speech and Society” und läuft bis August 2029. Das interdisziplinäre Konsortium wird von der Universität Tallinn (Estland) geleitet. Auf die UDE entfallen rund 443.000 Euro Förderung.
Weitere Informationen
https://cordis.europa.eu/project/id/101287085/de
Prof. Dr. German Neubaum, Psychologische Prozesse der Bildung in sozialen Medien, Tel. 0203/37 9-3553, german.neubaum@uni-due.de
Redaktion: Juliana Fischer, Tel. 0203/ 37 91488, juliana.fischer@uni-due.de
Universität Duisburg-Essen
Stabsstelle des Rektorats Hochschulmanagement und Kommunikation Ressort Presse Forsthausweg 2 ● 47057 Duisburg Ressortleitung, Pressesprecherin: Astrid Bergmeister 0203/ 37 9-2430 ● astrid.bergmeister@uni-due.de