Universitätsklinikum Essen AöR
Chatbots für die psychische Gesundheit: Neue Studie zeigt Risiken
- Bild-Infos
- Download
Chatbots für die psychische Gesundheit: Neue Studie zeigt Risiken
Immer mehr Menschen nutzen KI-Chatbots, um über persönliche und psychische Probleme zu sprechen. Welche Risiken damit verbunden sind, haben Forschende der Medizinischen Fakultät der Universität Duisburg-Essen untersucht und als Übersichtsartikel in npj Digital Medicine veröffentlicht. Die Forschenden sichteten dafür mehr als 3.100 Veröffentlichungen und werteten 119 Arbeiten detailliert aus.
Die Forschenden haben die Risiken in fünf Kategorien unterteilt: Direkte psychische und psychiatrische Gefahren wie bei Suizidalität, Risiken für Verhalten und Beziehungen wie emotionale Bindungen, Risiken für Denkvermögen und Bildung wie kognitive Abhängigkeit, Sicherheitsrisiken durch das Fehlverhalten von Chatbots wie Fehlinformationen und strukturelle bzw. systemische Risiken wie Datenschutz. Besonders diskutiert werden dabei die Nutzung als Denk- und Lernhilfe, die die Fähigkeit zum kritischen Denken vermindert, die Gefahr einer emotionalen Abhängigkeit und KI-assoziierte Psychosen.
„Besonders kritisch ist der Einsatz bei Menschen mit schweren psychischen Erkrankungen oder in Krisensituationen. Hier können die Grenzen zwischen hilfreicher Unterstützung und einer Verstärkung bestehender Probleme verschwimmen“, erklärt Priv.-Doz. Dr. Alexander Bäuerle, Bereichsleitung klinische Forschung, digitale Gesundheit und Digitalisierung in der Klinik für Psychosomatische Medizin und Psychotherapie der LVR-Universitätsklinik Essen, Universität Duisburg-Essen.
„Gerade weil KI-Chatbots eine niedrigschwellige Unterstützung in vielen Lebenslagen bieten, müssen wir genau hinschauen, wo ihre Grenzen liegen und welche Risiken entstehen können“, so die Autor:innen der Studie. Weiterführende Forschung sei dringend notwendig, um KI-Anwendungen im Bereich der psychischen Gesundheit sicher weiterzuentwickeln.
Link zur Veröffentlichung:
A scoping review on the mental health harms of LLM-based chatbots
Pressekontakt Dr. Milena Hänisch Wissenschaftsredakteurin Referat für Kommunikation und Öffentlichkeitsarbeit Medizinische Fakultät der Universität Duisburg-Essen E-Mail: milena.haenisch@uk-essen.de Telefon: 0201/723-1615 Internetseite: www.uni-due.de/med Social Media: Instagram | Facebook | LinkedIn
Über die Medizinische Fakultät der Universität Duisburg-Essen Die Medizinische Fakultät der Universität Duisburg-Essen (UDE) ist auf dem Campus des Universitätsklinikums Essen angesiedelt. Wissenschaftler:innen verschiedener Disziplinen arbeiten hier gemeinsam am medizinischen Fortschritt und geben ihr Wissen an den Nachwuchs weiter. Das Ziel: Forschung auf internationalem Spitzenniveau und eine exzellente Ausbildung zukünftiger Wissenschaftler:innen, Ärzt:innen und Pflegefachpersonen.
Zu den Forschungsschwerpunkten zählen Herz- und Kreislauferkrankungen, Immunologie und Infektiologie, Onkologie, Translationale Neuro- und Verhaltenswissenschaften sowie Transplantation. Eine Reihe in Essen entwickelter diagnostischer und therapeutischer Verfahren ist weltweiter Standard. Die Core Facilities der Medizinischen Fakultät unterstützen die Forschungsarbeiten der rund 1.500 Wissenschaftler:innen im klinischen und grundlagenwissenschaftlichen Bereich.
Das Studium umfasst naturwissenschaftliche und medizinische Grundlagen, klinische Fächer sowie Psychologie und Soziologie. Es verknüpft die Theorie und Anwendung am individuellen Krankheitsfall. Die Medizinische Fakultät der UDE entwickelt die Lehre durch regelmäßige Evaluationen sowie ein strukturiertes Qualitätsmanagement kontinuierlich weiter.
Über die Essener Universitätsmedizin Die Essener Universitätsmedizin (UME) umfasst das Universitätsklinikum Essen sowie 15 Tochterunternehmen, darunter die Ruhrlandklinik, das St. Josef Krankenhaus Werden, die Herzchirurgie Huttrop und das Westdeutsche Protonentherapiezentrum Essen. Die UME ist mit etwa 1.700 Betten und rund 11.000 Mitarbeitenden das führende Gesundheitskompetenzzentrum des Ruhrgebiets und deckt die ganze Bandbreite einer umfassenden medizinischen Versorgung ab: von der Geburtshilfe über die Kinderheilkunde bis zum Behandlungsspektrum der inneren Medizin sowie der Unfall- und Notfallversorgung. Wesentliche Grundlage für die klinische Leistungsfähigkeit ist die Forschung an der Medizinischen Fakultät der Universität Duisburg-Essen.