KI als Fachkollege: Vertrauen entsteht im Zusammenspiel von Mensch und Maschine
- Bild-Infos
- Download
KI als Fachkollege: Vertrauen entsteht im Zusammenspiel von Mensch und Maschine
Vertrauen in Künstliche Intelligenz (KI) entsteht nicht immer durch smarte Algorithmen, sondern entwickelt sich schrittweise, wenn die Systeme in soziale Interaktionen eingebettet werden. Das zeigt eine gemeinsame Studie des Wirtschaftswissenschaftlers Prof. Dr. André Hanelt, Leiter des Fachgebiets Management der Digitalen Transformation der Universität Kassel, und Forschenden der Technischen Universitäten Darmstadt und Dortmund sowie der Goethe-Universität Frankfurt. Untersucht wurde das Vertrauen von Finanzberaterinnen und Finanzberatern in sogenannte Robo Advisors, also KI-Systeme, die mit Anlegerinnen und Anlegern interagieren und automatisiert Portfolios verwalten.
Im Zentrum der Forschung steht die bislang wenig untersuchte Dreiecks-Konstellation zwischen KI-Systemen, menschlichen Fachexpertinnen und -experten und deren Kunden. „Wir wissen bereits einiges über die Faktoren, die das Vertrauen direkter KI-Nutzerinnen und -Nutzer beeinflussen. Wir wissen aber sehr wenig darüber, wie menschliche Expertinnen und Experten, wie z.B. Ärztinnen und Ärzte oder Anwältinnen und Anwälte, Vertrauen gegenüber KI in ihrem Tätigkeitsbereich entwickeln, wenn sie solche Technologien nicht selbst nutzen, sondern ihren Klienten empfehlen“, so Hanelt. Im Rahmen der Untersuchung fanden die Forschenden heraus, dass die menschlichen Expertinnen und Experten die KI-Systeme insbesondere dahingehend bewerten, inwieweit sie die Beziehungen zu ihren Klientinnen und Klienten zu beeinflussen scheinen. „In Kontexten, in denen es für Menschen um viel geht, wie etwa im Bereich Geld oder Gesundheit, kommt es weniger auf die technische Ausgestaltung oder die Fähigkeiten von KI-Systemen an, sondern darauf, inwieweit sie in soziale Interaktionen eingebettet sind und sich in solche einbetten lassen“, erklärt Hanelt. „Wenn dies gegeben ist, kann Vertrauen schrittweise aufgebaut werden.“ Die Fallstudie basiert auf einer mehr als fünfjährigen Untersuchung und umfasst 89 Interviews sowie umfangreiches Sekundärmaterial und Beobachtungen bei einer großen traditionellen Bank, die einen Robo-Advisor entwickelt und neben ihren menschlichen Finanzberaterinnen und Finanzberatern eingeführt hat.
In der Studie haben die Expertinnen und Experten die KI zunächst sehr skeptisch beurteilt und von ihren Klientinnen und Klienten ferngehalten. Durch die Schaffung von abgesicherten Kontexten, die intensive und persönliche Begleitung durch menschliche KI-Beratende vor und während dem Klienten-Kontakt sowie eigenständiges Testen der KI-Systeme durch die Expertinnen und Experten erlaubten, entstand über die Zeit ein hohes Maß an Vertrauen, welches sich schließlich in einer Art Arbeitsteilung zwischen menschlichen Expertinnen bzw. Experten und den KI-Systemen zeigte. Somit bleiben Expertinnen und Experten für ihre Kunden und ihre Heimatunternehmen weiterhin sehr relevant.
Laut den Autoren der Studie fällt der Dreiecks-Konstellation, bestehend aus der KI, menschlichen Expertinnen bzw. Experten sowie deren Klientinnen und Klienten, eine wichtige Rolle bei der weiteren Verbreitung von KI zu. So seien es künftig in immer weiteren professionellen Bereichen wie Medizin, Recht oder Finanzen menschliche Expertinnen und Experten in eben solchen Konstellationen, die Umfang, Art und Nutzung von KI durch andere Menschen, für die sie eine professionelle Verantwortung haben, beeinflussen und damit die Diffusion entsprechender Systeme mitprägen. Die Studie liefert damit wichtige Einsichten für die wirksame Integration von KI in Kontexte, die bislang und auch zukünftig stark von der persönlichen Interaktion zwischen Expertinnen bzw. Experten und ihren Klientinnen und Klienten geprägt sind.
Die Studie wurde im Journal Management Information Systems Quarterly (MISQ) zur Veröffentlichung akzeptiert: https://misq.umn.edu/misq/article-abstract/doi/10.25300/MISQ/2025/18041/3622/Opening-The-Network-of-Trust-How-Domain-Experts-in?redirectedFrom=fulltext
------------------------------------ Ihr Ansprechpartner in der Pressestelle der Universität Kassel:
Sebastian Mense Universität Kassel Stabsstelle Kommunikation und Marketing Tel.: +49 561 804-1961 E-Mail: presse@uni-kassel.de www.uni-kassel.de
------------------------------------
Die Universität Kassel hat rund 21.000 Studierende (Wintersemester). Sie versteht sich als eine Universität, an der Offenheit, Initiative, fächerübergreifendes und unkonventionelles Denken gewünscht und gefördert werden. Mehr als 300 Professuren sind in elf Fachbereichen (inkl. Kunsthochschule) organisiert. Zahlreiche neue Studiengänge entstehen derzeit, u.a. im Bereich der Nachhaltigen Transformationen. Nachhaltigkeitsstudiengänge: www.uni-kassel.de/go/unikassel360grad Alle Studiengänge: www.uni-kassel.de/go/studium