Averbis stellt Modul zur Prüfung KI-generierter medizinischer Texte vor
Freiburg im Breisgau (ots)
Generative Künstliche Intelligenz kann Kliniken bei der Erstellung von Arztbriefen und anderen Dokumenten entlasten. Gleichzeitig müssen Ärztinnen und Ärzte weiterhin sicher erkennen können, welche Aussagen in einem KI-generierten Text tatsächlich durch die Patientenakte belegt sind. Um das zu prüfen, hat das Freiburger KI-Unternehmen Averbis das Modul "Hallucination Check" entwickelt.
Die Anwendung zerlegt KI-generierte Arztbriefe in einzelne Aussagen und gleicht sie automatisiert mit den verfügbaren Informationen in der Patientenakte ab. Passagen, für die sich kein nachvollziehbarer Beleg finden lässt, werden markiert. Das Modul kann zudem auf Dokumentationslücken hinweisen.
In einem internen Test untersuchte Averbis zwölf Arztbriefe mit insgesamt 694 einzelnen Aussagen. In die Dokumente wurden gezielt 94 Fehler eingebracht. Geschulte Mitarbeitende von Averbis bewerteten anschließend, ob das Modul die Abweichungen erkannte. Nach Angaben des Unternehmens identifizierte "Hallucination Check" rund 98 Prozent der eingefügten Fehler. Untersucht wurden verschiedene Fehlerklassen, die für die medizinische Dokumentation relevant sind:
- zeitliche Inkonsistenzen bei Behandlungsereignissen, etwa eine Änderung des Operationsdatums vom 24.05.2026 auf den 25.05.2026
- inhaltlich falsche oder verfälschte Diagnosen, etwa die Änderung von "Prostatakarzinom in Remission" zu "in Progression"
- klinisch unplausible oder manipulierte Laborveränderungen, etwa eine Erhöhung des INR-Werts von 0,97 auf 3,5
- fehlerhafte Angaben zu Wirkstoff, Dosierung oder Einnahmeschema, etwa die Änderung von Rivaroxaban von 2 x 15 mg auf 1 x 15 mg
- verfälschte Prozedur- oder Therapieparameter, beispielsweise die Änderung von Lokalanästhesie zu Allgemeinanästhesie
- Widersprüche zwischen objektivem Befund und dokumentiertem Verlauf, etwa deutlich verschlechterte Werte bei gleichzeitig dokumentiertem "stabilem Verlauf"
- Kontextfehler in klinischen Kerndaten, beispielsweise eine Seitenverwechslung vom rechten zum linken Handgelenk
Bei den verbleibenden rund zwei Prozent handelte es sich nach Angaben von Averbis um medizinisch nicht relevante Abweichungen. Dazu zählten beispielsweise Änderungen des Wortlauts in nicht kritischen Anamnesedetails.
Der Bedarf an solchen Prüfmechanismen wächst mit dem Einsatz generativer KI in der medizinischen Dokumentation. In einer aktuellen Befragung von Bitkom und Hartmannbund gaben bereits 18 Prozent der befragten Klinikärztinnen und -ärzte an, dass KI in ihrer Einrichtung eingesetzt wird. Eine kürzlich erschienene Umfrage von Doximity unter 3.151 Ärztinnen und Ärzten in den USA zeigt zudem, dass sprachbasierte Dokumentationstools inzwischen zu den häufigsten klinischen KI-Anwendungen gehören: 29 Prozent der Befragten nutzten sie schon Ende des Jahres 2025. Gleichzeitig nannten 71 Prozent die Genauigkeit und Zuverlässigkeit KI-generierter Inhalte als größte Sorge. Eine 2025 veröffentlichte Studie in npj Digital Medicine zu KI-generierten klinischen Notizen weist zudem 1,47 Prozent Halluzinationen und 3,45 Prozent Auslassungen nach. Die Ergebnisse zeigen: Mit der automatisierten Erstellung klinischer Texte wird auch die systematische Prüfung ihrer Inhalte zu einer eigenen Aufgabe.
"Unsere Vision ist, dass Ärztinnen und Ärzte mit KI auf Augenhöhe arbeiten. Die KI formuliert, verweist auf ihre Quellen und macht Unsicherheiten sichtbar. Die Ärztin oder der Arzt behält dabei die medizinische Hoheit. So kann KI die Ärzteschaft im Alltag unterstützen und ihr Zeit für das geben, was keine KI übernehmen kann: die medizinische Behandlung", sagt Patrick Oestringer, CEO von Averbis.
Über Averbis
Seit über 15 Jahren entwickelt und vertreibt Averbis innovative Technologien zur Strukturierung von Gesundheitsdaten mittels Künstlicher Intelligenz. Das Freiburger Unternehmen unterstützt weltweit Krankenhäuser und medizinische Softwarehersteller dabei, Gesundheitsdaten in eine strukturierte, interoperable Form zu bringen. Das Ziel ist es, diese Daten für Prozessautomatisierung nutzbar zu machen und dem medizinischen Personal mehr Zeit zu geben, um sich auf das Wesentliche zu konzentrieren - die Arbeit am Menschen.
Mit Medical Summary bietet Averbis eine Anwendung, die medizinische Informationen aus verschiedenen Dokumenten strukturiert zusammenfasst. Ärztinnen und Ärzte können gezielt Fragen zu Patientinnen und Patienten stellen und erhalten Antworten mit Verweisen auf die zugrunde liegenden Dokumente. Die Lösung ist derzeit in drei Kliniken im Einsatz. Über die Partnerschaft mit der Meierhofer AG können rund 250 Kliniken die Anwendung in ihren Klinikalltag integrieren.
Pressekontakt:
PIABO Public Relations GmbH
Nina Pressentin
E-Mail: averbis@piabo.net
Telefon: +49 173 3926 908
Original-Content von: Averbis, übermittelt durch news aktuell