|
Freiburg im Breisgau (ots) - Generative Künstliche Intelligenz kann Kliniken bei
der Erstellung von Arztbriefen und anderen Dokumenten entlasten. Gleichzeitig
müssen Ärztinnen und Ärzte weiterhin sicher erkennen können, welche Aussagen in
einem KI-generierten Text tatsächlich durch die Patientenakte belegt sind. Um
das zu prüfen, hat das Freiburger KI-Unternehmen Averbis das Modul
"Hallucination Check" entwickelt.
Die Anwendung zerlegt KI-generierte Arztbriefe in einzelne Aussagen und gleicht
sie automatisiert mit den verfügbaren Informationen in der Patientenakte ab.
Passagen, für die sich kein nachvollziehbarer Beleg finden lässt, werden
markiert. Das Modul kann zudem auf Dokumentationslücken hinweisen.
In einem internen Test untersuchte Averbis zwölf Arztbriefe mit insgesamt 694
einzelnen Aussagen. In die Dokumente wurden gezielt 94 Fehler eingebracht.
Geschulte Mitarbeitende von Averbis bewerteten anschließend, ob das Modul die
Abweichungen erkannte. Nach Angaben des Unternehmens identifizierte
"Hallucination Check" rund 98 Prozent der eingefügten Fehler. Untersucht wurden
verschiedene Fehlerklassen, die für die medizinische Dokumentation relevant
sind:
- zeitliche Inkonsistenzen bei Behandlungsereignissen, etwa eine Änderung des
Operationsdatums vom 24.05.2026 auf den 25.05.2026
- inhaltlich falsche oder verfälschte Diagnosen, etwa die Änderung von
"Prostatakarzinom in Remission" zu "in Progression"
- klinisch unplausible oder manipulierte Laborveränderungen, etwa eine Erhöhung
des INR-Werts von 0,97 auf 3,5
- fehlerhafte Angaben zu Wirkstoff, Dosierung oder Einnahmeschema, etwa die
Änderung von Rivaroxaban von 2 x 15 mg auf 1 x 15 mg
- verfälschte Prozedur- oder Therapieparameter, beispielsweise die Änderung von
Lokalanästhesie zu Allgemeinanästhesie
- Widersprüche zwischen objektivem Befund und dokumentiertem Verlauf, etwa
deutlich verschlechterte Werte bei gleichzeitig dokumentiertem "stabilem
Verlauf"
- Kontextfehler in klinischen Kerndaten, beispielsweise eine Seitenverwechslung
vom rechten zum linken Handgelenk
Bei den verbleibenden rund zwei Prozent handelte es sich nach Angaben von
Averbis um medizinisch nicht relevante Abweichungen. Dazu zählten beispielsweise
Änderungen des Wortlauts in nicht kritischen Anamnesedetails.
Der Bedarf an solchen Prüfmechanismen wächst mit dem Einsatz generativer KI in
der medizinischen Dokumentation. In einer aktuellen Befragung von Bitkom und
Hartmannbund gaben bereits 18 Prozent der befragten Klinikärztinnen und -ärzte
an, dass KI in ihrer Einrichtung eingesetzt wird. Eine kürzlich erschienene
Umfrage von Doximity unter 3.151 Ärztinnen und Ärzten in den USA zeigt zudem,
dass sprachbasierte Dokumentationstools inzwischen zu den häufigsten klinischen
KI-Anwendungen gehören: 29 Prozent der Befragten nutzten sie schon Ende des
Jahres 2025. Gleichzeitig nannten 71 Prozent die Genauigkeit und Zuverlässigkeit
KI-generierter Inhalte als größte Sorge. Eine 2025 veröffentlichte Studie in npj
Digital Medicine zu KI-generierten klinischen Notizen weist zudem 1,47 Prozent
Halluzinationen und 3,45 Prozent Auslassungen nach. Die Ergebnisse zeigen: Mit
der automatisierten Erstellung klinischer Texte wird auch die systematische
Prüfung ihrer Inhalte zu einer eigenen Aufgabe.
"Unsere Vision ist, dass Ärztinnen und Ärzte mit KI auf Augenhöhe arbeiten. Die
KI formuliert, verweist auf ihre Quellen und macht Unsicherheiten sichtbar. Die
Ärztin oder der Arzt behält dabei die medizinische Hoheit. So kann KI die
Ärzteschaft im Alltag unterstützen und ihr Zeit für das geben, was keine KI
übernehmen kann: die medizinische Behandlung", sagt Patrick Oestringer, CEO von
Averbis.
Über Averbis
Seit über 15 Jahren entwickelt und vertreibt Averbis innovative Technologien zur
Strukturierung von Gesundheitsdaten mittels Künstlicher Intelligenz. Das
Freiburger Unternehmen unterstützt weltweit Krankenhäuser und medizinische
Softwarehersteller dabei, Gesundheitsdaten in eine strukturierte, interoperable
Form zu bringen. Das Ziel ist es, diese Daten für Prozessautomatisierung nutzbar
zu machen und dem medizinischen Personal mehr Zeit zu geben, um sich auf das
Wesentliche zu konzentrieren - die Arbeit am Menschen.
Mit Medical Summary bietet Averbis eine Anwendung, die medizinische
Informationen aus verschiedenen Dokumenten strukturiert zusammenfasst. Ärztinnen
und Ärzte können gezielt Fragen zu Patientinnen und Patienten stellen und
erhalten Antworten mit Verweisen auf die zugrunde liegenden Dokumente. Die
Lösung ist derzeit in drei Kliniken im Einsatz. Über die Partnerschaft mit der
Meierhofer AG können rund 250 Kliniken die Anwendung in ihren Klinikalltag
integrieren.
Pressekontakt:
PIABO Public Relations GmbH
Nina Pressentin
E-Mail: mailto:averbis@piabo.net
Telefon: +49 173 3926 908
Weiteres Material: http://presseportal.de/pm/71742/6352105
OTS: Averbis
|
