Forschende des Else Kröner Fresenius Zentrums (EKFZ) für Digitale Gesundheit an der Technischen Universität Dresden (TUD) haben in Zusammenarbeit mit Partnern aus Deutschland, Großbritannien und den USA einen autonomen KI-Agenten entwickelt und getestet, der die klinische Entscheidungsfindung in der Onkologie unterstützen kann. Die Ergebnisse wurden in der Fachzeitschrift Nature Cancer veröffentlicht. Künftig könnten KI-Agenten medizinisches Fachpersonal dabei unterstützen, komplexe medizinische Daten zu analysieren und fundierte, personalisierte Behandlungsentscheidungen für Krebspatienten zu treffen.

Die klinische Entscheidungsfindung in der Onkologie ist anspruchsvoll und erfordert die Auswertung verschiedenster Datentypen – von der medizinischen Bildgebung und genetischen Informationen bis hin zu Patientenakten und Behandlungsleitlinien. Um die medizinische Praxis wirksam zu unterstützen, müssen KI-Modelle deshalb multimodale Daten verarbeiten können und über Problemlösungsfähigkeiten verfügen, die menschlichen Denkprozessen ähneln.

Für die Entwicklung ihres autonomen KI-Agenten für die Präzisionsmedizin, erweiterten die Forschenden das Sprachmodell GPT-4 um verschiedene digitale Werkzeuge – darunter die Erstellung von Radiologieberichten auf Basis von MRT- und CT-Scans, die medizinische Bildanalyse, die Vorhersage genetischer Veränderungen direkt aus histopathologischen Gewebeschnitten sowie Suchfunktionen auf Plattformen wie PubMed, Google und OncoKB. Um sicherzustellen, dass Entscheidungen auf dem aktuellen medizinischen Wissensstand beruhen, erhielt das Modell Zugriff auf etwa 6800 Dokumente aus offiziellen onkologischen Leitlinien und klinischen Ressourcen.

KI-Agent an realitätsnahen Patientenfällen getestet

Der KI-Agent wurde anhand von 20 realistischen, simulierten Patientenfällen in einem zweistufigen Verfahren getestet: Zunächst wählte das System geeignete Hilfsmittel (Tools) aus, anschließend recherchierte es relevante medizinische Informationen, um fundierte Schlussfolgerungen zu treffen. Die Ergebnisse wurden von medizinischen Experten hinsichtlich ihrer Genauigkeit, Vollständigkeit und korrekten Quellenangabe überprüft. Der KI-Agent kam in 91% der Fälle zu korrekten klinischen Schlussfolgerungen und zitierte in mehr als 75% der Fälle die relevanten onkologischen Leitlinien korrekt.

Hervorzuheben ist, dass der Einsatz von spezialisierten Werkzeugen und die Verwendung zugrundeliegender medizinischer Fachinformation die Leistung des Modells erheblich verbesserten. Dadurch konnten „Halluzinationen“ – also plausibel klingende, aber falsche Aussagen – deutlich reduziert werden. Gerade im sensiblen Bereich der Gesundheitsversorgung ist dieses Ergebnis von großer Bedeutung.

„KI-Tools sollen medizinisches Fachpersonal unterstützen und wertvolle Zeit für die Patientenversorgung schaffen“, sagt Dyke Ferber, Erstautor der Veröffentlichung. „Sie könnten im Alltag helfen, fundierte Entscheidungen zu treffen und Ärztinnen und Ärzte dabei unterstützen, stets über die neuesten Behandlungsempfehlungen informiert zu sein – und dadurch zur optimalen personalisierten Therapie von Krebspatientinnen und -patienten beizutragen.“

Künftige Unterstützung im Klinikalltag möglich

Die Studie zeigt, dass KI-Agenten grundsätzlich in der Lage sind, Onkologen im klinischen Alltag zu unterstützen. Trotz der vielversprechenden Ergebnisse weisen die Forschenden auf bestehende Einschränkungen ihrer Studie hin. Das System wurde nur an einer kleinen Anzahl von simulierten Fällen getestet und muss noch weiter validiert werden. Zukünftige Arbeiten sollen sich auf die Integration von Konversationsfähigkeiten mit menschlichem Feedback – sogenannten „Human-in-the-Loop“-Interaktionen – sowie auf datenschutzkonforme Anwendungen auf lokalen Servern konzentrieren.

„Um das Potenzial von KI-Agenten in Zukunft voll auszuschöpfen, wird es entscheidend sein, sie reibungslos und mit minimalen Störungen in den klinischen Alltag zu integrieren“, sagt Prof. Jakob N. Kather, Professor für Clinical Artificial Intelligence am EKFZ für Digitale Gesundheit der TU Dresden und Onkologe am Dresdner Universitätsklinikum Carl Gustav Carus. „Herausforderungen wie die Interoperabilität mit bestehenden Systemen, Datenschutzanforderungen, notwendige Zulassungsverfahren als Medizinprodukte und Fragen der Verantwortlichkeit müssen dafür gelöst werden.“

Langfristig halten es die Forschenden für denkbar, dass KI-Agenten auch in anderen medizinischen Bereichen eingesetzt werden könnten – vorausgesetzt, sie werden mit den jeweils passenden Tools und Daten ausgestattet. „Für eine erfolgreiche Implementierung medizinischer KI-Agenten müssen die Medizinerinnen und Mediziner darin geschult werden, effektiv mit diesen Systemen zusammenzuarbeiten – bei gleichzeitigem Erhalt der vollständigen Entscheidungsverantwortung“, ergänzt Prof. Kather. „Diese Agenten sollen das Klinikpersonal unterstützen, es aber keinesfalls ersetzen.“

Insgesamt unterstreicht die Studie das große Potenzial von Sprachmodellen in Kombination mit Präzisionsonkologie- und Suchwerkzeugen und schafft damit eine solide Grundlage für den zukünftigen Einsatz von KI-gestützter, personalisierter Unterstützungssysteme in der klinischen Praxis.