Aus fahrerlosen Fahrzeugen, aus der intelligenten Produktion (Smart Factory), aus Smartphones, aus in der Sprachsteuerung oder aus Spamfiltern ist Künstliche Intelligenz (KI) nicht mehr wegzudenken. Auch im Gesundheitswesen fasst KI langsam Fuß, liegt jedoch gegenüber anderen Branchen einige Jahre zurück. Ein positives Beispiel ist die Radiologie, in der Bildanalyse-Software mit KI die Auswertung von Röntgen-, CT- und MRT-Bildern unterstützt (Xu et al. 2024). KI-Anwendungen erleichtern auch zunehmend Dokumentationsaufgaben und können Personalbedarfe im Krankenhaus ermitteln sowie bei der Erstellung von Schichtplänen helfen. Zudem wird die aufwendige Medikamentenentwicklung und -zulassung durch KI schneller und günstiger (Kumar et al. 2023). Für manche medizinische Aufgaben kommt KI also schon täglich zum Einsatz, während an anderen Stellen die Chancen und Herausforderungen noch diskutiert und evaluiert oder die Voraussetzungen für KI überhaupt erst geschaffen werden (Minz et al. 2023).
Insgesamt nimmt das Interesse an KI-Projekten und -Anwendungen zu. Fachkräftemangel und ein überlastetes Gesundheitspersonal bei gleichzeitig wachsender Versorgungsnachfrage durch eine alternde Bevölkerung setzen Gesundheitseinrichtungen unter Druck. KI birgt großes Potenzial für datengetriebene Diagnosen, Therapieentscheidungen, Gesundheitsprävention und medizinische Erkenntnisse – sowohl für die Medizinbranche als auch für jeden Menschen. Die Sicherheit von Patienten und Ärzten vor KI-Funktionsfehlern (Safety) und die Vertrauenswürdigkeit der oft komplexen Algorithmen sind wesentliche Voraussetzungen für eine KI-gestützte personalisierte Medizin der Zukunft.
Co-Pilot für Gesundheitsfachkräfte
Ein KI-Algorithmus erlernt Zusammenhänge und Konzepte durch die Analyse großer Datensätze. KI kann auf programmierten Abläufen basieren („klassische KI“) oder durch maschinelles Lernen (Machine Learning) erzeugt werden (Kumar et al. 2023). Die Anwendungsbereiche und Chancen von KI sind vielfältig. Im Bereich der medizinischen Bildauswertung unterstützt KI Ärzte in der Diagnostik. In der Früherkennung von Osteoporose etwa kann KI Anzeichen für Wirbelverletzungen auf CT-Bildern erkennen und markieren, welche selbst für erfahrene Ärzte nur schwer zu erkennen sind (Sinhamahapatra et al. 2023). Bei dieser und anderen Krankheiten wie Krebs kann KI einen entscheidenden Hinweis liefern, um mit einer frühzeitigen Behandlung schwerwiegenderen Krankheitsverläufen vorzubeugen.
Ähnlich vielversprechend für die Zukunft sind klinische Entscheidungsunterstützungssysteme mit KI, die dem Arzt durch das Zusammenführen, Aufbereiten und Auswerten von Patientendaten eine Basis für eine datengestützte, personalisierte Diagnostik oder Behandlung und eine bessere Einhaltung von Leitlinien liefern können (Radke 2023). Gleichzeitig können die Vorhersage wahrscheinlicher Komplikationen oder das Erkennen von kausalen Zusammenhängen Risikobewertung und Präventionsmaßnahmen unterstützen.
Seit den 1960er-Jahren erforscht, aber erst in den letzten Jahren in den Fokus gerückt sind die generative KI und deren Untergruppe Large Language Models (große Sprachmodelle, LLMs). Generative KI bezeichnet KI-Modelle, die neue Inhalte wie Text, Bilder, Musik oder synthetische Daten generieren können. LLMs sind auf riesige Datenmengen trainiert, können natürlichsprachlichen Text verstehen und erzeugen. LLM-Anwendungen werden stark belasteten Gesundheitskräften administrative und dokumentationsintensive Aufgaben zumindest teilweise abnehmen und damit mehr Zeit für patientennahe Tätigkeiten ermöglichen (Thirunavukarasu et al. 2023). Praxiserprobte Beispiele sind KI-erstellte Arztbriefe, Chatbots zur Beantwortung von Patientenfragen, KI-Tools zur Digitalisierung und Auswertung handschriftlicher Notizen oder die KI-basierte Erfassung und Auswertung gesprochener Anweisungen in der Notfallversorgung, bei der wenig Zeit für die Dokumentation ist.
Auch für die Pharmabranche verspricht KI große Vorteile, da sie die langwierige und immer teurere Medikamentenentwicklung und -zulassung beschleunigt. KI kann beispielsweise bei der Wirkstoffentwicklung oder auch in präklinischen Studien unterstützen, indem sie riesige Molekül-Datenbanken analysiert und erfolgversprechende Molekülkandidaten identifiziert und vorschlägt (Kumar et al. 2023; Paul et al. 2021). Schnellere Erkenntnisse im Entwicklungsverfahren sparen sowohl Zeit als auch Kosten und tragen zur Entwicklung wirksamer Medikamente mit weniger Nebenwirkungen bei, nicht zuletzt, indem schwere Nebenwirkungen und damit ein „Scheitern“ des Wirkstoffs frühzeitiger erkannt werden (Kumar et al. 2023).
Vertrauenswürdigkeit und Patientensicherheit
Intelligente Vorhersagen sind auch für Prozesse im Krankenhaus wie die Personal-, OP- oder Ressourcenplanung ein vielversprechender Ansatz. Forschungsprojekte und in einigen Kliniken erprobte Planungssoftware mit KI zeigen, dass die mühsame, regulatorisch komplexe Bedarfsermittlung und die Schichtplanung erleichtert werden können, indem ein Planungsvorschlag einer KI von einer erfahrenen Fachkraft nur feinjustiert wird, anstatt ihn von Grund auf neu zu erstellen. KI-gestützte Roboter wiederum kommen zum Teil bereits bei Operationen (Knudsen et al. 2024) oder in der Rehabilitation zum Einsatz. Einige hochkomplexe intelligente Exoskelette können als technologisches Hilfsmittel in der Therapie von Verletzungen der Wirbelsäule, einzelner Gliedmaßen oder auch für Schlaganfallpatienten dienen. Die KI „ahnt“ die beabsichtigte Bewegung einer Person mit Mobilitätseinschränkung voraus und liefert die notwendige Bewegungsunterstützung (He et al. 2024). Im Privatbereich ermöglichen Smart Wearables die persönliche Auswertung von Gesundheits- und Fitnessdaten basierend auf erfassten Werten wie Puls, Stress, Sauerstoffsättigung, Schlaf oder sportlicher Aktivität, unter anderem zur Überwachung von Krankheiten wie Chronischer Herzinsuffizienz und zur Prävention (Shajari et al. 2023).
Die Einsatzfelder von KI sind demnach vielfältig und entwickeln sich kontinuierlich weiter. Gleichzeitig müssen im kritischen Medizinbereich die Qualität und Sicherheit von KI bestmöglich abgesichert werden (Samhammer et al. 2023). Mit der KI-Verordnung der Europäischen Union (EU AI Act) werden an Hochrisiko-KI-Systeme wie medizinische Geräte besondere Anforderungen gestellt, wie etwa die Erklärbarkeit von KI (Explainability) (Europäisches Parlament 2024). Als Black Box wird ein hochkomplexer und nicht leicht für den Menschen verständlicher Entscheidungsprozess eines KI-Modells bezeichnet, eine White-Box-KI hingegen zeichnet sich durch Transparenz und Nachvollziehbarkeit aus. Bestimmte technische Methoden verbessern die (Prüfung der) Erklärbarkeit nachweislich (Sinhamahapatra 2023). Sofern medizinische Software in die Kategorie „Medizinprodukt“ fällt, ist eine Zertifizierung für die Marktzulassung notwendig. Damit Patientensicherheit und Vertrauenswürdigkeit der KI gewährleistet sind, müssen KI-Algorithmen zudem vor dem Praxiseinsatz auf weitere Sicherheitskriterien getestet werden. Insbesondere für generative KI muss beispielsweise ausgeschlossen werden, dass die KI halluziniert, also nicht reale Informationen oder Zusammenhänge basierend auf erlernten Mustern und Trends in den Trainingsdaten erfindet (Hatem et al. 2023).
Digitale Infrastruktur und Datenmaterial
Mit der zunehmenden Digitalisierung von Krankenhäusern, Gesundheitsinfrastrukturen und Daten wird Schritt für Schritt eine der Kernvoraussetzungen für den breiten Einsatz von KI geschaffen (Minz et al. 2023). Grundlage für KI sind qualitativ hochwertige, repräsentative und nicht voreingenommene Daten (ohne Bias), mit denen ein KI-Modell trainiert und getestet wird. Im Sinne der Qualitätssicherung können Trainingsdaten nicht gleichzeitig auch Testdaten sein; in der Regel sind daher große Datenmengen für die Entwicklung von KI-Modellen notwendig. Gerade in der Medizin liegen zum Teil nur wenige Daten vor. Dies gilt etwa für seltene Erkrankungen. Oft sind Patientendaten an verschiedenen Orten gespeichert, oder der Austausch von sensiblen Gesundheitsdaten ist besonders beschränkt. Nicht immer stehen also (ausreichend) große Datenmengen zur Verfügung. In diesen Fällen kann der KI-Anwendungsfall auf eine Teilaufgabe beschränkt oder können besondere technische Verfahren für kleine Datensätze (little data) angewandt werden, damit die KI trotzdem sicher ist.
Auch fehlende Daten durch unvollständige oder nicht erfasste Patienteninformationen sind eine Herausforderung in der klinischen Praxis (Zamanian et al. 2024), etwa wenn sich Anamneseverfahren geändert haben oder weil aufgrund ausschlaggebender Hinweise bei ersten medizinischen Tests eine weitere Diagnostik nicht notwendig war. Die Forschung entwickelt deshalb Methoden, um Algorithmen robust gegen Funktionsfehler durch lückenhafte Datensätze zu machen. Die Vielzahl unterschiedlicher und teils inkompatibler IT--Systeme und Dateiformate, Unterschiede in Abläufen und Routinen, die Individualität von Patienten und Krankheitskonstellationen erschweren die KI-Entwicklung und die Übertragbarkeit von KI auf einen anderen Kontext als den ursprünglich trainierten und erfordern eine sorgsame Prüfung der verwendeten Daten und technischen Methoden, da beide die Genauigkeit und Zuverlässigkeit von KI beeinflussen.
Die Wissenschaft, die Gesundheitsbranche und die Softwareindustrie treiben intensiv die Erforschung, Entwicklung und Praxiseinführung von KI voran, damit KI trotz bestehender Herausforderungen sicher eingesetzt werden kann. Neben den vielen Chancen von KI in der Medizin bleibt aus wissenschaftlicher Sicht zu betonen: KI kann als „Co-Pilot“ medizinische Fachkräfte bei vielen Aufgaben entlasten und die Administration, Diagnose, Therapie oder Medikamentenentwicklung unterstützen. Eine Beurteilung durch einen qualifizierten Experten, der die Verantwortung für die medizinische Entscheidung trägt, ersetzen intelligente Algorithmen nicht (Samhammer et al. 2023). Voraussetzung sind allerdings eine digitale Infrastruktur in Gesundheitseinrichtungen, Zugriff auf ausreichend qualifiziertes, anonymisiertes Datenmaterial wie etwa durch entstehende Gesundheitsdatenräume sowie eine Vorbereitung von medizinischem Personal auf den Einsatz von KI.
Jeanette Miriam Lorenz, geboren 1987 in Erlangen, promovierte und habilitierte Physikerin, Leiterin der Abteilung „Trustworthy Digital Health“, Fraunhofer-Institut für Kognitive Systeme IKS, München.
Johanna Schmidhuber, geboren 1997 in Wasserburg am Inn, Projektmanagement & Business Development, Abteilung „Trustworthy Digital Health“, Fraunhofer-Institut für Kognitive Systeme IKS, München.
Literatur
Europäische Union 2024: P9_TA(2024)0138. Artificial Intelligence Act. European Parliament legislative resolution of 13 March 2024 on the proposal for a regulation of the European Parliament and of the Council on laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts (COM(2021)0206 – C9-0146/ 2021 – 2021/0106(COD)). www.europarl.europa.eu/doceo/document/TA-9-2024-0138_ EN.pdf [letzter Zugriff: 09.07.2024]
Hatem, Rami / Simmons, Brianna / Thornton, Joseph E.: „A Call to Address AI ‚Hallucinations‘ and How Healthcare Professionals Can Mitigate Their Risks“, in: Cureus, Band 15, Nr. 9, Artikel 44720, September 2023.
He, Yana / Xu, Yuxuan / Hai, Minghang / Feng, Yang / Liu, Penghao / Chen, Zan / Duan, Wanru: „Exoskeleton-assisted rehabilitation and neuroplasticity in Spinal Cord Injury“, in: World Neurosurgery, Nr. 185, Mai 2024, S. 45–54.
Knudsen, J. Everett / Ghaffar, Umar / Ma, Runzhuo / Hung, Andrew J.: „Clinical applications of artificial intelligence in robotic surgery“, in: Journal of Robotic Surgery, Nr. 18, Artikel 102, März 2024.
Kumar, Mandeep / Nguyen, T. P. N. / Kaur, Jasleen / Singh, T. G. / Soni, Divya / Singh, Randhir / Kumar, Puneet: „Opportunities and challenges in application of artificial intelligence in pharmacology“, in: Pharmacological Reports, Nr. 75, Januar 2023, S. 3–18.
Minz, Rainer/ Grüttner, Damian / Heusinger-Lende, Marlis von: „Krankenhaus 2030 – Was sich ändern muss“, in: Gefässchirurgie, Nr. 28, März 2023, S. 98–107.
Paul, Debleena / Sanap, Gaurav / Shenoy, Snehal / Kalyane, Dnyaneshwar / Kalia, Kiran / Tekade, Rakesh K.: „Artificial intelligence in drug discovery and development“, in: Drug Discovery Today, Band 26, Nr. 1, Januar 2021, S. 80–93.
Radke, Peter W.: „Klinische Entscheidungsunterstützung in der Kardiologie“, in: Die Kardiologie, Nr. 02/2023, S. 72–80.
Samhammer, David / Beck, Susanne / Budde, Klemens / Burchardt, Aljoscha / Faber, Michelle / Gerndt, Simon / Möller, Sebastian / Osmanodja, Bilgin / Roller, Roland / Dabrock, Peter: Klinische Entscheidungsfindung mit Künstlicher Intelligenz, Berlin / Heidelberg 2023.
Shajari, Shaghayegh / Kuruvinashetti, Kirankumar / Komeili, Amin / Sundararaj, Uttandaraman: „The Emergence of AI-Based Wearable Sensors for Digital Health Technology: A Review“, in: Sensors, Band 23, Nr. 23, Artikel 9498, Dezember 2023.
Sinhamahapatra, Poulami / Heidemann, Lena / Monnet, Maureen / Roscher, Karsten: „Towards Human-Interpretable Prototypes for Visual Assessment of Image Classification Models“, in: Proceedings of the 18th International Joint Conference on Computer Vision, Imaging and Computer Graphics Theory and Applications (VISIGRAPP 2023), Nr. 5, Februar 2023, S. 878–887.
Thirunavukarasu, Arun J. / Ting, Darren Shu J. / Elangovan, Kabilan / Gutierrez, Laura / Ting Fang, Tan / Shu Wei Ting, Daniel: „Large language models in medicine“, in: Nature Medicine, Band 29, Ausgabe 8, August 2023, S. 1930–1940.
Xu, Lina / Busch, Felix / Adams, Lisa C. / Bressem, Keno K.: „Künstliche Intelligenz in der Radiologie und Strahlentherapie“, in: Onkologie, Nr. 5/2024, S. 353–361.
Zamanian, Alireza / Kleist, Henrik von / Ciora, Octavia Andreea / Piperno, Marta / Lancho, Gino / Ahmidi, Narges: „Analysis of Missingness Scenarios for Observational Health Data“, in: Journal of Personalized Medicine, Band 14, Nr. 5, Artikel 514, Mai 2024.