"Fluch oder Segen - das wird wohl erst die Zeit weisen!"

Welches Potenzial sehen Sie für ChatGPT im Gesundheitsbereich, aktuell und in Zukunft?

Daniela Haluza: ChatGPT hat großes Potenzial im Gesundheitsbereich, weil es in der Lage ist, eine enorme Menge an Daten zu verarbeiten und zu analysieren. Es kann dazu beitragen, die Qualität der medizinischen Versorgung zu verbessern, indem es schnelle und genaue Diagnosen ermöglicht, individuelle Therapieoptionen entwickelt und die Ergebnisse überwacht. Darüber hinaus kann es dazu beitragen, medizinische Entscheidungen auf eine evidenzbasierte Grundlage zu stellen, sofern die Daten verfügbar und entsprechend aufbereitet sind. Und es kann helfen, neue Erkenntnisse zu gewinnen und zukünftige Behandlungsmöglichkeiten zu verbessern.

Sind Forschung, Lehre und Public Health die maßgeblichen Anwendungsgebiete, oder wird ChatGPT auch im ärztlichen beziehungsweise pflegerischen Alltag eine Rolle spielen?

In Forschung, Lehre und Public Health liegen die Vorteile einer künstlichen Sprach- und Textverarbeitungsassistenz auf der Hand. Darüber hinaus kann ChatGPT in verschiedenen Bereichen des Gesundheitswesens eingesetzt werden. Im ärztlichen und pflegerischen Alltag kann es bei der Diagnosestellung und Therapieplanung unterstützen, indem es Patient*innendaten analysiert und auf Basis von Algorithmen und Big Data individuelle Therapieoptionen entwickelt. Expert*innen sind sich auch darüber einig, dass die KI bei der Überwachung von Behandlungsergebnissen und der Entwicklung von Leitlinien hilfreich sein wird. Eine Kontrolle der von der KI vorgeschlagenen Diagnose und Therapie durch Gesundheitspersonal ist aber immer erforderlich, nach dem Motto: Fragen Sie Ihre Ärzt*innen oder Apotheker*innen, nicht eine KI…

Welche Limitierungen für den Einsatz sehen Sie?

Eine der größten Limitierungen für den Einsatz von ChatGPT im Gesundheitswesen ist die Qualität und Verfügbarkeit von Daten. Beispielsweise ist das derzeit sehr bekannte KI-Model GPT-3 nur mit Daten bis Mitte 2021 vertraut und auch nicht mit dem Internet verbunden. Das schränkt natürlich den Zugriff auf neue medizinische Studien und Erkenntnisse stark ein. Wir haben in unserer Forschung sehr gut zeigen können, dass GPT-3 gerne auch einmal Antworten produziert, die keine reale Entsprechung haben und frei erfunden sind. Das trifft auf wissenschaftliche Zitate oder auch Geburtstage zu. Wenn die Datenbasis nicht ausreichend oder unzureichend ist, kann dies zu ungenauen Ergebnissen führen. Darüber hinaus ist es wichtig, Datenschutzbedenken im Zusammenhang mit dem Einsatz von KI im Gesundheitswesen zu berücksichtigen. Und zwar immer.

Wie lässt sich sicherstellen, dass die Datenbasis tragfähig ist?

Die Daten müssen qualitativ hochwertig, zuverlässig und repräsentativ sein. Es ist wichtig, die Daten, mit denen eine KI trainiert wird, auf Plausibilität und Vollständigkeit zu prüfen und eine ausreichend große und vielfältige Stichprobe zu verwenden. Für die technische Ausführung, die Anwendungssicherheit und die Nutzer*innenfreundlichkeit müssen Programmierer*innen sorgen. Ich bin als Forscherin im Gesundheitswesen auch selbst hauptsächlich nur Endnutzerin. In unserer Forschung zur Anwendung von KI zur Texterstellung haben wir immer wieder festgestellt, dass der genaue Wortlaut der „prompt“ (so nennt sich die Anfrage an ChatGPT) extrem wichtig für die Güte der erhaltenen Antwort ist. Ob ich die Zahl 10 numerisch oder als Wort schreibe, macht für die KI schon einen Unterschied und führt zu einer anderen Antwort. Allgemein gilt, dass eine präzisere Anfrage zu einem zufriedenstellenderen Ergebnis führt, was auch zu erwarten ist, frei nach dem bekannten Konzept von „garbage in, garbage out“.

Wie sehr kann man dann auf die „Erkenntnisse“ der KI vertrauen? Wann können, wann müssen sich Ärzt*innen und Pflegepersonen darüber hinwegsetzen?

KI-basierte Erkenntnisse sollten immer mit Vorsicht betrachtet werden und dürfen nicht als alleinige Grundlage für medizinische Entscheidungen dienen. Ärzt*innen und Pflegepersonen sollten die Ergebnisse von KI-Analysen immer kritisch prüfen und ihre eigene klinische Erfahrung und Fachkompetenz einbeziehen. Es wird in Zukunft auch ethisch und rechtlich spannend werden, wer und in welchem Ausmaß dafür haftet, wenn es zu Fehlern in der Behandlung von Patient*innen kommt. Die Anwendung von ChatGPT im Gesundheitswesen kann komplexe neuartige ethische Fragen aufwerfen, zum Beispiel wer Zugang zu welchen Daten hat, welche Auswirkungen es auf die Patient*innenversorgung hat und wie die Ergebnisse interpretiert werden. Es ist wahnsinnig wichtig, diese Fragen im Voraus zu klären und als Dienstleistungsunternehmen oder als Gesellschaft die Verantwortung für die Anwendung von ChatGPT im Gesundheitswesen zu übernehmen. Es bedarf meiner Einschätzung nach noch einer umfassenden öffentlichen, wissenschaftlichen und politischen Debatte, wie wir damit umgehen und welche Richtlinien nötig sind für einen umfassenden Einsatz von KI in derart heiklen Bereichen des menschlichen Lebens.

Fördert oder verringert der Einsatz von KI im Gesundheitswesen individuelle Therapieoptionen?

Ist KI Fluch oder Segen? Das wird sich wohl erst über die Zeit zeigen. Ich denke aber, dass der Einsatz von KI im Gesundheitswesen die Entwicklung und Umsetzung individueller Therapieoptionen fördern kann, indem es ermöglicht, Patient*innendaten effizienter zu analysieren und personalisierte Behandlungsoptionen zu entwickeln. Allerdings müssen Ärzt*innen und Pflegepersonen immer ihre eigene fachliche Expertise einbringen und die individuellen Bedürfnisse und Präferenzen der Patient*innen berücksichtigen – das sei hier noch einmal besonders betont. Übrigens kann ChatGPT auch als Lernwerkzeug für medizinische Fachkräfte eingesetzt werden, indem es Wissen zu bestimmten Krankheiten, Behandlungen und Verfahren vermittelt. Hier ist also ein Benefit für die medizinische Ausbildung zu erwarten, vor allem, weil durch Gamification und innovative Lernkonzepte postgraduelle Ausbildung und Wissenschaftskommunikation besser didaktisch aufbereitet und benutzer*innenfreundlicher gestaltet werden können. Auch im Gesundheitsmanagement sehe ich Chancen. ChatGPT kann Patient*innen bei der Verwaltung ihres Gesundheitszustands und ihrer Medikation unterstützen, indem es an Termine erinnert und Ratschläge zur Verbesserung des Gesundheitszustands gibt, als intelligente Erweiterung von Telemedizin sozusagen.

Gibt es bereits praktische Beispiele für den Einsatz von ChatGPT im Gesundheitskontext in Österreich?

KI wird im Gesundheitskontext in Österreich schon länger eingesetzt, zum Beispiel zur Bildanalyse in der Pathologie und der Radiologie. Ein routinemäßiger Einsatz von ChatGPT, das ja übrigens von einer amerikanischen Firma entwickelt wurde, findet aufgrund von ethischen Überlegungen und rechtlichen Rahmenbedingungen wohl nicht statt – noch nicht. Das Thema KI spielt im Gesundheitsbereich jedenfalls eine immer wichtigere Rolle, was die weitreichenden gesellschafts- und demokratiepolitischen Dimensionen des digitalen Veränderungsprozesses widerspiegelt. Der Grundsatz sollte jedenfalls lauten: Die Technik folgt dem Menschen, und nicht der Mensch der Technik.

Wie lässt sich das sicherstellen?

Internationale Regelwerke, wie insbesondere der europäische Artificial Intelligence Act, sind meines Erachtens sehr sinnvoll. Dadurch werden notwendige Regeln, Rahmenbedingungen und Guidelines für den ethischen, transparenten und vertrauenswürdigen Einsatz von KI etabliert. Die Stadt Wien hat beispielsweise als Teil ihrer Digitalen Agenda auch eine eigene Strategie für den Einsatz von KI veröffentlicht. Damit soll der Einsatz neuer Technologien anhand erster, konkreter Anwendungsfälle weiterentwickelt werden. Auch für die Ausbildung und den Einsatz von ChatGPT im Gesundheitssystem sind noch dringend Weichen für die Zukunft zu stellen. Wir brauchen innovative Köpfe an den Schlüsselpositionen in Forschung, Politik und Wirtschaft, die Fragen stellen wie: Welche Skills müssen aufgebaut werden? Welche weiteren Entwicklungen wird es geben? Was sollen wir tun, um als Gesellschaft bestmöglich von KI zu profitieren?

Ist die Infrastruktur für den verstärkten Einsatz von KI überhaupt gerüstet?

Tatsächlich scheint mir im gesellschaftlichen Diskurs auch der Umweltaspekt wichtig: Die breite Anwendung von ChatGPT im Gesundheitswesen kann zu technischen Herausforderungen führen, zum Beispiel zu hohem Energiebedarf von Servern, zur Skalierung und zu Ressourcenverbrauch. Der Energieverbrauch der Server lässt sich sicherlich durch innovative technische Möglichkeiten reduzieren, beispielsweise durch die Verwendung von energieeffizienten Servern, Cloud Computing und andere Technologien. Es ist wichtig, dies im Vorfeld zu bedenken und Infrastruktur und Ressourcen bereitzustellen, um eine reibungslose und effektive Verwendung von ChatGPT zu gewährleisten. Und zwar unter dem wichtigen Aspekt der Nachhaltigkeit und des darin festgelegten Generationenvertrags. Das wird uns gesamtgesellschaftlich und klimapolitisch wohl noch vor immense Herausforderungen stellen, vor allem angesichts der Multikrisen, die wir ja derzeit erleben.

Interview: Josef Haslinger; Fotos: MedUni Wien, depositphotos.com

Daniela Haluza, Priv.-Doz.in DDr.in

Assoziierte Professorin an der Medizinischen Universität Wien

Haluza ist Fachärztin für Klinische Mikrobiologie und Hygiene, sie hat auch ein Doktoratsstudium der Angewandten Medizinischen Wissenschaften im Fach Public Health und eine Zusatzausbildung für Open Innovation in Science absolviert. Seit 2021 ist sie assoziierte Professorin an der Medizinischen Universität Wien (Abteilung für Umwelthygiene und Umweltmedizin). Die gebürtige Niederösterreicherin hat bereits mehrere wissenschaftliche Auszeichnungen erhalten und ist auch als Buchautorin tätig. Zuletzt hat sie zusammen mit David Jungwirth in einer Studie das Potenzial von Künstlicher Intelligenz zur Bewältigung gesellschaftlicher Megatrends untersucht.