INnovation
Gesundheit
Oberösterreich
30.11.2022

EU schafft Rechtsgrundlage für Künstliche Intelligenz

Die Coronakrise hat die Digitalisierung im Gesundheitsbereich enorm gepusht. Der neue rechtliche Rahmen der Europäischen Kommission soll eine „Ethische Intelligenz“ fördern und das Vertrauen in KI-Anwendungen stärken.

Die Beziehung der Patient*innen zum Hausarzt hat sich seit Beginn der Pandemie eindrücklich verändert. Kleinere Beschwerden werden seither öfter selbst behandelt, und der Kontakt zur Hausärztin beziehungsweise zum Hausarzt läuft in manchen Fällen über Telefon, E-Mail oder Video-Call. Auch das elektronische Rezept ist seither im Alltag vieler Patient*innen angekommen. 

Laut einer Umfrage des Linzer Marktforschungsinstituts Spectra hatte ein Drittel der österreichischen Bevölkerung im letzten Jahr eine Fernkonsultation mit der Hausärztin oder dem Hausarzt. Das waren mehr als dreimal so viele wie im Jahr davor. Eine Entwicklung, die ohne Pandemie weitaus länger gedauert hätte.

Laut dem Future Health Index 2021 von Philips hat die Investition in Telemedizin die aktuell wichtigste Priorität für Entscheidungsträger im Gesundheitswesen. Für 64 Prozent der 3.000 Befragten aus 14 Ländern bildet sie die Grundlage der Digitalisierung. Die Investition in Künstliche Intelligenz wird in den kommenden Jahren an Bedeutung gewinnen, so die Umfrage.

KI-basierter Triage-Chatbot

In welche Richtung es für Patienten in den nächsten Jahren gehen wird, zeigt etwa ein Blick nach Großbritannien, wo die Digitalisierung schon weiter vorangeschritten ist. Das staatliche Gesundheitssystem NHS führte in manchen Gesundheitssprengeln bereits vor der Pandemie einen KI-basierten Triage-Chatbot ein. 

Über die digitale Anwendung „GP at hand“ werden Symptome des Patienten abgefragt. Je nach Resultat stellt das System Gesundheitsinformationen zur Verfügung, bietet eine Fernkonsultation mit einem Arzt an oder empfiehlt einen Besuch im nächstgelegenen Krankenhaus. 

Durch diese Filterung verspricht der Anbieter Babylon Health Kosteneinsparungen, da nur jene Patienten Ressourcen in Anspruch nehmen, die das auch tatsächlich brauchen. Laut NHS-Angaben zählt der Dienst in Großbritannien derzeit 100.000 registrierte User. Der Anbieter ist mittlerweile in 16 Staaten weltweit vertreten und betreut nach eigenen Angaben über 20 Millionen Menschen mit über 5.000 Fernkonsultationen pro Tag.

Fehlender rechtlicher Rahmen

Der fehlende rechtliche Rahmen für diese Dienste offenbarte sich in den Fehlentscheidungen des Systems, die eine ganze Sendereihe der BBC füllten, wie Innovations-Expertin Eva Maria Kirchberger in einem Interview mit Ingo 2019 erklärte. Der Chatbot sei als Medizinprodukt der Klasse 1 registriert und unterliege damit denselben rechtlichen Anforderungen wie eine Brille oder eine Gehhilfe, kritisierten Experten.

Ein unabhängiges Kontrollorgan, das den Algorithmus auf Schwachstellen prüft, gibt es bislang nicht. Babylon Health veröffentlichte eine eigene Studie, die zu dem Schluss kam, dass ihr KI-System allgemeine Krankheiten genauso gut diagnostizieren könne wie ein Arzt. Eine Aussage, die von zahlreichen medizinischen Verbänden und Hochschulen angezweifelt wurde.

EU-Rahmen für Ethische Intelligenz

In der EU will man dieses rechtliche Vakuum im Bereich KI schnellstmöglich füllen. Im White Paper on Artificial Intelligence der Europäischen Kommission von 2020 wurde Künstliche Intelligenz mit seinen Chancen und Risiken umfassend definiert. Darin wurde festgelegt, dass KI-Systeme in der EU im Einklang mit den europäischen Werten entwickelt werden müssen. 

„Europäische KI ist in unseren Werten und Grundrechten, wie Menschenwürde und Datenschutz, verankert“, heißt es im White Paper. Von einer Expertengruppe wurden zudem ethische Richtlinien ausgearbeitet. Im April 2021 legte die Europäische Kommission schließlich den allerersten rechtlichen Rahmen für KI vor.

„Bei Künstlicher Intelligenz ist Vertrauen ein Must- und kein Nice-to-have“, sagte Margrethe Vestager, geschäftsführende Vizepräsidentin und EU-Kommissarin für Digitales. „Unser Reglement ist zukunftstauglich und innovationsfreundlich. Es schreitet genau dann ein, wenn nötig: Wenn die Sicherheit und die Grundrechte von EU-Bürgern auf dem Spiel stehen.

Text: Gertraud Gerst; Bild: pixabay

Haben Ihnen diese Artikel gefallen?

Erhalten Sie regelmäßig alle relevanten Nachrichten aus dem österreichischen Gesundheitswesen.