Publikation

KI in der Medizin und Pflege aus der Perspektive Betroffener, Tagungsbericht zum Runden Tisch mit Patientenvertretungen

Klemens Budde, Karsten Hiltawsky, Elsa Andrea Kirchner, Matthieu-P. Schapranow, Thomas P. Zahn

12/2020.

Abstrakt

Ob bei der Prävention oder bei patientenindividuellen Diagnosen und Therapien – KI-basierte Assistenzsysteme bergen das Potenzial, Patientinnen und Patienten sowie medizinisches und pflegerisches Personal künftig wirksam zu unterstützen. Mit den verschiedenen Aspekten der Einführung von KI-basierten Assistenzsystemen im Gesundheitswesen hat sich die Plattform Lernende Systeme bereits in verschiedenen Publikationen auseinandergesetzt (vgl. Müller-Quade et al., 2020, 2019; Plattform Lernende Systeme, 2019, Beck et al., 2019). Ein zentrales Anliegen der Arbeitsgruppe Gesundheit, Medizintechnik, Pflege der Plattform Lernende Systeme ist es, die Perspektive von Patientinnen und Patienten bei der Diskussion von Chancen und Herausforderungen von KI im Gesundheitswesen in den Mittelpunkt zu stellen. Aus diesem Grund hat die Arbeitsgruppe im Oktober 2019 einen Runden Tisch mit Vertreterinnen und Vertretern verschiedener Betroffenengruppen veranstaltet, um deren Wahrnehmung von Chancen und Herausforderungen für den Einsatz von KI-Systemen im Gesundheitswesen identifizieren und diskutieren zu können. Die qualitative Befragung von Patientenvertreterinnen und -vertretern zeigt dabei (Kapitel 3), dass die Wahrnehmung potenzieller Chancen von KI im Gesundheitswesen gegenüber der Einschätzung von Risiken überwiegt: So erhofft sich die Mehrzahl der teilnehmenden Patientenvertreterinnen und -vertreter mit Hilfe von KI-Systemen eine stärker personalisierte Behandlung, eine vernetzte Behandlung mit sektorenübergreifenden Prozessen und eine umfassendere und schnellere Diagnosefindung. Von besonderer Bedeutung ist zudem der Zugriff von Betroffenen auf ihre elektronische Patientenakte. Die darauf gespeicherten Gesundheitsdaten aus der Regelversorgung werden als wertvolle Datenquelle bewertet, um einen sinnvollen und qualitativ hochwertigen Einsatz der KI-basierten Assistenzsysteme in der medizinischen und pflegerischen Versorgung sicherzustellen. Gleichzeitig kann die Verfügbarkeit von fachlich kompetenten Ansprechstellen, die Informationen aus der Patientenakte in einen medizinisch fundierten Kontext einordnen und bei Fragen und Unklarheiten weiterhelfen können, eine wichtige Ergänzung sein. Die unmittelbare Verfügbarkeit digitaler Patientenakten wird den Patientinnen und Patienten einfacheren Zugang zu ihren Gesundheitsdaten ermöglichen: Heute ist hierfür die Anforderung der analogen Akte erforderlich. So ist zu erwarten, dass die Patientinnen und Patienten das Angebot häufiger wahrnehmen und damit öfter mit medizinischen Daten konfrontiert werden, ohne dass diese Daten von einer Ärztin oder einem Arzt in einen medizinischen Kontext eingeordnet werden. Als vielversprechend werden auch neue Möglichkeiten der Teilhabe und Inklusion im Behandlungsprozess eingestuft. Risiken sehen die teilnehmenden Patientenvertreterinnen und -vertreter dagegen im Datenmissbrauch und der Cyberkriminalität. Fehlerhafte und diskriminierende Entscheidungen, die auf Basis der KI-Systeme getroffen werden könnten, sind hingegen ebenso bedenklich wie die Verwendung mangelhafter Datensätze und schlecht optimierter Algorithmen. Wichtig ist den Vertreterinnen und Vertretern verschiedener Betroffenengruppen auch die informationelle Selbstbestimmung mit Fragen zu Zugriffsrechten und Datenbesitz. Befürchtet wird zudem, dass menschliche Interaktionen eingeschränkt werden und die KI-basierten Medizinprodukte ohne Patientenbeteiligung entwickelt werden. Dabei wünschen sie sich eine stärkere Beteiligung von Betroffenen in Forschung, Entwicklung und Anwendung von KI-Technologien im Gesundheitswesen und einen Rechtsbeistand sowie Bildungsangebote zu Fragen des Datenschutzes und der Verwaltung der Gesundheitsdaten. Ausgehend von der Analyse des fiktiven Anwendungsszenarios „Mit KI gegen Lungenkrebs“ hat die Patientenvertreterin Barbara Baysal Chancen und Herausforderungen von KI bei der Krebsvorsorge, -diagnostik und -therapie kommentiert (Kapitel 3.5). Auch hier liegt der Fokus auf der Transparenz der Entscheidungen von KI-Systemen in der Medizin und der Selbstbestimmtheit von Patientinnen und Patienten. Mit diesem Whitepaper und durch den Austausch mit Vertreterinnen und Vertretern verschiedener Betroffenengruppen will die Plattform Lernende Systeme einen Beitrag zum Dialogprozess zum Thema KI in der Medizin leisten.

AG6_Whitepaper_Medizin_Pflege_Tagungsbericht_EK.pdf (pdf, 1 MB )

Deutsches Forschungszentrum für Künstliche Intelligenz
German Research Center for Artificial Intelligence