Täglich untersuchen Radiologinnen und Radiologen Tausende medizinischer Bilder von Röntgenapparaten, Computertomografen (CT) oder Magnetresonanztomografen (MRT). Sie begutachten darauf Knochenbrüche, Entzündungen, verändertes Gewebe, auch Tumore. Ein Beruf, der sehr viel Zeit und Konzentration fordert. Bald könnten die Medizinerinnen und Mediziner hierbei vermehrt durch Künstliche Intelligenz (KI) unterstützt werden: Computerprogramme suchen eigenständig nach Auffälligkeiten und markieren sie.

Welche ethischen und gesellschaftlichen Fragen damit verbunden sind, hat eine transdisziplinäre Stakeholder-Konsultation im Rahmen des Projektes „Künstliche Intelligenz in der Radiologie“ (KIRA) erarbeitet, das von der Technischen Universität Berlin im Auftrag der Berlin University Alliance initiiert und begleitet wurde. Wissenschaftlerinnen und Wissenschaftler der vier Verbund-Einrichtungen – Freie Universität Berlin, Humboldt-Universität zu Berlin, Technische Universität Berlin und Charité – Universitätsmedizin Berlin – trafen sich zum Austausch mit Akteurinnen und Akteuren aus der Praxis: Patientinnen und Patienten, Ärztinnen und Ärzte, Radiologie-Assistentinnen und -Assistenten sowie Informatikerinnen und Informatiker. Ihre Fragen, Empfehlungen und Anregungen sind nun in einem Bericht erschienen.

„Ich finde es sehr sinnvoll, dass nicht nur die Wissenschaft, sondern viele unterschiedliche Köpfe über die verschiedenen Aspekte der Digitalisierung nachdenken, weil sie unsere Gesellschaft grundsätzlich verändern wird“, sagt Anke Nowottne. Privat musste sie sich als Patientin in den vergangenen Jahren selbst einigen radiologischen Untersuchungen unterziehen, zudem hat sie in ihrem Beruf als Daten-Spezialistin bei der Bundesdruckerei auch professionell mit KI zu tun. Im November 2019 traf sie sich mit dem KIRA-Projektteam und 18 weiteren Projektpartnerinnen und -partnern zu einem Workshop, in dessen Mittelpunkt die Frage stand: Unter welchen Umständen wird der Einsatz von Künstlicher Intelligenz in der Radiologie als vertrauenswürdig empfunden?

Um einen Überblick über die verschiedenen Schritte einer radiologischen Untersuchung zu bekommen, unternahm die KIRA-Gruppe im Rahmen der Kickoff-Veranstaltung zunächst zwei verschiedene Rollenspiele, die von realen Ärztinnen und Ärzten sowie Patientinnen und Patienten aus ihrem Kreis vorgeführt wurden. Das Szenario: Eine Patientin kommt mit Brustschmerzen in die Hausarztpraxis. Das Symptom deutet auf eine mögliche Herzkrankheit hin. Der Hausarzt überweist sie zur Radiologin, wo sie nach einer CT-Untersuchung einen Befund, eine Diagnose und eine Therapieempfehlung erhält. Dabei wurden zwei verschiedene Varianten simuliert: Im ersten Fall setzte die Radiologin KI-Programme ein, im zweiten nicht. Aus diesen Fallkonstellationen ergaben sich bei den Teilnehmenden viele Fragen und Diskussionen.

„Das Besondere an KIRA war, dass alle, die in der Praxis an radiologischen Untersuchungen beteiligt sind, ausführlich gehört wurden“, sagt Professor Marc Dewey, stellvertretender Direktor der Klinik für Radiologie der Charité am Campus Mitte und Sprecher der wissenschaftlichen Projektgruppe. Alle Teilnehmenden wurden nach dem Auftaktworkshop mehrmals sowohl alleine als auch in Gruppen befragt: Was passiert, wenn der Software ein Fehler unterläuft? Haftet dann der Arzt oder die Ärztin, der KI-Entwickler oder die -Entwicklerin? Und was ist, wenn Radiologinnen und Radiologen zu einem anderen Ergebnis kommen als das Programm? Welchen Spielraum haben sie dann? Die Antworten und selbst aufgeworfenen Fragen der Teilnehmenden wurden in einer mehrmonatigen Konsultationsphase mittels Einzel- und Gruppentelefoninterviews aufgenommen und ausgewertet. Dafür wurde die Methode des deliberativen Delphi verwendet, das von Ralf Grötker von der Agentur Explorat entwickelt und gemeinsam mit der Projektkoordinatorin Berit Petzsch von der Technischen Universität Berlin für das Thema angepasst wurde.

Ein weiterer wichtiger Aspekt, den die Gruppe diskutierte, war der Datenschutz. Denn auch, wenn medizinische Bilder anonymisiert werden, könnte man daraus personenbezogene Informationen ableiten. Aus den MRT-Aufnahmen eines Kopfes lässt sich zum Beispiel ein dreidimensionales Bild des Gesichtes rekonstruieren.

Überrascht waren einige Teilnehmende darüber, dass für die Zulassung einer KI-Software für radiologische Bildanalyse die CE-Kennzeichnung der Europäischen Union, mit der erklärt wird, dass das Produkt den geltenden Anforderungen genügt, ausreichend ist. Anders als bei Medikamenten wird hier nicht in randomisierten Studien untersucht, ob die Anwendung tatsächlich einen Vorteil für Patientinnen und Patienten hat. „Viele Teilnehmende waren der Meinung, dass eine stärkere Prüfung stattfinden müsste“, sagt Marc Dewey. Ein Punkt, der beim Vertrauen in die neuen Technologien eine Rolle spielen könnte.

Dazu gehört auch, dass eine Diagnose oder Therapieempfehlung vom Arzt oder der Ärztin begründet wird und nachzuvollziehen ist. KI-Programme müssten deshalb so gestaltet sein, dass sie aus der Sicht der jeweiligen Nutzerinnen und Nutzer eine hohe Transparenz aufweisen. „Wir wollen natürlich wissen, auf welcher Grundlage das Programm eine bestimmte Entscheidung ableitet“, sagt Marc Dewey. „Wir sollten diese Entscheidung für die Radiologinnen und Radiologen, aber auch für Patientinnen und Patienten noch stärker visualisieren und damit besser erklären können.“

„An die Top-Expertinnen und -Experten kommen KI-Programme noch nicht heran.“ Marc Dewey

Eine der größten Herausforderungen sei es, die Gruppe der Medizinerinnen und Mediziner davon zu überzeugen, dass der Einsatz von KI ihren Beruf weder abwerte noch obsolet mache, erklärt Marc Dewey. „Studien haben gezeigt, dass KI-Programme genauso treffsicher sind wie ein durchschnittlich ausgebildeter Radiologe. An die Top-Expertinnen und -Experten kommen sie allerdings noch nicht heran.“ Künstliche Intelligenz solle Medizinerinnen und Mediziner nicht ersetzen, könne aber ein hilfreicher Filter zur Feststellung sein, ob Auffälligkeiten krankheitsrelevant sind oder nicht.

Bei einer einzigen CT- oder MRT-Untersuchung entstehen Tausende Bilder. „Die Frage, ob und unter welchen Umständen Radiologinnen und Radiologen KI-Programme in ihrem beruflichen Alltag eher als Stressor oder hilfreiche Ressource wahrnehmen, wirkt sich direkt auf ihre Leistung, Zufriedenheit und ihr das Wohlbefinden am Arbeitsplatz aus“, sagt Jenny Wesche, Wissenschaftliche Mitarbeiterin am Fachbereich Erziehungswissenschaft und Psychologie der Freien Universität Berlin. Gemeinsam mit ihrer Kollegin Annekatrin Hoppe, Professorin am Institut für Psychologie der Humboldt-Universität zu Berlin, will sie sich daher dieser zentralen Forschungsfrage in gemeinsamen Forschungsprojekten widmen, die auf den Ergebnissen der KIRA-Konsultation aufbauen.

Pro Patientin oder Patient benötigen Radiologinnen und Radiologen zwischen fünf und dreißig Minuten, um die Bilder genau auszuwerten. Und die Zahl der radiologischen Untersuchungen nimmt zu – im vergangenen Jahr an der Charité beispielsweise um fünf Prozent. Dies deutet auch gleich die ökonomische Dimension dieser Veränderungen an. „Neben vermuteten Effizienzeffekten müssen unter anderem die sich verändernden Qualitätswahrnehmungen der Patientinnen und Patienten, deutlich veränderte Kompetenzanforderungen bei allen Prozessbeteiligten sowie erhebliche Erweiterungen der IT-Investitionen berücksichtigt werden. Hieraus können schnell sogenannte Innovationsbarrieren entstehen“, erläutert Martin Gersch, Professor am Department Wirtschaftsinformatik der Freien Universität Berlin und Principal Investigator am Einstein Center Digital Future, der unter anderem die Digitale Transformation des Gesundheitswesens erforscht und diese Aspekte im KIRA-Team vertritt.

Die beteiligten Wissenschaftlerinnen und Wissenschaftler nutzen nun die Ergebnisse der Konsultationen als Ausgangspunkt für weitere Forschungsprojekte. „Durch den hervorragenden Überblick, den die Konsultationen für die radiologischen Prozessschritte erarbeitet haben, wird es uns nun möglich sein, relevante Fragen zur Akzeptanz und Nutzung von KI in der Radiologie systematischer zu konkretisieren und weiter zu erforschen“, sagt Marc Dewey. Ganz grundsätzlich gilt es etwa aus philosophischer Perspektive zu untersuchen, was Vertrauen in einer solch neuen Situation der Mensch-Maschine-Interaktion überhaupt bedeuten kann, und welche normativen Bedingungen für eine vertrauenswürdige Ausgestaltung und Umsetzung vorliegen müssten. Mit solchen konzeptionellen und ethischen Fragestellungen beschäftigt sich im Projektteam Birgit Beck, Philosophieprofessorin an der Technischen Universität Berlin.

Durch das transdisziplinäre Projekt ist es laut Marc Dewey gelungen, alle relevanten Sichtweisen und vordringlichen Fragen zu erfassen, die nun von verschiedenen, am KIRA-Projekt beteiligten Disziplinen fachspezifisch, aber auch gemeinsam bearbeitet werden können: Philosophie, Medizin, Wirtschaftswissenschaft/Wirtschaftsinformatik und Psychologie.

Auch Anke Nowottne ist auf die Ergebnisse gespannt. „Mir ist noch einmal klar geworden, dass es gerade im Gesundheitsbereich wichtig ist, regulierende Maßnahmen zu schaffen, die gewährleisten, dass das positive Potenzial, das in der Digitalisierung steckt, vor allem den Patientinnen und Patienten zugutekommt“, sagt sie. Sie wünscht sich mehr gemäßigte Diskussionen über das Thema, in denen nicht gleich polarisiert wird, indem die neuen Technologien entweder nur als Heilsbringer gefeiert oder grundsätzlich abgewehrt würden. Außerdem findet Anke Nowottne es wichtig, dass Kinder frühzeitig an einen kritischen selbstbestimmten Umgang mit Daten herangeführt werden. „Wir können die Digitalisierung nicht aufhalten. Aber wir können sie gestalten.“