KI als Arzt-Ersatz? Nein, sagt Thomas Ernst, aber sie unterstützt immer besser. Künstliche Intelligenz im Gesundheitswesen ist für den Präsidenten des Aargauischen Ärzteverbandes, Dr. Thomas Ernst, ein technologischer Umbruch, der das Selbstverständnis ärztlicher Tätigkeit bereits verändert hat und weiter verändern wird.

Simone Rufli

NFZ: Thomas Ernst, inwiefern tangiert Künstliche Intelligenz, die KI, das Selbstverständnis von
Medizinern?
Thomas Ernst: Über Jahrhunderte war medizinische Erkenntnis untrennbar mit der Person des Arztes verbunden, bildeten ärztliche Erfahrung, Intuition und Verantwortung eine Einheit. Mit der KI wird Wissen nun entkoppelt von der Person. Heute kann die KI Diagnosen vorschlagen, ein System, das weder versteht, noch fühlt.

Mit welchen Folgen?
In gewissen Bereichen wie der Pathologie, Dermatologie oder Radiologie ist KI oft bereits in den Alltag integriert. Aber auch wenn die Maschine Empfehlungen gibt, braucht es jemanden, der die Verantwortung übernimmt. An diesem Punkt bleibt der Arzt bisher unersetzbar, denn nur er kann die Integration in die reale Welt machen, Sachverhalte einordnen und die Verantwortung für den getroffenen Entscheid übernehmen.

Wird es immer mehr ein Miteinander?
Auf jeden Fall. Die Bevölkerung wird immer älter, ist immer länger komplex krank und das treibt die Kosten und den Personalbedarf in die Höhe. Auf der anderen Seite haben wir den Fachkräftemangel und einen starken Kostendruck. KI kann dabei helfen, die Effizienz zu steigern, Personal zu entlasten und Ressourcen für patientenbezogene und wertschöpfende Tätigkeiten zu mobilisieren. Liegt einmal eine KI-basierte Lösung vor, sind die Zusatzkosten für eine Ausdehnung der Anwendung nur noch marginal.

Gibt es bereits entsprechende Angebote?
Es gibt sogar wahnsinnig viele Angebote. Das grosse Problem der Ärzte ist ja, dass sie immer mehr Aufwand haben im administrativen Bereich, den sie oft auch nicht in Rechnung stellen können. Wenn sie davon entlastet werden und dadurch Sinnvolleres machen können, dann haben diese Hilfsmittel grosses Potential. Automatisierte Gesprächsprotokollierung und Berichterstellung, Einsatz- und Ressourcenplanung – das sind Bereiche, wo KI bereits hilfreich ist. Auch in der Radiologie, Dermatologie und Pathologie bei der Bilderkennung hat die KI bereits einen festen Platz. Andererseits gibt es viele Angebote, bei denen man sich fragt, hilft das dem Patienten tatsächlich? Wie steht es um die Qualität des Ergebnisses? Spart es effektiv Kosten?

Fallen Beratungsangebote und Symptome-Checker in diese Kategorie?
Da ist entscheidend, wie das KI-Programm aufgebaut ist. KI-Sprachmodelle können Ihnen zum Beispiel bestens erklären, was ein Grauer Star ist. Geht es medizinisch tiefer, wird es oft problematisch. Dann kommt es darauf an, ob der Mensch in der Lage ist, der KI die richtigen Informationen zur Verfü- gung zu stellen und ob die KI die Informationen in das Individuum integrieren kann. Dabei sind die Datenbasis, der Programmcode und die Transparenz der Entscheidungsfindung zentral. Entscheidungen müssen wiederholbar, gerecht und nachvollziehbar sein. In Grauzonen besteht die Gefahr der Halluzination. Auch ein Arzt kann Zweifel und Unsicherheiten haben, aber er benennt und deklariert sie und grenzt sie zusammen mit dem Patienten ein.

Wo ist der Einsatz von KI nicht sinnvoll?
Geht es zum Beispiel bei einer Krebsdiagnose um die Frage nach der sinnvollsten Therapie, sind Vertrauen, Empathie und psychologisches Gespür des Arztes unerlässlich.

Also wird der Arzt auch in Zukunft das Sagen haben, KI aber immer wichtiger in der Rolle des Assistenten?
Ich denke, so wird es sein. Das erinnert mich an das Moravec-Paradoxon: Schon 1997 schlug ein Computer den Schach-Weltmeister Garry Kasparow. Komplexes Rechnen ist für den Computer leicht. Umgekehrt bleibt das, was für uns selbstverständlich ist, wie z.B. die Integration des Kontextes, für KI schwierig. KI kann Wahrscheinlichkeiten besser berechnen als wir, aber den Menschen wirklich verstehen kann sie nicht, da sie rein probabilistisch, also nach Wahrscheinlichkeiten funktioniert. Am stärksten ist sie deshalb im Zusammenspiel mit dem Menschen: Gemeinsam sind wir besser als die KI allein. Das gilt übrigens auch für das Schachspiel.

Wird das immer so bleiben?
Entscheidung und Verantwortung werden vorerst beim Menschen bleiben. Wenn man sich aber den Fortschritt des autonomen Fahrens vor Augen führt, könnten Zweifel aufkommen, ob das für immer so bleiben wird.

Wie steht es mit dem Datenschutz und der Regulierung?
Da findet eine grosse Diskussion statt. Die Tendenz geht in Richtung Entkoppelung von grossen US-Cloud-Systemen. Je abgekapselter aber der Server, desto weniger effizient die KI-Systeme. Hier entsteht ein Spannungsfeld. Und obwohl das Umfeld hoch reguliert ist, ist man als Patient bei der Benutzung von Apps manchmal etwas ausgeliefert. Sobald der Bereich der Beratung verlassen wird und es in den Bereich der medizinischen Diagnostik oder Therapie übergeht, muss eine Zertifizierung als Medizinalprodukt erfolgen.

Werden sich die Gesundheitskosten längerfristig senken lassen durch den Einsatz von KI?
Ich glaube schon. Vor zwei Jahren staunten wir über Chat-GPT, heute sind schon die ersten KI-Assistenzsysteme im Einsatz. Diese können autonom Rechnungen bezahlen, Medienmitteilungen machen, ein Rundschreiben verfassen, eine Power-Point-Dokumentation erstellen und Termine verschieben. Das alles birgt aber auch Gefahren. Dennoch werden diese Entwicklungen unter kontrollierten Bedingungen unsere Abläufe schon bald fundamental verändern.
(Lacht) Ich sehne mich manchmal nach der Zeit zurück, wo wir mit dem Stethoskop unterwegs waren.