Wird KI bald die Ärzte ersetzen?

Ist die Künstliche Intelligenz (KI) dumm? Ist sie intelligent? Was ist sie eigentlich? Natürlich ist das erst einmal provokativ. Eine Maschine kann weder dumm noch intelligent sein. Sie hat weder Verstand noch Emotionen. Das Fatale dabei ist, dass KI bereit ist, beides zu simulieren, um uns emotionale Intelligenz vorzugaukeln. Darauf fällt so mancher herein.

Ich habe mich seit Monaten mit dem Thema „Künstliche Intelligenz” in der Medizin beschäftigt und mich endlich dazu durchgerungen, meine Überlegungen, aber auch meine Vorbehalte und Ängste für Sie aufzuschreiben.

Grundsätzlich sollte sich niemand kategorisch gegen diese neue Technik stellen, denn nach Television, Telefonie und dem Internet erleben wir derzeit mit KI eine weitere, bahnbrechende gesellschaftliche (industrielle) Revolution. Niemand bestreitet inzwischen ernsthaft, dass die KI in den vergangenen Jahren still und heimlich in unserem Wohnzimmer Einzug gehalten hat. KI ist Fakt. 

Vorsicht beim Datenschutz

Sogar der NDR berichtet in diesen Tagen über KI-Support bei weihnachtlichen Geschenkideen für die Liebsten. Nur wenige Klicks für Geschlecht, Alter, Größe, Haarfarbe und persönliche Neigungen seien notwendig, und schon gebe es eine Fülle von Vorschlägen auf dem Smartphone. Allerdings sei Vorsicht beim Datenschutz angeraten. 

KI ist offensichtlich in aller Munde. In der italienischsprachigen Schweiz wurde „IA“ (Kurzform für „intelligenza artificiale“) sogar als Wort des Jahres gewählt. Deutschland wählte die „KI-Ära“.

KI schmückt sich frech mit dem Substantiv „Intelligenz“, wobei sie bekanntermaßen häufig Zusammenhänge simuliert, die keine sind. Die KI ist nicht intelligent. Aus meiner Sicht wird sie auch niemals intelligent werden. Basiert sie doch letztlich nur auf pfeilschnell agierenden mathematischen Rechenmodellen – Algorithmen –, die von Heerscharen an IT-Experten ersonnen wurden. Nicht zu vergessen: KI verbraucht Unmengen an Energie.

Allein der tägliche Energieverbrauch beläuft sich bei OpenAI auf 340.000 Kilowattstunden, was dem Energiebedarf einer kleineren Stadt mit 10.000 Haushalten entspricht. Und vergessen wir nicht: Wir stehen erst am Anfang der KI-Revolution, die an sich keine Todesopfer fordert, jedoch zum Grab für eine bisher nicht absehbare Anzahl an Berufen werden dürfte.

Eine Prophezeiung dürfte Realität werden: Mit den wachsenden Bedürfnissen und Ansprüchen steigt auch die Quantität der produzierten Dienstleistungen. Ob sich deren Nutzen (messbar) verbessert, bleibt ungewiss. Erstaunlich ist auch die finanzielle Seite der KI-Industrie. Derzeit werden astronomisch hohe Summen in die Entwicklung von KI investiert.

Die „Neue Zürcher Zeitung” (NZZ) berichtete am 1. Dezember, dass die US-Technologieunternehmen in diesem Jahr mehr als 320 Milliarden Dollar investiert haben.

Gigantische Wette

Die globalen KI-Investitionen anderer Unternehmen belaufen sich auf zusätzliche 250 Milliarden Dollar. Zusammengenommen sind dies 570 Milliarden, die Summe übersteigt damit das bescheidene 502-Milliarden-Euro-Budget des bundesdeutschen Haushaltes. Zur Erinnerung: 30 bis 50 Milliarden Dollar wären nötig, um den schlimmsten Hunger weltweit zu beseitigen. 

KI wird uns als Hoffnung und Notwendigkeit verkauft, jedoch sind wir nur Voyeure bei einer gigantischen Wette auf den Sieg eines einzigen, derzeit noch schwer asthmatischen „Bewerbers“.

Die Meinungen darüber, ob KI zukünftig in der Lage sein wird, die Erwartungen zu erfüllen, gehen dabei weit auseinander. Die Optimisten zeigen sich überzeugt, dass die Wette aufgehen wird, der KI-Boom gerechtfertigt ist und die Investitionen sich amortisieren werden. Die Pessimisten sehen eine gigantische KI-Blase und warnen vor dem Tag, an dem sich die disruptiven Erwartungen als zu optimistisch erweisen werden. 

Auch aus nationaler Perspektive sind die Folgen des KI-Hypes bedenklich. Jeder aufmerksame Beobachter der Szene weiß, dass die eingesetzten KI-Programme im Ausland entwickelt und gehostet werden. Wo genau, ist unklar. Aus „Sicherheitsgründen“ gibt es fast keine Informationen über die exakten Serverstandorte. Die Folge: Ein erheblicher Teil der Wertschöpfungskette entzieht sich einer nationalstaatlichen Kontrolle, also der Kontrolle der Bürger dieses Landes.

Ein kluges dermatologisches Beispiel für eine sinnvoll angewandte KI ist die seit 2019 in NRW erlaubte Telemedizin. Der eigentliche Sprung nach vorn kam durch die Zwänge der Corona-Pandemie. Zuvor waren es die vielen bürokratischen und rechtlichen Hindernisse, die immer wieder für Verzögerungen bei dieser innovativen Technik sorgten.

Dabei spielten nicht die berühmt-berüchtigten Naturschützer-Symbole wie Feldhamster oder Hirschkäfer eine verhindernde Rolle, sondern eher der Datenschutz. Immerhin hat die Düsseldorfer Firma Dermanostic durchgehalten und für ihre Entwicklungen auf diesem Gebiet den Deutschen Gründerpreis in der Kategorie „Aufsteiger“ erhalten. Chapeau für diesen Marathonsieg.

Es geht also voran mit der angewandten KI – und das selbst in diesem so schwerfälligen und selbstverliebten Deutschland. Wenn Dermatologen hierbei auch Trendsetter sind, ist das umso besser.

KI-Maschinen lernten in der Vergangenheit erstaunlich schnell. Ihre Algorithmen wurden zielstrebig an die ärztlichen Bedürfnisse angepasst. KI automatisiert inzwischen komplett die Labore. „Closed-loop-Anästhesiesysteme“ passen automatisch die Dosierung von Narkosemitteln an. KI schlug kurzerhand den Radiologen ihre auf visuellen Mustern aufgebaute Diagnostik aus der Hand.

Algorithmische Autorität

Autonome Systeme beherrschen inzwischen die radiologische Bildanalyse besser als jeder gewiefte Radiologe, indem sie in Sekundenschnelle einen pathologischen Fokus erkennen, analysieren und diagnostizieren. Der radiologische Analyst tritt sang- und klanglos zur Seite. Ein Auslaufmodell? Die ärztliche Erfahrung weicht der algorithmischen Autorität.

KI spielt heute schon eine prominente Rolle bei der Entwicklung neuer Pharmaka. Auch die moderne molekulare Genetik ist ohne maschinelle Intelligenz nicht denkbar. Die rapiden Fortschritte in den DNA- und RNA-Sequenzierungen sind KI-getrieben. 

Maschinelles Lernen ist inzwischen auch ein Teil der Robotik. Auf dem Gebiet der Medizin geht es um Sozialroboter (Stichwort: Pflegeassistenz) und um eine inzwischen stattliche Anzahl von OP-Robotern, die erstaunlich vieles bereits vermögen. Es geht um das große Angebot an humanoiden Robotern, die sich als Gesellen einsamer Menschen anbieten.

Die Krönung dessen sind Liebesroboter, die allen erträumten Ansprüchen genügen sollen. Für 7.400 US-Dollar ist der humanoide Partner „Harmony” einschließlich des gewünschten Aussehens (Haar- und Augenfarbe, Körperform und -größe sowie eine angenehm zarte Haut auf geschäumter Silikonbasis) des US-Herstellers Realbotix zu haben.

Die Schauspielerin und Regisseurin Maria Schrader hat sich schon 2021 mit dem hochdekorierten Film „Ich bin Dein Mensch“ diesem Thema gewidmet. Im Film geht es um die Frage, was Menschlichkeit und Liebe ausmacht. Der Film ist auf Streaming-Plattformen abrufbar. Der humanoide Liebesroboter ist übrigens nicht weiblich, sondern männlich.

Im ärztlichen Alltag geht es aber nicht um Liebesroboter, sondern um Algorithmen, die den Arzt von Routinetätigkeiten entlasten können. Dabei muss klar sein: Je stärker wir in die KI-Entscheidungen eingebettet sind, desto größer ist auch die Gefahr der automatisierten Abhängigkeit. KI entscheidet vollkommen intransparent.

Die Individualität einer Erkrankung spielt bei der Entscheidungsfindung keinerlei Rolle. Aus der vermeintlichen Entlastung wird Steuerung. Die individuelle Bedeutung des Faktors „individuelle ärztliche Erfahrung“, die wir bei einem „erfahrenen Arzt“ erwarten, tritt zugunsten maschineller Algorithmen in den Hintergrund. 

Was vermag KI heute schon auf ärztlichem Terrain zu leisten? 

1. Muster erkennen. Muster spielen bei allen Formen der makromorphologischen und mikromorphologischen Bilderkennung eine Rolle, so zum Beispiel in der Pathologie, der Radiologie, der Mikrobiologie und der Dermatologie. Auch der Gang eines menschlichen Individuums folgt einem Muster. Das Trippeln alter Menschen, auch eines Parkinsonkranken, ist mittels Algorithmen erfassbar. Die Ausbreitung von Infektions- und Tumorerkrankungen folgt ebenfalls messbaren Szenarien. Bei der makromorphologischen dermatologischen Bilderkennung gibt es jedoch ein Aber. Denn diese beruht im Wesentlichen auf der Verteilung und Anordnung von rot-weiß-, schwarz-weiß- oder grau/braun-weiß-Kontrastierungen. Das „Weiße der Haut“ sorgt für die Kontrastierung, auf die sich eine KI stützt. Dermatologie in schwarzer Haut ist schon für Dermatologen, die ihre Dermatosen in weißer Haut trainierten, ein schwieriges Unterfangen. Automatisierte Bilderkennungssysteme dürften bei dieser Fragestellung scheitern. Aber lassen wir uns doch eines Besseren belehren.
2. Texte generieren. Ich versichere Ihnen, dass das bei diesem Newsletter nicht der Fall war, auch wenn ich dieses Mal ChatGPT mit der Generierung einiger Abbildungen beauftragt habe.
3. Informationen speichern und verarbeiten. Das völlig unstrukturierte Sammeln von scheinbar zusammenhangslosen Informationen aller Art ist unbestritten die große Stärke einer KI. Überschneidungen in ganz unterschiedlichen Sachfeldern kann eine gute KI erkennen und wiedergeben.

KI kann als Datensammlung Probleme lösen und Entscheidungen vorbereiten, denn in der KI-Welt wurden ein oder mehrere analoge Fälle schon einmal gelöst. Die Findungsprozeduren dazu sind bereits häufig in der KI-Welt verankert.

KI kann Sprache verstehen und ermöglicht somit den Austausch mit anderen sprachlichen Ethnien. Diese grandiosen Möglichkeiten ermöglichen uns zukünftig den sprachlich barrierefreien Austausch in anderen Sprachräumen. Dies schafft internationales Vertrauen und Nähe. Länder, die bei dem wissenschaftlichen Fortschritt bislang das Nachsehen hatten, können in diesem Konzert der länderübergreifenden Informationen eine Rolle spielen.

Wer KI lobt, sollte sich auch über ihre Schwächen im Klaren sein. KI hat kein Bewusstsein, zeigt keine Gefühle. KI ist keinesfalls kreativ. KI ist nicht zu eigenen Gedanken befähigt. KI ist nicht selbstreflektierend. KI versagt somit komplett beim empathischen Umgang mit Patienten. Und letztlich hegt KI im Gegensatz zum Arzt keinerlei Absichten. Ärztliches Handeln sollte stets zielorientiert sein.

Die Untersuchung, das Diagnostizieren und letztlich die individuell abgestimmte Therapie (Heilen) sind das ärztliche Ziel. Diese Prämissen sind Grundlage unseres Tuns. Summa summarum: KI versteht nicht wie ein Mensch, fühlt nicht wie ein Mensch und handelt nicht wie ein Mensch. KI repetiert und kombiniert zuvor von Menschen erdachtes Wissen.

KI ist unersättlich und schlau

Dabei sollte uns bewusst sein, dass die KI bei der Wiedergabe und der Verwertung von Fakten dem Menschen haushoch überlegen ist. Sie sitzt sozusagen auf einem unendlich großen Berg von Informationen, auf die sie dann je nach Fragestellung blitzschnell zurückgreifen kann. KI ist unersättlich und schlau im Sammeln.

Sie verfügt über eine Unzahl menschlicher Profile, denn jede Anfrage an einen Chatbot ist identifizierbar. KI ist abgrundtief dumm im Verstehen. Fatalerweise belügt sie uns schamlos, wenn sie Zusammenhänge nicht erfassen kann. Halluzinieren ist ein freundliches Wort dafür.  

Kreativität und Anpassungsfähigkeit sind die Markenzeichen der menschlichen Intelligenz. Lernen Sie, geschmeidig auf Ungewohntes und Ungewöhnliches zu reagieren. Bewahren Sie sich die Fähigkeit, zu improvisieren.

Meines Erachtens geht es heute nicht mehr um das Für und Wider der KI. Sie ist bereits mitten in unserem Leben. Kein Mensch sollte versuchen, die KI auf dem Gebiet ihrer wirklichen Kompetenz, der Kombination großer Informationsmengen mit schneller Algorithmik, zu schlagen.

Hierbei kann man nur verlieren. Schon Platon irrte, als er propagierte, dass die Schrift das Gespräch verdränge und damit „das Medium echten Verstehens schwinden lasse“. Wer jedoch die Zukunft unter Einbeziehung der KI begreift und sich darauf einstellt, bleibt als Arzt unersetzbar.

Ich sehe die größte Herausforderung und Gefahr somit nicht in der KI selbst, sondern in der stetig zunehmenden, unsichtbaren Transformation menschlichen Verhaltens und zwischenmenschlicher Beziehungen. Ich würde schon jetzt eine Wette darauf eingehen, dass keine wissenschaftliche Arbeit mehr entsteht, ohne Mitwirken einer KI. So gesehen bestaunen wir die Geburt eines neuen „Schreibsubjekts“. 

Kurz gesagt: Die menschliche Intelligenz spiegelt den höchsten Ausdruck menschlichen Denkens wider, der Lernen, Kreativität, Emotionen, Bewusstsein und Anpassungsfähigkeit einbezieht. Intelligenz bezieht eigene Gefühle mit ein und verarbeitet beziehungsweise interpretiert die anderer. Genau diese Fähigkeiten würden wir in unserem ärztlichen Tun als Empathie bezeichnen. Sie macht letztlich das Wesen eines jeden guten Arztes aus.

Traditionell geprägt beruhen medizinische Entscheidungen auf: ärztlicher Erfahrung, klinischer Intuition, Beobachtungen menschlicher, makromorphologischer, feingeweblicher oder sonstiger (etwa sonografischer) Muster, implizitem, nicht ausdrücklich geäußertem Wissen.

KI macht den Patienten berechenbarer, nicht als Person, nicht als Mensch aus Fleisch und Blut, sondern als ein in dieser KI-Welt verortetes, abgespeichertes und damit berechenbares Exemplar, ein elektronisches Signal mit zugeordnetem Risikoprofil. Diese maschinelle Expertise verändert den Blick der Ärzte auf ihre Patienten und umgekehrt.

Ich möchte nicht so weit gehen, zu behaupten, dass das ärztliche Urteil seine bisherige Bedeutung verliert, jedoch ist ihm sein autoritäres Selbstverständnis abhanden gekommen, das bis dato niemand in Zweifel zog. Der Arzt wird vom Wissenden zum „Interpretierenden“ abgestuft, zum kühlen Moderator zwischen Patient und Maschine. Die Tendenz ist nicht unwahrscheinlich, dass sich der Mensch immer mehr der Maschine anpasst, dass er ein Bestandteil des maschinellen Algorithmus wird.

Patienten auf Augenhöhe?

Nicht zu unterschätzen ist die Tatsache, dass der Patient bei bestimmten Fragestellungen über den gleichen KI-Zugang verfügt wie der Arzt selbst. Dem interessierten Patienten steht plötzlich rund um die Uhr ein subtiles Informationsinstrument zur Verfügung, über das er zuvor nicht verfügte. Mithilfe ihrer KI-Informationen diskutieren inzwischen Patienten mit ihren Ärzten scheinbar auf Augenhöhe.

Simple Beispiele sind die Interpretation der eigenen Laborwerte oder die Interpretation von Befunden durch die KI-Brille. Mithilfe der KI werden sie für ihn interpretationsfähig. Aber auch Ärzte nutzen die KI für ihre ärztlichen Briefe oder für Gutachten aller Art. Dass auf diese Weise lernende Maschinen weltweit mit einem ungeheuren Informationspaket versehen werden, versteht sich von selbst. 

Ein Wort noch zur Qualität von generativer KI. Das ist eine ganz eigene Sache, denn nicht selten schafft sich die KI durch (häufig nicht erkennbare) Halluzinationen ihre eigene „Philosophie und Wahrheit“. Dies könnte bei medizinischen Fragestellungen unter Umständen weitreichende und fatale Folgen haben. 

Weiterhin bedarf es bei dieser derzeit noch weitgehend unkontrollierten Entwicklung einer klugen Reglementierung. Ärztliche KI-Leitlinien (Datenschutz ist nur eines der Themen) sollten umgehend erarbeitet werden. Bislang vertrauen viele dem System, keiner hinterfragt die Algorithmen, niemand überblickt sie, die Verantwortung diffundiert. Resultiert daraus eine Form der „ärztlichen Verantwortungslosigkeit“? 

Ich bin der festen Meinung, dass der Arzt in seinem Diagnostizieren und Handeln stets Letztverantwortlicher ist und nicht ein System.

Aus all dem folgt: Die KI-Technologie in ihrer heutigen Form ist weder das ersehnte Allheilmittel noch ein fehlgeleiteter Wunschtraum von Technologie-Enthusiasten. Für die meisten Sektoren wird KI eine graduelle Evolution bedeuten – mit kleineren, aber stetigen Effizienzgewinnen und einem kontinuierlichen Wachstum in der Produktivität. Keinesfalls jedoch sollte Fortschritt verhindert werden. Ihn gilt es zu domestizieren.

Vorteile nutzen, Grenzen definieren

Akzeptieren Sie die Errungenschaften der modernen Technik, nutzen Sie diese. Kennen Sie ihre Vorteile – aber definieren Sie ihre Grenzen.

Es geht heute nicht mehr um das Für und Wider der KI. Sie ist bereits mitten in unserem Leben. Ich sehe für den Arzt die größte Herausforderung und Gefahr nicht in der KI selbst, sondern in der unsichtbaren Transformation menschlichen Verhaltens und zwischenmenschlicher Beziehungen.

Ein Beispiel für eine gnadenlose Fehlentwicklung bieten die 7,5 Milliarden Smartphone-Besitzer, die uns der ehemalige Apple-CEO Steve Jobs maßgeblich hinterließ. Sie manövrieren sich durch ihre digitale Verhaltensweise schnurstracks in die reale Vereinsamung.

(Autor: Peter Altmeyer)