Google entfernt fehlerhafte KI-medizinische Übersichten nach Sicherheitsbedenken

Ein Aufruf zur Vorsicht: Googles Fehltritte in der KI-Medizin

Google sah sich kürzlich mit kritischen Fragen und Kritik konfrontiert, nachdem in einem investigativen Bericht von The Guardian in diesem Monat. Es fallen beunruhigende Erkenntnisse über die KI-gestützten medizinischen Übersichten von Google auf, die bei sensiblen gesundheitsbezogenen Suchanfragen, die an prominenter Stelle in den Suchergebnissen erscheinen, besorgniserregende, ungenaue und potenziell schädliche Ratschläge geben.

Die Fälle, die Alarmglocken läuten lassen, sind nicht nur harmlose Fehlinformationen. Es handelt sich um Fälle, die alarmierende Folgen haben könnten. Ein besonders eklatanter Fehler betraf Empfehlungen für Patienten mit Bauchspeicheldrüsenkrebs. Die KI von Google riet ihnen, auf fettreiche Lebensmittel zu verzichten. Mediziner wiesen umgehend darauf hin, dass dieser Rat nicht nur falsch, sondern auch lebensgefährlich sei. In einer seltsamen Wendung der Realität wird üblicherweise behauptet, dass Patienten, die mit Bauchspeicheldrüsenkrebs zu kämpfen haben, sich fettreich ernähren sollten – eine Methode, die dazu dient, während der Behandlung Gewicht und Kraft aufzubauen und zu erhalten.

Doch damit waren die Warnsignale noch nicht erschöpft. In einem weiteren beunruhigenden Fall verbreitete die KI falsche Informationen zur Leberfunktion – auch wenn die genauen Details noch nicht vollständig bekannt sind. Medizinische Fachkräfte betonten, dass solche fehlerhaften Ratschläge verheerende Folgen haben könnten, insbesondere wenn Patienten sich auf von KI generierte Zusammenfassungen verlassen, anstatt den Rat qualifizierter medizinischer Fachkräfte einzuholen.

Mit Gegenreaktionen umgehen: Googles Reaktion

Angesichts der zunehmenden öffentlichen Empörung und der Kritik aus medizinischen Kreisen scheint Google die besonders gravierenden dieser KI-generierten Zusammenfassungen diskret entfernt zu haben. Ohne eine offizielle Ankündigung oder eine detaillierte Erklärung zu diesen Änderungen haben Nutzer festgestellt, dass diese bedenklichen Zusammenfassungen nun nicht mehr in den Suchergebnissen erscheinen.

KI im Gesundheitswesen: Ein zweischneidiges Schwert?

Die Folgen dieses Vorfalls entfachen erneut die Debatte um die zunehmende und umstrittene Rolle, die KI-Tools bei der Gewinnung und Bereitstellung medizinischer Informationen spielen. Während KI das Versprechen birgt, den Zugang zu Wissen zu demokratisieren, droht die Gefahr, dass Falschinformationen weiter angeheizt werden – insbesondere in kritischen Bereichen wie dem Gesundheitswesen. Im Rahmen der fortlaufenden Bemühungen, KI verstärkt in digitale Plattformen zu integrieren, werden die Forderungen nach Transparenz, Expertenbewertungen und Rechenschaftspflicht immer lauter.

Alle Einzelheiten dazu finden Sie unter, The Verge hat die ganze Geschichte behandelt.