Google sah sich k\u00fcrzlich mit kritischen Fragen und Kritik konfrontiert, nachdem in einem investigativen Bericht von The Guardian<\/em> in diesem Monat. Es fallen beunruhigende Erkenntnisse \u00fcber die KI-gest\u00fctzten medizinischen \u00dcbersichten von Google auf, die bei sensiblen gesundheitsbezogenen Suchanfragen, die an prominenter Stelle in den Suchergebnissen erscheinen, besorgniserregende, ungenaue und potenziell sch\u00e4dliche Ratschl\u00e4ge geben.<\/p>\n Die F\u00e4lle, die Alarmglocken l\u00e4uten lassen, sind nicht nur harmlose Fehlinformationen. Es handelt sich um F\u00e4lle, die alarmierende Folgen haben k\u00f6nnten. Ein besonders eklatanter Fehler betraf Empfehlungen f\u00fcr Patienten mit Bauchspeicheldr\u00fcsenkrebs. Die KI von Google riet ihnen, auf fettreiche Lebensmittel zu verzichten. Mediziner wiesen umgehend darauf hin, dass dieser Rat nicht nur falsch, sondern auch lebensgef\u00e4hrlich sei. In einer seltsamen Wendung der Realit\u00e4t wird \u00fcblicherweise behauptet, dass Patienten, die mit Bauchspeicheldr\u00fcsenkrebs zu k\u00e4mpfen haben, sich fettreich ern\u00e4hren sollten \u2013 eine Methode, die dazu dient, w\u00e4hrend der Behandlung Gewicht und Kraft aufzubauen und zu erhalten. <\/p>\n Doch damit waren die Warnsignale noch nicht ersch\u00f6pft. In einem weiteren beunruhigenden Fall verbreitete die KI falsche Informationen zur Leberfunktion \u2013 auch wenn die genauen Details noch nicht vollst\u00e4ndig bekannt sind. Medizinische Fachkr\u00e4fte betonten, dass solche fehlerhaften Ratschl\u00e4ge verheerende Folgen haben k\u00f6nnten, insbesondere wenn Patienten sich auf von KI generierte Zusammenfassungen verlassen, anstatt den Rat qualifizierter medizinischer Fachkr\u00e4fte einzuholen.<\/p>\n Angesichts der zunehmenden \u00f6ffentlichen Emp\u00f6rung und der Kritik aus medizinischen Kreisen scheint Google die besonders gravierenden dieser KI-generierten Zusammenfassungen diskret entfernt zu haben. Ohne eine offizielle Ank\u00fcndigung oder eine detaillierte Erkl\u00e4rung zu diesen \u00c4nderungen haben Nutzer festgestellt, dass diese bedenklichen Zusammenfassungen nun nicht mehr in den Suchergebnissen erscheinen.<\/p>\n Die Folgen dieses Vorfalls entfachen erneut die Debatte um die zunehmende und umstrittene Rolle, die KI-Tools bei der Gewinnung und Bereitstellung medizinischer Informationen spielen. W\u00e4hrend KI das Versprechen birgt, den Zugang zu Wissen zu demokratisieren, droht die Gefahr, dass Falschinformationen weiter angeheizt werden \u2013 insbesondere in kritischen Bereichen wie dem Gesundheitswesen. Im Rahmen der fortlaufenden Bem\u00fchungen, KI verst\u00e4rkt in digitale Plattformen zu integrieren, werden die Forderungen nach Transparenz, Expertenbewertungen und Rechenschaftspflicht immer lauter.<\/p>\n Mit Gegenreaktionen umgehen: Googles Reaktion <\/h5>\n
KI im Gesundheitswesen: Ein zweischneidiges Schwert?<\/h5>\n