Stellen Sie sich vor, k\u00fcnstliche Intelligenz (KI) w\u00e4re nicht nur unglaublich intelligent, sondern auch \u201cbescheiden\u201d? Das ist gar nicht so abwegig, wie es klingt. KI revolutioniert das Gesundheitswesen und bietet das Potenzial f\u00fcr bahnbrechende Neuerungen bei der Patientendiagnostik und bei personalisierten Behandlungen. Doch es gibt einen Haken. Laut einem internationalen Wissenschaftlerteam unter der Leitung des MIT k\u00f6nnten aktuelle KI-Systeme \u00c4rzte in die Irre f\u00fchren, da sie dazu neigen, \u00fcberm\u00e4\u00dfig selbstbewusste, wenn auch falsche Entscheidungen zu treffen.<\/p>\n
Um diese Risiken zu bew\u00e4ltigen, empfehlen die Forscher, KI-Systeme mit einer Eigenschaft zu programmieren, die normalerweise Menschen vorbehalten ist \u2013 Bescheidenheit. Damit meinen sie, dass diese KI-Systeme so programmiert werden sollten, dass sie erkennen, wenn sie bei ihren Diagnosevorschl\u00e4gen oder Empfehlungen nicht sicher sind. Dies w\u00fcrde die Nutzer dazu veranlassen, bei auftretender Unsicherheit zus\u00e4tzliche Informationen einzuholen.<\/p>\n
\u201cDerzeit nutzen wir KI als Orakel, aber wir k\u00f6nnten KI auch als Coach einsetzen. Wir k\u00f6nnten KI als echten Copiloten nutzen. Das w\u00fcrde nicht nur unsere F\u00e4higkeit verbessern, Informationen abzurufen, sondern auch unsere Handlungsf\u00e4higkeit st\u00e4rken, Zusammenh\u00e4nge herzustellen\u201d, sagt Leo Anthony Celi, leitender Wissenschaftler am Institut f\u00fcr Medizintechnik und -wissenschaften des MIT. Er pl\u00e4diert f\u00fcr einen Rahmen, in dem KI Neugier und Bescheidenheit an den Tag legt und so eine Partnerschaft zwischen \u00c4rzten und KI-Systemen f\u00f6rdert.<\/p>\n
Die potenzielle Gefahr durch \u00fcberm\u00e4\u00dfig selbstbewusste KI-Systeme kann gar nicht hoch genug eingesch\u00e4tzt werden. Sie k\u00f6nnen zu medizinischen Fehlern f\u00fchren, insbesondere wenn Intensivmediziner sich auf eine als zuverl\u00e4ssig wahrgenommene KI verlassen, selbst wenn diese ihrer eigenen Intuition widerspricht. Um dem entgegenzuwirken, geht es darum, der KI menschliche Werte zu vermitteln. Sebasti\u00e1n Andr\u00e9s Cajas Ordo\u00f1ez, der die im BMJ Health and Care Informatics ver\u00f6ffentlichte Studie leitete, erkl\u00e4rt: \u201cWir versuchen, Menschen in diese Mensch-KI-Systeme einzubeziehen und sie dazu anzuregen, gemeinsam zu reflektieren und neue Denkans\u00e4tze zu entwickeln, anstatt isolierte KI-Agenten alles erledigen zu lassen.\u201d<\/p>\n
Teil dieser Zusammenarbeit ist der \u201eEpistemic Virtue Score\u201c, ein vom Team entwickeltes Berechnungsmodul, das sicherstellt, dass KI-Modelle bei der Erstellung diagnostischer Vorhersagen ihre Gewissheit bewerten. Das bedeutet, dass ein KI-System zwar Antworten liefern w\u00fcrde, aber auch eine Warnung ausgeben w\u00fcrde, wenn es dies f\u00fcr notwendig erachtet.<\/p>\n
Ein weiterer wichtiger Schwerpunkt ist die Vielfalt in der KI-Entwicklung. Das Risiko von Verzerrungen und Ausgrenzungen durch KI-Modelle, die auf bestimmten Datens\u00e4tzen trainiert wurden, wird dabei nicht au\u00dfer Acht gelassen. Mit seiner Arbeit zielt das globale Konsortium darauf ab, mehr Sichtweisen einzubeziehen, bestehende Datens\u00e4tze zu hinterfragen und alle relevanten Einflussfaktoren zu erfassen.<\/p>\n
\u201cWir bringen sie dazu, den Datensatz zu hinterfragen. Sind sie von ihren Trainings- und Validierungsdaten \u00fcberzeugt? Glauben sie, dass Patienten \u2013 unbeabsichtigt oder absichtlich \u2013 ausgeschlossen wurden, und wie w\u00fcrde sich das auf das Modell selbst auswirken?\u201d<\/b> fragt Celi. \u201cWir m\u00fcssen bei der Entwicklung von KI bewusster und durchdachter vorgehen, nicht nur im Gesundheitswesen, sondern in allen Bereichen.\u201d<\/b><\/p>\n
Wenn Sie neugierig geworden sind und die M\u00f6glichkeiten der KI-Automatisierung f\u00fcr Ihr Unternehmen erkunden m\u00f6chten, ist dies ein guter Ausgangspunkt: implementi.ai<\/a>. Wenn Sie sich eingehender mit diesem erstaunlichen Sprung in die Zukunft befassen m\u00f6chten, k\u00f6nnen Sie die Originalartikel hier<\/a>.<\/p>","protected":false},"excerpt":{"rendered":" Imagine if Artificial Intelligence (AI) was not only incredibly smart but also \u201chumble\u201d? It\u2019s not as strange as it sounds. AI is revolutionizing the healthcare industry, offering potential game-changers in patient diagnosis and personalised treatments. But there\u2019s a caveat. According to a global team of scientists led by MIT, current AI systems might mislead doctors due to their tendency to make overly confident, although incorrect, decisions. To manage these risks, these researchers recommend programming AI systems with an attribute usually reserved for humans – humility. What they mean is that these AI systems should be programmed to be aware when […]<\/p>\n","protected":false},"author":4,"featured_media":8303,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[46,47],"tags":[],"class_list":["post-8302","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-automation","category-ai-news","post--single"],"_links":{"self":[{"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/posts\/8302","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/comments?post=8302"}],"version-history":[{"count":0,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/posts\/8302\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/media\/8303"}],"wp:attachment":[{"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/media?parent=8302"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/categories?post=8302"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/tags?post=8302"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}