aktueller Artikel<\/a>, erkl\u00e4rt er, wie Datenverzerrungen, insbesondere bei klinischen Daten, die haupts\u00e4chlich von wei\u00dfen M\u00e4nnern erhoben werden, zu Ineffizienzen in KI-Systemen f\u00fchren k\u00f6nnen, wenn sie auf vielf\u00e4ltigere Bev\u00f6lkerungsgruppen angewendet werden. Zum Beispiel \u00fcbersch\u00e4tzen Pulsoximeter oft die Sauerstoffs\u00e4ttigung bei People of Color, da diese in klinischen Studien unterrepr\u00e4sentiert sind. Dies ist nur die Spitze des Eisbergs, denn es gibt unz\u00e4hlige weitere F\u00e4lle, in denen medizinische Ger\u00e4te und Datensysteme die Vielfalt der Bev\u00f6lkerung \u00fcbersehen, was zu verzerrten Ergebnissen und potenziell sch\u00e4dlichen Entscheidungen f\u00fchrt.<\/p>\nEin weiterer entscheidender Punkt ist die Verwendung elektronischer Gesundheitsakten (EHR) als Grundlage f\u00fcr KI-Modelle. Obwohl sie ein wesentlicher Bestandteil der Medizin sind, waren sie nie als lernende Systeme gedacht, und sie sind voll von Ungereimtheiten und Verzerrungen. Celi ist jedoch kein Schwarzmaler, sondern pl\u00e4diert daf\u00fcr, die vorhandenen Daten sinnvoll zu nutzen, anstatt die gesamte EHR-Infrastruktur zu ersetzen - was derzeit nicht m\u00f6glich ist. Gl\u00fccklicherweise werden derzeit innovative Ans\u00e4tze wie Transformatormodelle erforscht, um Zusammenh\u00e4nge zwischen Laborergebnissen, Vitaldaten und Behandlungen besser zu verstehen. Dieser faszinierende Ansatz k\u00f6nnte dazu beitragen, die Auswirkungen fehlender oder verzerrter Daten zu verringern, die h\u00e4ufig durch soziale Determinanten der Gesundheit und implizite Voreingenommenheit der Anbieter beeinflusst werden.<\/p>\n
Die Unzul\u00e4nglichkeiten angehen und das Lernen maximieren<\/h4>\n
Die Herausforderungen werden deutlich, wenn man Celis Erfahrungen mit der Lehre von KI im Gesundheitswesen betrachtet. Seit seinem Start im Jahr 2016 stellte sein MIT-Team fest, dass den Studenten beigebracht wurde, Modelle im Hinblick auf die statistische Leistung zu optimieren, anstatt die Integrit\u00e4t der Daten zu hinterfragen. Eine \u00dcberpr\u00fcfung von 11 Online-Kursen machte das Ausma\u00df dieses Problems deutlich: Nur f\u00fcnf Kurse sprachen \u00fcber Datenverzerrungen, und nur zwei boten ausf\u00fchrliche Diskussionen zu diesem Thema. Da die KI im Gesundheitswesen immer mehr Fu\u00df fasst, liegt es an den Ausbildern, daf\u00fcr zu sorgen, dass die Studierenden nicht nur Modelle erstellen, sondern auch die ihnen zugrunde liegenden Daten hinterfragen k\u00f6nnen. Um diese Kluft zu \u00fcberbr\u00fccken, muss der Schwerpunkt von der reinen Modellbildung auf das Verst\u00e4ndnis der Daten verlagert werden - ein Bereich, der nach Ansicht von Celi mindestens die H\u00e4lfte der Kursinhalte ausmachen sollte.<\/p>\n
Eine Initiative, die dabei hilft, dieses R\u00e4tsel zu l\u00f6sen, ist das MIT-Konsortium f\u00fcr kritische Daten. Seit 2014 veranstaltet es internationale Datathons. Bei diesen Veranstaltungen kommen Kliniker, Datenwissenschaftler und Fachleute aus dem Gesundheitswesen zusammen, um gemeinsam lokale Datens\u00e4tze zu untersuchen und Gesundheit und Krankheit im einzigartigen kulturellen und systematischen Kontext der jeweiligen Region zu verstehen. Diese Zusammenarbeit inspiriert ein Umfeld, in dem kritisches Denken organisch gedeiht.<\/p>\n
Die Unvollkommenheit von Daten zu akzeptieren, kann auch ein Schritt zur Verbesserung sein, wenn auch ein schwieriger. Ein gutes Beispiel ist die MIMIC-Datenbank, bei der es mehr als 10 Jahre dauerte, bis ein brauchbares Schema formuliert war, was vor allem darauf zur\u00fcckzuf\u00fchren war, dass die Nutzer die M\u00e4ngel erkannten und auf sie hinwiesen. Celi erinnert an dieser Stelle daran, dass auch ohne alle Antworten die Menschen dazu inspiriert werden k\u00f6nnen, die richtigen Fragen zu stellen, und dass dies einen entscheidenden Unterschied machen kann. Studenten und Forscher, die sich mit der Entwicklung von KI im Gesundheitswesen befassen, m\u00fcssen sich ihres transformativen Potenzials und der damit einhergehenden ethischen Verantwortung bewusst bleiben.<\/p>\n
Ein ausf\u00fchrlicheres Gespr\u00e4ch mit Leo Anthony Celi zu diesem Thema finden Sie unter MIT-Nachrichten<\/a>.<\/p>","protected":false},"excerpt":{"rendered":"An influx of students pursuing courses in artificial intelligence (AI) for healthcare brightens the prospect of revolutionizing medical diagnostics and treatment recommendations yearly. Despite this excitement, one area of concern remains under-addressed\u2014educating students on the critical importance of assessing the quality and biases inherent in the training data used to develop these AI models. The Unseen Shortcomings in Healthcare Data and the Role of AI Education Wonderfully highlighted by Leo Anthony Celi, an accomplished physician and senior research scientist at MIT’s Institute for Medical Engineering and Science, this oversight in AI education may create issues down the line. In a […]<\/p>\n","protected":false},"author":4,"featured_media":5650,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[47,51],"tags":[],"class_list":["post-5649","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-news","category-tutorial","post--single"],"_links":{"self":[{"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/posts\/5649","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/comments?post=5649"}],"version-history":[{"count":0,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/posts\/5649\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/media\/5650"}],"wp:attachment":[{"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/media?parent=5649"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/categories?post=5649"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/tags?post=5649"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}