Die zunehmende Beliebtheit und Zug\u00e4nglichkeit generativer k\u00fcnstlicher Intelligenz hat zu einer Flut frei verf\u00fcgbarer Modelle gef\u00fchrt. Diese anpassungsf\u00e4higen und flexiblen Modelle lassen sich f\u00fcr eine Vielzahl von Aufgaben einsetzen, darunter auch die Erstellung k\u00fcnstlerischer Produktdarstellungen. Doch diese Entwicklung hat auch eine be\u00e4ngstigende Kehrseite. Gerade ihre Zug\u00e4nglichkeit macht sie zu einem potenziellen Werkzeug f\u00fcr Kriminelle. Stellen Sie sich vor, diese KI-Systeme w\u00fcrden so manipuliert, dass sie illegale Inhalte generieren, darunter Hassreden oder \u2013 schlimmer noch \u2013 Material \u00fcber sexuellen Kindesmissbrauch (CSAM). Laut dem National Center for Missing and Exploited Children wurden im Jahr 2025 mehr als 1,5 Millionen F\u00e4lle von KI-generiertem CSAM gemeldet \u2013 ein beunruhigender Anstieg gegen\u00fcber 67.000 F\u00e4llen im Jahr 2024.<\/p>\n
Ingenieure testen KI-Modelle in der Regel, indem sie ihnen Eingaben geben und deren Ergebnisse \u00fcberpr\u00fcfen. Bei sensiblen Themen wie CSAM ist dieser Ansatz in den USA jedoch rechtlich nicht gangbar. Hier kommt das Team von MIT-Wissenschaftlern \u2013 Vinith Suriyakumar, Ashia Wilson und Marzyeh Ghassemi \u2013 ins Spiel, das mit Thorn zusammenarbeitet, einer gemeinn\u00fctzigen Organisation, die sich auf den Schutz von Kindern vor digitaler Ausbeutung konzentriert. Sie haben eine bahnbrechende L\u00f6sung f\u00fcr dieses Dilemma vorgeschlagen.<\/p>\n
Dieses Expertenteam bietet einen innovativen Pr\u00fcfungsansatz, bei dem der Schwerpunkt eher auf der genauen Untersuchung der inneren Funktionsweise des Modells als auf dessen Output liegt. Diese Methode, die eine eingehende Analyse verborgener Darstellungen beinhaltet, l\u00e4sst zuverl\u00e4ssig feststellen, ob ein Modell darauf ausgelegt ist, sch\u00e4dliche Bilder zu erzeugen. Der Erfolg dieser Technik wurde unter Beweis gestellt, als sie Modelle identifizierte, die speziell darauf ausgelegt waren, CSAM zu generieren \u2013 und das mit einer unglaublichen Genauigkeit von 100%. Hier liegt ein enormes Potenzial \u2013 stellen Sie sich vor, man h\u00e4tte die M\u00f6glichkeit, sch\u00e4dliche Modelle bereits im Anfangsstadium zu kennzeichnen oder deren Hochladen zu verhindern.<\/p>\n
Dieser Ansatz k\u00f6nne den Umgang mit Open-Source-Modellen revolutionieren, sagt Suriyakumar, der bahnbrechende M\u00f6glichkeiten f\u00fcr Plattformen, die diese Modelle hosten, sowie f\u00fcr die Strafverfolgungsbeh\u00f6rden bei der Beurteilung der F\u00e4higkeit eines Modells zur Generierung illegaler Inhalte sieht. In Zusammenarbeit mit der Boston University und Thorn stellte das MIT-Forschungsteam seine Ergebnisse erstmals auf dem Workshop \u201cTrustworthy AI for Good\u201d im Rahmen der International Conference on Machine Learning vor.<\/p>\n
Warum ist das wichtig? In einer Zeit, in der die Feinabstimmung generativer KI-Modelle f\u00fcr bestimmte Aufgaben zum Kinderspiel geworden ist, hat dieser Prozess auch eine finstere Seite. Er erleichtert es b\u00f6swilligen Nutzern, hochwertige illegale Inhalte zu erstellen. Die \u00dcberpr\u00fcfung dieser Modelle auf sch\u00e4dliche Inhalte ist nicht nur eine Herausforderung, sondern kann auch erhebliche psychische Risiken f\u00fcr die menschlichen Pr\u00fcfer mit sich bringen. Hier kommt Suriyakumars innovativer Ansatz besonders zum Tragen. Er verzichtet auf herk\u00f6mmliche Werkzeuge und bietet eine nicht-generative L\u00f6sung, die sich auf die durch den LoRA-Algorithmus w\u00e4hrend der Feinabstimmungsphase des Modells herbeigef\u00fchrten Ver\u00e4nderungen konzentriert.<\/p>\n
Die als \u201eGaussian Probing\u201c bezeichnete Technik erzeugt niemals Bilder. Stattdessen bearbeitet und analysiert sie Zufallsdaten innerhalb der mehrschichtigen internen Struktur des Modells und bietet so einen tiefen Einblick darin, wie ein Modell angepasst wurde. Die Pr\u00e4zision dieser Methode war in Tests un\u00fcbertroffen: Sch\u00e4dliche Modelle wurden mit absoluter Genauigkeit identifiziert. Ashia Wilson betont die dringende Notwendigkeit, die Sicherheit von Kindern vor KI-bezogenen Bedrohungen zu gew\u00e4hrleisten, und \u00e4u\u00dfert die Hoffnung, dass die Arbeit des Teams diesem Thema noch mehr Aufmerksamkeit verschaffen wird.<\/p>\n
Mit Blick auf die Zukunft spr\u00fchen die Forscher vor Pl\u00e4nen und M\u00f6glichkeiten. Sie beabsichtigen, ihre Methode an einer gr\u00f6\u00dferen Bandbreite von Modellvarianten zu testen und zu pr\u00fcfen, wie effektiv sie sch\u00e4dliche F\u00e4higkeiten in Basismodellen erkennen kann, bevor diese optimiert werden. Marzyeh Ghassemi, eine der Teamleiterinnen, ist zuversichtlich, dass ihre Arbeit tiefgreifende Auswirkungen haben wird und einen weltweiten Fortschritt im Bereich der Kindersicherheit bedeutet.<\/p>\n
Weitere Informationen findest du im Originalartikel. hier<\/a>. Wenn Sie daran interessiert sind, das Potenzial von KI f\u00fcr Ihr Unternehmen zu nutzen, besuchen Sie implementi.ai<\/a> um die M\u00f6glichkeiten auszuloten.<\/p>","protected":false},"excerpt":{"rendered":" Transforming AI Safety with Innovative Techniques The increasing popularity and accessibility of generative artificial intelligence has led to an influx of freely available models. These models, adaptable and flexible, can be used for a wide range of tasks, including creating artistic product renderings. However, there’s a frightening underbelly to this. Their accessibility also makes them a potential tool for evildoers. Imagine these AI systems being tweaked to generate illegal content, including hate speech or worse, child sexual abuse material (CSAM). According to the National Center for Missing and Exploited Children, more than 1.5 million instances of AI-generated CSAM were reported […]<\/p>\n","protected":false},"author":4,"featured_media":9176,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[46,47],"tags":[],"class_list":["post-9175","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-automation","category-ai-news","post--single"],"_links":{"self":[{"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/posts\/9175","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/comments?post=9175"}],"version-history":[{"count":0,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/posts\/9175\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/media\/9176"}],"wp:attachment":[{"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/media?parent=9175"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/categories?post=9175"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/de\/wp-json\/wp\/v2\/tags?post=9175"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}