Die zunehmende Beliebtheit und Zugänglichkeit generativer künstlicher Intelligenz hat zu einer Flut frei verfügbarer Modelle geführt. Diese Modelle sind anpassungsfähig und flexibel und können für eine Vielzahl von Aufgaben genutzt werden, darunter auch die Erstellung künstlerischer Produktdarstellungen. Allerdings hat dies auch eine beängstigende Kehrseite. Ihre Zugänglichkeit macht sie auch zu einem potenziellen Werkzeug für Übeltäter. Stellen Sie sich vor, diese KI-Systeme würden so manipuliert, dass sie illegale Inhalte generieren, darunter Hassreden oder – schlimmer noch – Material über sexuellen Kindesmissbrauch (CSAM). Laut dem National Center for Missing and Exploited Children wurden im Jahr 2025 mehr als 1,5 Millionen Fälle von KI-generiertem CSAM gemeldet – ein beunruhigender Anstieg gegenüber 67.000 Fällen im Jahr 2024.
Ingenieure testen KI-Modelle in der Regel, indem sie ihnen Eingaben geben und deren Ergebnisse überprüfen. Bei sensiblen Themen wie CSAM ist dieser Ansatz in den USA jedoch rechtlich nicht gangbar. Hier kommt das Team von MIT-Wissenschaftlern – Vinith Suriyakumar, Ashia Wilson und Marzyeh Ghassemi – ins Spiel, das mit Thorn zusammenarbeitet, einer gemeinnützigen Organisation, die sich auf den Schutz von Kindern vor digitaler Ausbeutung konzentriert. Sie haben eine bahnbrechende Lösung für dieses Dilemma vorgeschlagen.
Dieses Expertenteam bietet einen innovativen Prüfansatz, bei dem der Schwerpunkt auf der genauen Untersuchung der inneren Funktionsweise des Modells liegt und nicht auf dessen Ausgabe. Diese Methode, die eine eingehende Analyse verborgener Darstellungen beinhaltet, ermittelt zuverlässig, ob ein Modell darauf ausgelegt ist, schädliche Bilder zu erzeugen. Der Erfolg dieser Technik wurde unter Beweis gestellt, als sie Modelle identifizierte, die speziell darauf ausgelegt waren, CSAM zu generieren – und das mit einer unglaublichen Genauigkeit von 100%. Hier liegt ein enormes Potenzial – stellen Sie sich vor, man hätte die Möglichkeit, schädliche Modelle bereits im Anfangsstadium zu kennzeichnen oder deren Hochladen zu verhindern.
Dieser Ansatz könne den Umgang mit Open-Source-Modellen revolutionieren, sagt Suriyakumar, der bahnbrechende Möglichkeiten für Plattformen, die diese Modelle hosten, sowie für die Strafverfolgungsbehörden bei der Beurteilung der Fähigkeit eines Modells zur Generierung illegaler Inhalte sieht. In Zusammenarbeit mit der Boston University und Thorn stellte das MIT-Forschungsteam seine Ergebnisse erstmals auf dem Workshop “Trustworthy AI for Good” im Rahmen der Internationalen Konferenz für maschinelles Lernen vor.
Warum ist das wichtig? In einer Zeit, in der die Feinabstimmung generativer KI-Modelle für bestimmte Aufgaben zum Kinderspiel geworden ist, hat dieser Prozess auch eine finstere Seite. Er erleichtert es böswilligen Nutzern, hochwertige illegale Inhalte zu erstellen. Die Überprüfung dieser Modelle auf schädliche Inhalte ist nicht nur eine Herausforderung, sondern kann auch erhebliche psychische Risiken für die menschlichen Bewerter mit sich bringen. Hier kommt Suriyakumars innovativer Ansatz voll zur Geltung. Er verzichtet auf herkömmliche Werkzeuge und bietet eine nicht-generative Lösung, die sich auf die durch den LoRA-Algorithmus während der Feinabstimmungsphase des Modells herbeigeführten Veränderungen konzentriert.
Die als „Gaussian Probing“ bekannte Technik erzeugt niemals Bilder. Stattdessen bearbeitet und analysiert sie Zufallsdaten innerhalb der mehrschichtigen internen Struktur des Modells und bietet so einen tiefen Einblick in die Art und Weise, wie ein Modell angepasst wurde. Die Präzision dieser Methode war in Tests unübertroffen: Schädliche Modelle wurden mit absoluter Genauigkeit identifiziert. Ashia Wilson betont die dringende Notwendigkeit, die Sicherheit von Kindern vor KI-bezogenen Bedrohungen zu gewährleisten, und äußert die Hoffnung, dass die Arbeit des Teams diesem Thema noch mehr Aufmerksamkeit verschaffen wird.
Mit Blick auf die Zukunft sprühen die Forscher vor Plänen und Möglichkeiten. Sie beabsichtigen, ihre Methode an einer größeren Bandbreite von Modellvarianten zu testen und zu prüfen, wie effektiv sie schädliche Fähigkeiten in Basismodellen erkennen kann, bevor diese optimiert werden. Marzyeh Ghassemi, eine der Teamleiterinnen, ist zuversichtlich, dass ihre Arbeit tiefgreifende Auswirkungen haben wird und einen weltweiten Fortschritt im Bereich der Kindersicherheit bedeutet.
Weitere Informationen findest du im Originalartikel. hier. Wenn Sie daran interessiert sind, das Potenzial der KI für Ihr Unternehmen zu nutzen, besuchen Sie implementi.ai um die Möglichkeiten auszuloten.
Diese Website verwendet Cookies.