Neue Methode schützt Kinder vor illegalen, KI-generierten Inhalten

Die Sicherheit von KI durch innovative Techniken revolutionieren

Die zunehmende Beliebtheit und Zugänglichkeit generativer künstlicher Intelligenz hat zu einer Flut frei verfügbarer Modelle geführt. Diese anpassungsfähigen und flexiblen Modelle lassen sich für eine Vielzahl von Aufgaben einsetzen, darunter auch die Erstellung künstlerischer Produktdarstellungen. Doch diese Entwicklung hat auch eine beängstigende Kehrseite. Gerade ihre Zugänglichkeit macht sie zu einem potenziellen Werkzeug für Kriminelle. Stellen Sie sich vor, diese KI-Systeme würden so manipuliert, dass sie illegale Inhalte generieren, darunter Hassreden oder – schlimmer noch – Material über sexuellen Kindesmissbrauch (CSAM). Laut dem National Center for Missing and Exploited Children wurden im Jahr 2025 mehr als 1,5 Millionen Fälle von KI-generiertem CSAM gemeldet – ein beunruhigender Anstieg gegenüber 67.000 Fällen im Jahr 2024.

Ingenieure testen KI-Modelle in der Regel, indem sie ihnen Eingaben geben und deren Ergebnisse überprüfen. Bei sensiblen Themen wie CSAM ist dieser Ansatz in den USA jedoch rechtlich nicht gangbar. Hier kommt das Team von MIT-Wissenschaftlern – Vinith Suriyakumar, Ashia Wilson und Marzyeh Ghassemi – ins Spiel, das mit Thorn zusammenarbeitet, einer gemeinnützigen Organisation, die sich auf den Schutz von Kindern vor digitaler Ausbeutung konzentriert. Sie haben eine bahnbrechende Lösung für dieses Dilemma vorgeschlagen.

Der bahnbrechende Ansatz

Dieses Expertenteam bietet einen innovativen Prüfungsansatz, bei dem der Schwerpunkt eher auf der genauen Untersuchung der inneren Funktionsweise des Modells als auf dessen Output liegt. Diese Methode, die eine eingehende Analyse verborgener Darstellungen beinhaltet, lässt zuverlässig feststellen, ob ein Modell darauf ausgelegt ist, schädliche Bilder zu erzeugen. Der Erfolg dieser Technik wurde unter Beweis gestellt, als sie Modelle identifizierte, die speziell darauf ausgelegt waren, CSAM zu generieren – und das mit einer unglaublichen Genauigkeit von 100%. Hier liegt ein enormes Potenzial – stellen Sie sich vor, man hätte die Möglichkeit, schädliche Modelle bereits im Anfangsstadium zu kennzeichnen oder deren Hochladen zu verhindern.

Dieser Ansatz könne den Umgang mit Open-Source-Modellen revolutionieren, sagt Suriyakumar, der bahnbrechende Möglichkeiten für Plattformen, die diese Modelle hosten, sowie für die Strafverfolgungsbehörden bei der Beurteilung der Fähigkeit eines Modells zur Generierung illegaler Inhalte sieht. In Zusammenarbeit mit der Boston University und Thorn stellte das MIT-Forschungsteam seine Ergebnisse erstmals auf dem Workshop “Trustworthy AI for Good” im Rahmen der International Conference on Machine Learning vor.

Warum ist das wichtig? In einer Zeit, in der die Feinabstimmung generativer KI-Modelle für bestimmte Aufgaben zum Kinderspiel geworden ist, hat dieser Prozess auch eine finstere Seite. Er erleichtert es böswilligen Nutzern, hochwertige illegale Inhalte zu erstellen. Die Überprüfung dieser Modelle auf schädliche Inhalte ist nicht nur eine Herausforderung, sondern kann auch erhebliche psychische Risiken für die menschlichen Prüfer mit sich bringen. Hier kommt Suriyakumars innovativer Ansatz besonders zum Tragen. Er verzichtet auf herkömmliche Werkzeuge und bietet eine nicht-generative Lösung, die sich auf die durch den LoRA-Algorithmus während der Feinabstimmungsphase des Modells herbeigeführten Veränderungen konzentriert.

Der spannende Weg, der vor uns liegt

Die als „Gaussian Probing“ bezeichnete Technik erzeugt niemals Bilder. Stattdessen bearbeitet und analysiert sie Zufallsdaten innerhalb der mehrschichtigen internen Struktur des Modells und bietet so einen tiefen Einblick darin, wie ein Modell angepasst wurde. Die Präzision dieser Methode war in Tests unübertroffen: Schädliche Modelle wurden mit absoluter Genauigkeit identifiziert. Ashia Wilson betont die dringende Notwendigkeit, die Sicherheit von Kindern vor KI-bezogenen Bedrohungen zu gewährleisten, und äußert die Hoffnung, dass die Arbeit des Teams diesem Thema noch mehr Aufmerksamkeit verschaffen wird.

Mit Blick auf die Zukunft sprühen die Forscher vor Plänen und Möglichkeiten. Sie beabsichtigen, ihre Methode an einer größeren Bandbreite von Modellvarianten zu testen und zu prüfen, wie effektiv sie schädliche Fähigkeiten in Basismodellen erkennen kann, bevor diese optimiert werden. Marzyeh Ghassemi, eine der Teamleiterinnen, ist zuversichtlich, dass ihre Arbeit tiefgreifende Auswirkungen haben wird und einen weltweiten Fortschritt im Bereich der Kindersicherheit bedeutet.

Weitere Informationen findest du im Originalartikel. hier. Wenn Sie daran interessiert sind, das Potenzial von KI für Ihr Unternehmen zu nutzen, besuchen Sie implementi.ai um die Möglichkeiten auszuloten.