Nowa metoda chroni dzieci przed nielegalnymi treściami generowanymi przez sztuczną inteligencję

Przekształcanie bezpieczeństwa sztucznej inteligencji dzięki innowacyjnym technikom

Rosnąca popularność i dostępność generatywnej sztucznej inteligencji doprowadziła do pojawienia się na rynku wielu bezpłatnych modeli. Modele te, charakteryzujące się elastycznością i możliwością dostosowania, mogą być wykorzystywane do szerokiego zakresu zadań, w tym do tworzenia artystycznych wizualizacji produktów. Jednak zjawisko to ma również swoją przerażającą stronę. Ich dostępność sprawia, że stają się one potencjalnym narzędziem w rękach osób o złych zamiarach. Wyobraźmy sobie, że systemy AI zostały zmodyfikowane w celu generowania nielegalnych treści, w tym mowy nienawiści lub, co gorsza, materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM). Według Narodowego Centrum ds. Zaginionych i Wykorzystywanych Dzieci w 2025 r. zgłoszono ponad 1,5 miliona przypadków materiałów przedstawiających seksualne wykorzystywanie dzieci wygenerowanych przez sztuczną inteligencję, co stanowi niepokojący wzrost w porównaniu z 67 000 przypadków w 2024 r.

Inżynierowie zazwyczaj testują modele sztucznej inteligencji, podając im polecenia i sprawdzając uzyskane wyniki. Jednak w przypadku tak delikatnych kwestii, jak CSAM, takie podejście jest w Stanach Zjednoczonych prawnie niemożliwe. W tym miejscu do akcji wkracza zespół naukowców z MIT – Vinith Suriyakumar, Ashia Wilson i Marzyeh Ghassemi – współpracujący z organizacją Thorn, organizacją non-profit zajmującą się ochroną dzieci przed wykorzystywaniem w sieci. Zaproponowali oni przełomowe rozwiązanie tego dylematu.

Podejście, które zmienia zasady gry

Ten zespół ekspertów proponuje innowacyjne podejście do audytu, które kładzie nacisk na dogłębną analizę wewnętrznego działania modelu, a nie na to, co on generuje. Metoda ta, polegająca na szczegółowej analizie ukrytych reprezentacji, pozwala wiarygodnie ustalić, czy model został zaprojektowany w celu generowania szkodliwych obrazów. Skuteczność tej techniki została potwierdzona, gdy wykryła ona modele specjalnie dostosowane do generowania CSAM z niesamowitą dokładnością wynoszącą 100%. Drzemie w tym ogromny potencjał – wyobraź sobie możliwość oznaczania szkodliwych modeli lub zapobiegania ich przesyłaniu już na samym początku.

“To podejście może zrewolucjonizować sposób, w jaki radzimy sobie z modelami open source” – twierdzi Suriyakumar, który dostrzega przełomowe możliwości zarówno dla platform udostępniających te modele, jak i dla organów ścigania w zakresie oceny zdolności modelu do generowania treści niezgodnych z prawem. Dzięki stałej współpracy z Uniwersytetem Bostońskim i organizacją Thorn zespół badawczy MIT zaprezentował swoje wyniki podczas warsztatów „Trustworthy AI for Good” w ramach Międzynarodowej Konferencji poświęconej uczeniu maszynowemu.

Dlaczego jest to ważne? W czasach, gdy dostosowywanie generatywnych modeli sztucznej inteligencji do konkretnych zadań stało się dziecinnie proste, proces ten ma również swoją mroczną stronę. Ułatwia on złośliwym użytkownikom tworzenie wysokiej jakości nielegalnych treści. Sprawdzanie tych modeli pod kątem szkodliwych treści jest nie tylko trudne, ale może również stanowić poważne ryzyko psychologiczne dla osób oceniających. Właśnie w tym zakresie innowacyjne podejście Suriyakumara naprawdę się wyróżnia. Odchodzi ono od tradycyjnych narzędzi, oferując rozwiązanie niegeneratywne, skupiające się na modyfikacjach wprowadzonych przez algorytm LoRA podczas fazy dostrajania modelu.

Ekscytująca droga przed nami

Technika ta, znana jako „Gaussian probing”, nigdy nie generuje obrazów. Zamiast tego manipuluje losowymi danymi w wielowarstwowej strukturze wewnętrznej modelu i analizuje je, zapewniając dogłębny wgląd w sposób, w jaki model został dostosowany. Podczas testów metoda ta wykazała się niezrównaną precyzją, identyfikując szkodliwe modele z doskonałą dokładnością. Ashia Wilson podkreśla pilną potrzebę dbania o bezpieczeństwo dzieci przed zagrożeniami związanymi ze sztuczną inteligencją, wyrażając nadzieję, że praca zespołu sprawi, że kwestia ta zyska większą uwagę.

Patrząc w przyszłość, naukowcy tętnią energią, snując plany i rozważając możliwości. Zamierzają przetestować swoją technikę na szerszym zestawie wariantów modeli oraz ocenić jej skuteczność w wykrywaniu szkodliwych zdolności w modelach bazowych, zanim zostaną one zmodyfikowane. Marzyeh Ghassemi, jedna z liderów zespołu, ma nadzieję, że ich praca wywrze głęboki wpływ, oznaczający globalny krok naprzód w kierunku bezpieczeństwa dzieci.

Aby uzyskać więcej informacji, zapoznaj się z oryginalnym artykułem prasowym tutaj. Jeśli chcesz wykorzystać potencjał sztucznej inteligencji w swojej firmie, odwiedź stronę implementi.ai aby zbadać możliwości.