"Chronione" obrazy są łatwiejsze, a nie trudniejsze do kradzieży dzięki sztucznej inteligencji

Wszyscy widzieliśmy już, jak sztuczna inteligencja potrafi modyfikować, przerabiać, a nawet całkowicie przekształcać obrazy. To imponujący, a czasami niepokojący pokaz jej możliwości. Chcąc uchronić swoje dzieła przed ingerencją sztucznej inteligencji, wielu artystów sięga po narzędzia ochronne, takie jak PhotoGuard, Mgłaoraz Polewa. Rozwiązania te wprowadzają do obrazów szum przeciwny – niewielkie zmiany, które są niewidoczne dla ludzkiego oka, ale wystarczają, by zmylić systemy sztucznej inteligencji. Szum ten ma na celu uniemożliwienie modelom generatywnym uczenia się lub modyfikowania treści, w tym obrazów i dzieł sztuki objętych prawami autorskimi.

Jednak, jak na ironię, ta strategia obronna mogła nieumyślnie utorować drogę do ingerencji sztucznej inteligencji. Zespół amerykańskich naukowców poddał ostatnio w wątpliwość skuteczność szumu przeciwniczego, a wyniki ich badań sugerują, że może on sprawiać, iż obrazy więcej podatne na ingerencję sztucznej inteligencji. Wykorzystując model Stable Diffusion jako platformę testową, odkryli, że dodana warstwa zabezpieczeń nie zapobiegała ingerencji sztucznej inteligencji – wręcz ją sprzyjała.

Naukowcy przeprowadzili eksperymenty z wykorzystaniem szerokiej gamy dzieł sztuki i fotografii, sprawdzając odporność szumu przeciwniczego poprzez realizację zadań generowania obrazu na podstawie obrazu oraz transferu stylu. Wprowadzali zarówno subtelne, jak i radykalne zmiany, na przykład zamieniając wskazówki typu “Młoda dziewczyna w różowej sukience wchodząca do drewnianej chatki” na “Młody chłopiec w niebieskiej koszuli wchodzący do ceglanego domu” lub “Dwa koty wylegujące się na kanapie”. Niezależnie od konkretnych szczegółów wyniki były uderzająco spójne – “chronione” obrazy regularnie generowały wyniki zgodne z instrukcjami z większą dokładnością niż ich niechronione odpowiedniki.

Naukowcy przypisują ten nieprawdopodobny scenariusz działaniu modeli dyfuzyjnych. Modele te kodują obrazy w przestrzeni ukrytej, a następnie w kilku etapach wprowadzają do nich szum. Generowanie nowych obrazów polega na odwróceniu tego procesu pod kierunkiem podpowiedzi tekstowej. Gdy od samego początku wprowadzany jest szum przeciwny, w przestrzeni ukrytej narasta niepewność. To sprawia, że model w trakcie procesu usuwania szumu w większym stopniu opiera się na instrukcji tekstowej, co dość nieoczekiwanie skutkuje powstaniem obrazu końcowego, który bardziej trafnie odpowiada podanej instrukcji tekstowej.

Wydaje się, że dążąc do zmylenia sztucznej inteligencji, twórcy w rezultacie przyczynili się do poprawy jej wydajności. Te nieoczekiwane odkrycia budzą poważne wątpliwości co do niezawodności metod perturbacji przeciwnikowych jako sposobu ochrony obrazów i podkreślają potrzebę znalezienia alternatywnych rozwiązań. Jednym z możliwych rozwiązań jest C2PA, platforma służąca do śledzenia pochodzenia, która dodaje metadane do obrazów w momencie ich utworzenia. Nie zapewni to jednak ochrony obrazu treść, ale zawiera szereg wskazówek, które pozwalają potwierdzić jego autentyczność.

Pomimo wszelkich starań mających na celu ochronę naszych treści wizualnych, techniczna „magia” zwana szumem przeciwnym może w rzeczywistości przynosić skutek dokładnie odwrotny do tego, w który od dawna wierzyliśmy. W świetle nowych odkryć jasne jest, że musimy ponownie przemyśleć naszą strategię walki z nadużywaniem sztucznej inteligencji w dziedzinie mediów wizualnych. Bardziej szczegółowy opis tego intrygującego badania można znaleźć w oryginalnym artykule na stronie Unite.AI.