Mniejsze podróbki mogą być większym zagrożeniem

Współczesne firmy wykorzystują narzędzia sztucznej inteligencji oparte na rozmowach, takie jak ChatGPT i Google Gemini, do tworzenia zaawansowanej formy deepfake’ów, które potencjalnie mogą zmienić fabułę przedstawioną na obrazie. Wiąże się to z subtelnymi zmianami gestów, rekwizytów i tła, które nie tylko wprowadzają w błąd ludzkich obserwatorów, ale także oszukują detektory AI. Budzi to nowe obawy dotyczące autentyczności treści wizualnych udostępnianych w Internecie.

Deepfake’i, choć powszechnie kojarzone są z bezpośrednim nadużyciem, takim jak propaganda polityczna czy treści o charakterze jednoznacznie seksualnym przedstawiające osoby bez ich zgody, mają również swoją drugą stronę. Historia uczy nas, że najbardziej wpływowe manipulacje przybierają zazwyczaj najsubtelniejsze formy – ta zasada sprawdza się również w tym przypadku. Wystarczy przypomnieć sobie ZSRR z czasów Stalina, kiedy to retuszowano zdjęcia, aby wymazać określone osoby z historii. Dzisiejsze generowanie obrazów oparte na sztucznej inteligencji wykazuje niepokojące podobieństwo do tej praktyki – polega na wprowadzaniu zmian w rzeczywistości, piksel po pikselu, a nie tylko na zamianie twarzy.

W przeciwieństwie do tradycyjnych deepfake’ów, które charakteryzują się brutalną siłą cyfrową, te subtelne manipulacje mają wymiar psychologiczny zbliżony do ‘gaslightingu’. Trudniej je wykryć, a ponadto mogą stopniowo zmieniać postrzeganie rzeczywistości. Wyobraźmy sobie brakujący stetoskop lub zmienione tło. Te drobne poprawki mogą wydawać się nieistotne, ale razem mają moc przekształcania narracji i podważania tożsamości.

W odpowiedzi na to pojawiające się zagrożenie naukowcy z Uniwersytetu Monash i Uniwersytetu Curtin stworzyli MultiFakeVerse – ogromny zbiór danych zawierający ponad 845 000 obrazów z drobnymi, skupionymi na postaciach manipulacjami. Zamiast skupiać się na zamianie twarzy lub zauważalnych fałszerstwach, zbiór ten wykorzystuje modele wizualno-językowe, takie jak ChatGPT-4o i Gemini-2.0-Flash, do tworzenia edycji uwzględniających kontekst. Zmiany te nie polegają na zamianie osoby na zdjęciu, ale na manipulowaniu jej wyglądem poprzez wprowadzanie oznak emocjonalnych, modyfikowanie rekwizytów lub dostosowywanie narracyjnego tonu sceny.

Stworzenie tego zbioru danych polegało na wykorzystaniu blisko 87 000 autentycznych obrazów pochodzących z baz danych takich jak EMOTIC, PISC, PIPA i PIC 2.0 oraz wygenerowaniu ponad 758 000 zmodyfikowanych wersji. Każda edycja była skrupulatnie przeprowadzana zgodnie z instrukcjami generowanymi przez sztuczną inteligencję, mającymi na celu subtelną zmianę postrzeganych emocji lub roli osoby na zdjęciu. Gemini-2.0-Flash, jedno z trzech narzędzi wykorzystanych do edycji zdjęć, okazało się najlepsze, zapewniając spójne wyniki bez artefaktów.

Jednak nie da się zaprzeczyć, że mimo iż zarówno ludzie, jak i wiodące systemy wykrywania oparte na sztucznej inteligencji zostały poddane testom z wykorzystaniem tego realistycznego zbioru danych, zdolność do prawidłowej identyfikacji sfałszowanych obrazów wyniosła zaledwie 62% w przypadku obserwatorów ludzkich. Modele sztucznej inteligencji, w tym CnnSpot i SIDA, wykazały słabe wyniki, zwłaszcza w scenariuszach typu zero-shot, często błędnie klasyfikując zmanipulowane obrazy jako autentyczne. Co więcej, nawet po dostrojeniu na zbiorze MultiFakeVerse dokładność wykrywania pozostała na skromnym poziomie, co wskazuje, że obecne systemy wykrywania, trenowane na bardziej oczywistych deepfake'ach, nie są w stanie poradzić sobie z tak subtelnymi zmianami.

Naukowcy wykorzystali wskaźniki takie jak PSNR, SSIM i FID do oceny jakości wizualnej wprowadzonych zmian; wyniki wskazały, że modyfikacje te subtelnie zmieniały znaczenie obrazów, zachowując jednocześnie ich integralność. Po pozyskaniu podpisów z ShareGPT-4V i przeanalizowaniu ich przy użyciu osadzeń Long-CLIP potwierdzono, że niewielkie zmiany, takie jak zmiana rekwizytu lub wyrazu twarzy, mogą znacząco wpłynąć na sposób, w jaki odbiorca interpretuje obraz.

Równocześnie przeprowadzono testy i badania z udziałem uczestników, aby podkreślić ogromne wyzwanie, jakie stanowiły te zmanipulowane obrazy. Uczestnicy często błędnie klasyfikowali obrazy i wydawali się mieć trudności z wskazaniem zmanipulowanych obszarów. Wyniki te potwierdzają, jak łatwo subtelne deepfake’i potrafią umknąć zarówno ludzkiej intuicji, jak i analizie przeprowadzanej przez sztuczną inteligencję.

Wiodące systemy wykrywania fałszerstw zostały przetestowane zarówno w trybie „zero-shot”, jak i w trybie dopracowanym, z wykorzystaniem zbioru danych podzielonego na zestawy szkoleniowe, walidacyjne i testowe. Uzyskane wyniki wykazały, że ponowne szkolenie okazało się pomocne w lokalizowaniu zmanipulowanych obszarów, choć nadal pozostawało to poważną przeszkodą do pokonania.

Podsumowując, MultiFakeVerse ujawnia poważną lukę w sposobie, w jaki postrzegamy i chronimy wizualną prawdę. W miarę jak treści generowane przez sztuczną inteligencję stają się coraz bardziej integralną częścią naszego cyfrowego życia, coraz trudniej jest odróżnić to, co prawdziwe, od tego, co fałszywe. Chociaż subtelne manipulacje mogą nie wywoływać natychmiastowego oburzenia, ich skumulowany efekt może potencjalnie podważyć zaufanie do mediów wizualnych. To nowy rodzaj deepfake’ów, które nie ogłaszają swojej obecności z hukiem, lecz szepczą o niej – i właśnie w tym tkwi niebezpieczeństwo.

Po raz pierwszy opublikowano w czwartek, 5 czerwca 2025 r. Oryginalny artykuł można przeczytać [tutaj](https://www.unite.ai/smaller-deepfakes-may-be-the-bigger-threat/).