Współczesne firmy wykorzystują narzędzia sztucznej inteligencji oparte na rozmowach, takie jak ChatGPT i Google Gemini, do tworzenia zaawansowanej formy deepfake’ów, które potencjalnie mogą zmienić fabułę przedstawioną na obrazie. Wiąże się to z subtelnymi zmianami gestów, rekwizytów i tła, które nie tylko wprowadzają w błąd ludzkich obserwatorów, ale także oszukują detektory AI. Budzi to nowe obawy dotyczące autentyczności treści wizualnych udostępnianych w Internecie.
Deepfakes, despite being widely associated with direct misuse like political propaganda or explicit non-consensual content, have another side to them. History teaches us that the most influential manipulations usually come in the most subtle forms – a notion that rings true here. Think back to Stalin-era USSR when photo edits were used to erase certain individuals from history. Today’s AI-powered image generation echoes an unsettling similarity to that practice – making alterations to reality, one pixel at a time, rather than just swapping faces.
Unlike traditional deepfakes that project brute digital force, these subtle manipulations bear a psychological aspect akin to ‘gaslighting.’ They are more difficult to detect and possess the potential to gradually shift perceptions. Imagine, a missing stethoscope or a changed background. These minor adjustments may seem negligible, but together they pack the capacity to redefine narratives and disrupt identities.
In response to this emerging threat, researchers from Monash University and Curtin University have introduced MultiFakeVerse – a massive dataset constituted of over 845,000 images featuring menial, people-centered manipulations. Instead of focusing on face swaps or noticeable forgeries, this dataset leverages vision-language models like ChatGPT-4o and Gemini-2.0-Flash to produce context-sensitive edits. These alterations don’t switch the person in the picture but manipulate how they appear, by introducing emotional indications, modifying props, or tweaking the narrative tone of the scene.
Stworzenie tego zbioru danych polegało na wykorzystaniu blisko 87 000 autentycznych obrazów pochodzących z baz danych takich jak EMOTIC, PISC, PIPA i PIC 2.0 oraz wygenerowaniu ponad 758 000 zmodyfikowanych wersji. Każda edycja była skrupulatnie przeprowadzana zgodnie z instrukcjami generowanymi przez sztuczną inteligencję, mającymi na celu subtelną zmianę postrzeganych emocji lub roli osoby na zdjęciu. Gemini-2.0-Flash, jedno z trzech narzędzi wykorzystanych do edycji zdjęć, okazało się najlepsze, zapewniając spójne wyniki bez artefaktów.
Jednak nie da się zaprzeczyć, że mimo iż zarówno ludzie, jak i wiodące systemy wykrywania oparte na sztucznej inteligencji zostały poddane testom z wykorzystaniem tego realistycznego zbioru danych, zdolność do prawidłowej identyfikacji sfałszowanych obrazów wyniosła zaledwie 62% w przypadku obserwatorów ludzkich. Modele sztucznej inteligencji, w tym CnnSpot i SIDA, wykazały słabe wyniki, zwłaszcza w scenariuszach typu zero-shot, często błędnie klasyfikując zmanipulowane obrazy jako autentyczne. Co więcej, nawet po dostrojeniu na zbiorze MultiFakeVerse dokładność wykrywania pozostała na skromnym poziomie, co wskazuje, że obecne systemy wykrywania, trenowane na bardziej oczywistych deepfake'ach, nie są w stanie poradzić sobie z tak subtelnymi zmianami.
Naukowcy wykorzystali wskaźniki takie jak PSNR, SSIM i FID do oceny jakości wizualnej wprowadzonych zmian; wyniki wskazały, że modyfikacje te subtelnie zmieniały znaczenie obrazów, zachowując jednocześnie ich integralność. Po pozyskaniu podpisów z ShareGPT-4V i przeanalizowaniu ich przy użyciu osadzeń Long-CLIP potwierdzono, że niewielkie zmiany, takie jak zmiana rekwizytu lub wyrazu twarzy, mogą znacząco wpłynąć na sposób, w jaki odbiorca interpretuje obraz.
Równocześnie przeprowadzono testy i badania z udziałem uczestników, aby podkreślić ogromne wyzwanie, jakie stanowiły te zmanipulowane obrazy. Uczestnicy często błędnie klasyfikowali obrazy i wydawali się mieć trudności z wskazaniem zmanipulowanych obszarów. Wyniki te potwierdzają, jak łatwo subtelne deepfake’i potrafią umknąć zarówno ludzkiej intuicji, jak i analizie przeprowadzanej przez sztuczną inteligencję.
Wiodące systemy wykrywania fałszerstw zostały przetestowane zarówno w trybie „zero-shot”, jak i w trybie dopracowanym, z wykorzystaniem zbioru danych podzielonego na zestawy szkoleniowe, walidacyjne i testowe. Uzyskane wyniki wykazały, że ponowne szkolenie okazało się pomocne w lokalizowaniu zmanipulowanych obszarów, choć nadal pozostawało to poważną przeszkodą do pokonania.
In conclusion, MultiFakeVerse uncovers a critical vulnerability in how we perceive and safeguard visual truth. As AI-generated content becomes increasingly integrated into our digital lives, it gets harder to distinguish the real from the fake. Although, subtle manipulations might not incite instantaneous uproar, their cumulative effect can potentially erode trust in visual media. It’s a new breed of deepfakes that don’t roar their presence, but whisper it, therein laying the danger.
Po raz pierwszy opublikowano w czwartek, 5 czerwca 2025 r. Oryginalny artykuł można przeczytać [tutaj](https://www.unite.ai/smaller-deepfakes-may-be-the-bigger-threat/).
Ta strona używa plików cookie.