Aplikacje AI ‘Nudify’ zalewają sklepy z aplikacjami pomimo rosnących obaw o niekonsensualne Deepfakes

Narzędzia do edycji obrazów AI: Etyczne bagno

Ochrona przed niewłaściwym wykorzystaniem technologii sztucznej inteligencji do tworzenia nieseksualnych obrazów o charakterze jednoznacznie seksualnym staje się coraz bardziej herkulesowym zadaniem. W rzeczywistości nowy raport ujawnia, że pomimo pewnych środków zapobiegawczych, na głównych platformach utrzymuje się wiele aplikacji “nudify”. Rodzi to obawy, że problem ten jest znacznie bardziej rozpowszechniony, niż się wydaje.

Godne uwagi dochodzenie przeprowadzone przez Tech Transparency Project (TTP) rzuciły światło na ten niepokojący trend. Stwierdzono, że zarówno Google, jak i Apple hostują zaskakującą liczbę takich aplikacji - 55 w sklepie Google Play i 48 w App Store firmy Apple. Aplikacje te wykorzystują sztuczną inteligencję do cyfrowego rozbierania kobiet, co jeszcze bardziej pogłębia obawy o etyczne wykorzystanie sztucznej inteligencji.

Problem na ogromną skalę, giganci technologiczni na gorącym uczynku

Statystyki sprawiają, że jest to nieprzyjemna lektura - te aplikacje zostały pobrane ponad 705 milionów razy na całym świecie, generując ogromny przychód w wysokości $117 milionów. Podkreśla to coś więcej niż tylko skalę problemu; istnieje rażący problem związany z niekonsensualnymi, seksualizowanymi treściami, które są łatwo dostępne za jednym kliknięciem przycisku.

Podczas gdy zarówno Apple, jak i Google mają ścisłe zasady zabraniające treści o charakterze jednoznacznie seksualnym i ich wykorzystywania, trwałość tych aplikacji mówi wiele o systematycznych słabościach w egzekwowaniu tych zasad. Giganci technologiczni są teraz pod presją, aby ponownie ocenić, w jaki sposób te aplikacje prześlizgują się przez wirtualne szczeliny i trafiają w ręce milionów użytkowników.

Pilna potrzeba prawdziwych zmian

Chociaż edytor obrazów AI Grok był centralnym punktem zainteresowania mediów, raport TTP potwierdza, że problem jest znacznie większy i nie ogranicza się do jednej platformy lub narzędzia. Kwitnący rynek takich aplikacji wskazuje na większe niedopatrzenia systemowe i niepokojący apetyt na narzędzia, które umożliwiają cyfrowe nękanie.

Teraz, bardziej niż kiedykolwiek, rośnie chór zwolenników, organizacji zajmujących się prawami cyfrowymi i społeczności użytkowników, domagających się natychmiastowych działań naprawczych. Ta niepokojąca dostępność takich aplikacji przyczynia się do toksycznego środowiska online, szczególnie dla kobiet. Wzywa się do poprawy regulacji, rygorystycznego procesu weryfikacji aplikacji i solidnych zabezpieczeń dla użytkowników.

Aby dogłębnie zrozumieć tę kwestię, zapoznaj się z pełną analizą na stronie The Verge.