Aplikacje AI ‘Nudify’ zalewają sklepy z aplikacjami pomimo rosnących obaw o niekonsensualne Deepfakes

Narzędzia do edycji obrazów AI: Etyczne bagno

Ochrona przed niewłaściwym wykorzystaniem technologii sztucznej inteligencji do tworzenia nieseksualnych obrazów o charakterze jednoznacznie seksualnym staje się coraz bardziej herkulesowym zadaniem. W rzeczywistości nowy raport ujawnia, że pomimo pewnych środków zapobiegawczych, na głównych platformach utrzymuje się wiele aplikacji “nudify”. Rodzi to obawy, że problem ten jest znacznie bardziej rozpowszechniony, niż się wydaje.

Godne uwagi dochodzenie przeprowadzone przez Tech Transparency Project (TTP) shed light on this concerning trend. Both Google and Apple were found to host a startling number of these apps – 55 on the Google Play Store and 48 on Apple’s App Store. These apps harness AI to digitally undress images of women, further aggravating worries about the ethical use of AI.

Problem na ogromną skalę, giganci technologiczni na gorącym uczynku

The statistics make for uncomfortable reading – these apps have been downloaded more than 705 million times around the world, generating a massive $117 million in revenue. This underlines more than just the scale of the issue; there’s a glaring problem of nonconsensual, sexualized content being readily available at the click of a button.

Podczas gdy zarówno Apple, jak i Google mają ścisłe zasady zabraniające treści o charakterze jednoznacznie seksualnym i ich wykorzystywania, trwałość tych aplikacji mówi wiele o systematycznych słabościach w egzekwowaniu tych zasad. Giganci technologiczni są teraz pod presją, aby ponownie ocenić, w jaki sposób te aplikacje prześlizgują się przez wirtualne szczeliny i trafiają w ręce milionów użytkowników.

Pilna potrzeba prawdziwych zmian

Though Grok’s AI image editor has been the focal point of media attention, the TTP’s report corroborates that the problem is much larger and isn’t confined to one platform or tool. The flourishing market for such apps points to larger systemic oversights and a troubling appetite for tools that enable digital harassment.

Now, more than ever, there’s a growing chorus from advocates, digital rights organizations and user communities for immediate corrective action. This disturbing accessibility of such apps contributes to a toxic online environment, particularly for women. There’s a call for improved regulation, a stringent app vetting process, and robust safeguards for users.

Aby dogłębnie zrozumieć tę kwestię, zapoznaj się z pełną analizą na stronie The Verge.