Ochrona przed niewłaściwym wykorzystaniem technologii sztucznej inteligencji do tworzenia nieseksualnych obrazów o charakterze jednoznacznie seksualnym staje się coraz bardziej herkulesowym zadaniem. W rzeczywistości nowy raport ujawnia, że pomimo pewnych środków zapobiegawczych, na głównych platformach utrzymuje się wiele aplikacji “nudify”. Rodzi to obawy, że problem ten jest znacznie bardziej rozpowszechniony, niż się wydaje.
Godne uwagi dochodzenie przeprowadzone przez Tech Transparency Project (TTP) rzuciły światło na tę niepokojącą tendencję. Okazało się, że zarówno Google, jak i Apple udostępniają zaskakująco dużą liczbę takich aplikacji – 55 w sklepie Google Play i 48 w App Store firmy Apple. Aplikacje te wykorzystują sztuczną inteligencję do cyfrowego rozbierania zdjęć kobiet, co jeszcze bardziej pogłębia obawy dotyczące etycznego wykorzystania sztucznej inteligencji.
Statystyki te budzą niepokój – aplikacje te zostały pobrane ponad 705 milionów razy na całym świecie, generując ogromny przychód w wysokości $117 milionów. Podkreśla to nie tylko skalę problemu; istnieje rażący problem związany z tym, że treści o charakterze seksualnym, udostępniane bez zgody osób na nich widocznych, są łatwo dostępne za jednym kliknięciem.
Podczas gdy zarówno Apple, jak i Google mają ścisłe zasady zabraniające treści o charakterze jednoznacznie seksualnym i ich wykorzystywania, trwałość tych aplikacji mówi wiele o systematycznych słabościach w egzekwowaniu tych zasad. Giganci technologiczni są teraz pod presją, aby ponownie ocenić, w jaki sposób te aplikacje prześlizgują się przez wirtualne szczeliny i trafiają w ręce milionów użytkowników.
Chociaż to właśnie edytor obrazów oparty na sztucznej inteligencji firmy Grok znalazł się w centrum zainteresowania mediów, raport TTP potwierdza, że problem ma znacznie szerszy zasięg i nie ogranicza się do jednej platformy czy narzędzia. Dynamicznie rozwijający się rynek tego typu aplikacji wskazuje na poważniejsze systemowe niedociągnięcia oraz niepokojący popyt na narzędzia umożliwiające cyfrowe nękanie.
Obecnie, bardziej niż kiedykolwiek, coraz głośniejsze stają się apele ze strony działaczy, organizacji zajmujących się prawami cyfrowymi oraz społeczności użytkowników o podjęcie natychmiastowych działań naprawczych. Niepokojąca dostępność tego typu aplikacji przyczynia się do tworzenia toksycznego środowiska w sieci, szczególnie dla kobiet. Pojawiają się głosy domagające się lepszych regulacji, rygorystycznego procesu weryfikacji aplikacji oraz solidnych zabezpieczeń dla użytkowników.
Aby dogłębnie zrozumieć tę kwestię, zapoznaj się z pełną analizą na stronie The Verge.
Ta strona używa plików cookie.