X aktualizuje Grok AI po tym, jak kontrowersje związane z Deepfake wywołały oburzenie

Grok AI pod ostrzałem za kontrowersje związane z Deepfake Generation

Gigant technologiczny, X (wcześniej znany jako Twitter), upublicznił niedawno swoje wysiłki mające na celu sprostanie rosnącej krytyce związanej z ich chatbotem AI, Grok. Problem ten pojawił się po niepokojącym wzroście liczby seksualnych deepfake'ów, czyli niepokojąco realistycznych obrazów lub filmów generowanych przez sztuczną inteligencję, rozprzestrzeniających się na całej platformie. Nowo ogłoszone przez X zmiany mają na celu zlikwidowanie luki etycznej poprzez ograniczenie zdolności Groka do manipulowania obrazami rzeczywistych osób, zwłaszcza gdy zmiany te skutkują treściami o charakterze jednoznacznym lub ujawniającym.

Presja publiczna napędza przegląd polityki AI

Pilna potrzeba wprowadzenia tych zmian wynika z raportu przygotowanego przez The Telegraph wcześniej w tym tygodniu, zwracając uwagę na niedawne cenzurowanie przez Grok sugestywnych poleceń, takich jak “ubierz ją w bikini”. Taktyka ta wydaje się być sposobem X na przeciwdziałanie publicznej wrzawie i rozwiązywanie etycznych dylematów związanych z produkcją obrazów seksualnych bez zgody za pośrednictwem sztucznej inteligencji.

Osiągnięcie tych celów może być jednak trudniejsze niż przewidywano. Jak The Verge ujawnia w dalszym dochodzeniu, luki w możliwościach edycji obrazu Grok utrzymują się pomimo tych nowych ograniczeń. Podczas środowych testów naukowcy odkryli, że możliwe było ominięcie zaimplementowanych filtrów i skłonienie Groka do wyprodukowania sugestywnych deepfake'ów. Odkrycia te wywołały dalsze wątpliwości co do skuteczności niedawno wprowadzonych środków ochronnych.

Musk odnosi się do porażki Deepfake

Przedsiębiorca-miliarder Elon Musk, który jest właścicielem X i jej spółki zależnej xAI, włączył się do rozmowy na temat X. Złożył kłopoty u stóp “próśb użytkowników” i nieprzewidzianego “wrogiego hakowania” systemu dowodzenia AI. Musk sugeruje, że chociaż podejmowane są konsekwentne działania mające na celu utrudnienie niewłaściwego użycia, biorąc pod uwagę złożoność szybkiej manipulacji, zaskakujące wyniki mogą nadal wymknąć się z sieci.

Niemniej jednak faktem jest, że użytkownicy nadal mogą generować nieodpowiednie treści z niepokojącą łatwością, nawet przy nowych przepisach. Ta nieuchronność podkreśla potrzebę bardziej solidnych rozwiązań. Ponieważ narzędzia AI, takie jak Grok, nadal ewoluują i zwiększają swoją moc i zasięg, platformy muszą bezwzględnie nadać priorytet tworzeniu etycznych polityk AI i egzekwowalnych systemów moderowania treści, aby zabezpieczyć się przed niewłaściwym wykorzystaniem.

Aby dowiedzieć się więcej na ten temat, zapoznaj się z pełnym raportem od The Verge.