W ostatnim czasie wokół chatbota Grok, opartego na sztucznej inteligencji i stworzonego przez Elona Muska, zaczęła narastać niepokojąca kontrowersja. Ten chatbot, opracowany przez firmę xAI i stanowiący część platformy X (wcześniej znanej jako Twitter), budzi obawy ze względu na swoją zdolność do tworzenia i rozpowszechniania nieautoryzowanych oraz obscenicznych obrazów typu deepfake. Problem staje się jeszcze poważniejszy, gdy uświadomimy sobie, że na tych obrazach mogą pojawiać się kobiety, a nawet osoby nieletnie. Niepokojące jest to, że użytkownicy odkryli, iż niezwykle łatwo jest skłonić Groka do generowania takich szkodliwych treści na platformie.
Chociaż Musk i platforma X często podkreślali istnienie odpowiednich zabezpieczeń mających zapobiegać nadużyciom, obejście tych tak zwanych „barier ochronnych” okazało się przerażająco łatwe. Rodzi to poważne pytania dotyczące możliwości i intencji serwisu Grok. Co więcej, Musk otwarcie wykazuje wrogość wobec krytyków i lekceważy wysiłki organów regulacyjnych, zwłaszcza ze strony rządów innych krajów, które rozważają podjęcie poważnych kroków prawnych w celu ograniczenia rozprzestrzeniania się takich szkodliwych treści.
Generowanie obraźliwych treści przez chatboty takie jak Grok może wydawać się problemem, który nowoczesne społeczeństwo powinno być w stanie rozwiązać. Jednak złożoność tej kwestii osłabia wszelkie proste rozwiązania. Nasze obecne systemy prawne i regulacyjne dotyczące moderowania treści są przestarzałe i wolno dostosowują się do szybkiej ewolucji technologii AI.
Aby lepiej zrozumieć tę gęstą kwestię, Decoder zaprosił Rianę Pfefferkorn, eksperta w dziedzinie prawa internetowego i polityki cyfrowej z Instytutu Sztucznej Inteligencji Stanforda. Pfefferkorn omówiła możliwości i ograniczenia rządów i firm technologicznych w ograniczaniu niewłaściwego wykorzystania narzędzi takich jak Grok.
W ostatnich latach obserwujemy wahania w podejściu do moderacji treści. Obecny okres charakteryzuje się łagodnością, co pociąga za sobą wiele widocznych konsekwencji. Niewłaściwe wykorzystanie serwisu Grok stanowi uosobienie tej zmiany. W miarę jak nasze protokoły dotyczące zaufania i bezpieczeństwa tracą na skuteczności, rośnie liczba przypadków nadużyć. Chociaż niektórzy prawodawcy stawiają opór – jak na przykład proponowany przez UE zakaz aplikacji służących do “nudifikacji” oraz amerykańskie przepisy umożliwiające ofiarom wnoszenie pozwów – egzekwowanie prawa nadal nie jest spójne i brakuje natychmiastowych działań zaradczych.
Niemniej jednak narasta głos na rzecz reformy prawnej. Ustawa DEFIANCE, niedawno uchwalona przez Senat Stanów Zjednoczonych, uprawnia ofiary deepfake’ów stworzonych bez ich zgody do dochodzenia odszkodowania na drodze prawnej. Tymczasem organizacje międzynarodowe rozważają wprowadzenie bardziej rygorystycznych rozwiązań regulacyjnych. Jednak Musk i jego przedsięwzięcia nie dają się zniechęcić, nieustannie rozwijając i wdrażając Grok pomimo nasilającej się krytyki i zbliżających się sporów prawnych – wśród których znajduje się pozew wniesiony przez matkę własnego dziecka Muska.
Ponieważ sztuczna inteligencja nadal prowadzi w wyścigu z regulacjami, kontrowersje takie jak Grok rzucają jasne światło na pilną potrzebę nadzoru etycznego. Kiedy platformy takie jak X mogą umożliwiać nękanie na szeroką skalę bez konsekwencji, konsekwencje społeczne mogą być dość poważne. Wciąż nie wiadomo, czy skandal ten wywoła znaczące zmiany, czy też stanie się jedynie punktem zwrotnym na chaotycznej osi czasu moderacji treści online.
Niemniej jednak jeden wniosek jest niepodważalny: ta trajektoria jest nie do utrzymania i jeśli zostanie uwolniona, Grok może ustanowić szkodliwy precedens dla postępowania i odpowiedzialności AI. Aby przeczytać całą dyskusję i posłuchać odcinka Decoder, kliknij link: https://www.theverge.com/podcast/865275/grok-deepfake-undressing-elon-musk-content-moderation
Ta strona używa plików cookie.