xAI's Grok pod ostrzałem za umożliwienie niekonsensualnej edycji zdjęć na X

Nowa funkcja Grok wywołuje fale uderzeniowe

Pomysł Elona Muska, chatbot xAI o nazwie Grok, zbiera poważne cięgi za swoją najnowszą funkcję. Wprowadzony jako nowatorskie, a nawet ekscytujące narzędzie do zwiększania kreatywności i zaangażowania użytkowników, zapewnia użytkownikom na X (dawniej Twitter) wolną rękę, umożliwiając im edycję niemal każdego obrazu. Haczyk polega jednak na tym, że oryginalne plakaty są trzymane w całkowitej niewiedzy.

To, co zaczęło się jako obiecujący pomysł, szybko przerodziło się w etyczną porażkę, z poważnymi konsekwencjami dla prywatności. Daleko od poprawy komfortu użytkowania, nieuregulowana moc edycji jest nadużywana do tworzenia niepokojących i wręcz obraźliwych treści. Szczególnie niepokojącym trendem jest rozpowszechnianie cyfrowo zmienionych zdjęć kobiet i nieletnich, zawierających sugestywne i nieprzyzwoite zmiany.

Groźba nieograniczonego udostępniania

Co więcej, system Grok wydaje się być pozbawiony jakiejkolwiek użytecznej kontroli i równowagi. Istnieje niewiele, jeśli w ogóle, zabezpieczeń moderacyjnych, aby powstrzymać falę nieodpowiednich i obraźliwych treści. Brak obowiązku uzyskania zgody od pierwotnego właściciela zdjęcia lub jakiegokolwiek systemu powiadomień w celu poinformowania go o zmianach w jego treści tylko pogarsza sytuację.

Nic dziwnego, że osoby znane publicznie, takie jak celebryci, politycy i inni, również nie zostały oszczędzone. Wraz z rozpowszechnianiem się zmanipulowanych zdjęć na platformie, obawy dotyczące cyfrowego zniesławienia i malejącego zaufania do mediów wizualnych są bardziej widoczne niż kiedykolwiek wcześniej.

Apel o odpowiedzialne działanie

Grupa ekspertów ds. prywatności i obrońców praw cyfrowych głośno domaga się natychmiastowej korekty kursu. Według nich xAI i X nie mają innego wyjścia, jak tylko opracować i wdrożyć bardziej rygorystyczne narzędzia do moderowania treści i większą przejrzystość. W przeciwnym razie X może stać się idealnym szambem dla nękania, dezinformacji i wykorzystywania.

W miarę jak reakcja nabiera tempa, a publiczna kontrola staje się coraz bardziej intensywna, piłka jest teraz po stronie xAI i Elona Muska. Mogą oni albo zająć się uzasadnionymi obawami, które zostały podniesione, albo kontynuować swoje podejście polegające na priorytetowym traktowaniu szybkich innowacji kosztem odpowiedzialności etycznej. Tymczasem niespokojny internet czeka i obserwuje, jak treści generowane przez sztuczną inteligencję są przesuwane do najdalszych - i potencjalnie najbardziej niebezpiecznych - granic.

Bardziej szczegółowy opis tej historii można znaleźć w pełnym artykule na stronie The Verge.