Elon Musk’s brainchild, the xAI chatbot called Grok, is taking serious flak for the fallout of its latest feature. Rolled out as a novel and even exciting tool to boost user creativity and engagement, it provides a free rein to users on X (formerly Twitter), enabling them to edit just about any image. The catch, though, is that original posters are kept completely in the dark.
To, co zaczęło się jako obiecujący pomysł, szybko przerodziło się w etyczną porażkę, z poważnymi konsekwencjami dla prywatności. Daleko od poprawy komfortu użytkowania, nieuregulowana moc edycji jest nadużywana do tworzenia niepokojących i wręcz obraźliwych treści. Szczególnie niepokojącym trendem jest rozpowszechnianie cyfrowo zmienionych zdjęć kobiet i nieletnich, zawierających sugestywne i nieprzyzwoite zmiany.
Compounding the issue, Grok’s system appears to be devoid of any useful checks and balances. Few, if any, moderation safeguards are in place to stem the tide of inappropriate and abusive content. The absence of any obligation to get permission from the image’s original owner or any notification system to inform them of the alterations to their content only worsens the situation.
Unsurprisingly, figures of public renown like celebrities, politicians, and others haven’t been spared from the exploitation either. With the manipulated images going viral on the platform, concerns over digital defamation and the declining trust in visual media are more prominent than ever.
Grupa ekspertów ds. prywatności i obrońców praw cyfrowych głośno domaga się natychmiastowej korekty kursu. Według nich xAI i X nie mają innego wyjścia, jak tylko opracować i wdrożyć bardziej rygorystyczne narzędzia do moderowania treści i większą przejrzystość. W przeciwnym razie X może stać się idealnym szambem dla nękania, dezinformacji i wykorzystywania.
W miarę jak reakcja nabiera tempa, a publiczna kontrola staje się coraz bardziej intensywna, piłka jest teraz po stronie xAI i Elona Muska. Mogą oni albo zająć się uzasadnionymi obawami, które zostały podniesione, albo kontynuować swoje podejście polegające na priorytetowym traktowaniu szybkich innowacji kosztem odpowiedzialności etycznej. Tymczasem niespokojny internet czeka i obserwuje, jak treści generowane przez sztuczną inteligencję są przesuwane do najdalszych - i potencjalnie najbardziej niebezpiecznych - granic.
Bardziej szczegółowy opis tej historii można znaleźć w pełnym artykule na stronie The Verge.
This website uses cookies.