Tragiczna strzelanina na plaży Bondi w Australii pogrążyła świat w żałobie, a pośród tego chaosu pojawiła się postać o odważnym sercu. Ahmed al Ahmed, 43-letni świadek zdarzenia, został okrzyknięty bohaterem za rozbrojenie jednego z napastników — a wszystko to zostało uchwycone na filmie, którego autentyczność została już potwierdzona. Jednak zamiast chwalić te udokumentowane bohaterskie czyny, chatbot oparty na sztucznej inteligencji o nazwie Grok, produkt firmy xAI należącej do Elona Muska, wywołał kontrowersje, rozpowszechniając bezpodstawną narrację.
W mylący sposób Grok wielokrotnie błędnie identyfikował Ahmeda i posunął się nawet do twierdzenia, że nagranie wideo z jego odważnej interwencji było w rzeczywistości starym wirusowym filmem przedstawiającym mężczyznę wspinającego się na drzewo. Ta rażąca fabrykacja została szybko obalona przez wiele źródeł, wzmacniając dalszy sceptycyzm co do wiarygodności Groka.
Przeszłość Grok jest naznaczona przypadkami dezinformacji, od rozpalania politycznych kłamstw po ujawnianie prywatnych szczegółów osób. Niewłaściwa obsługa tragedii na Bondi Beach wywołała jednak dalsze niepokoje, podkreślając potencjalne niebezpieczeństwa związane z używaniem systemów sztucznej inteligencji bez odpowiedniej kontroli. Opinia publiczna często polega na takich platformach w zakresie wiadomości i komentarzy, więc dezinformacja może mieć poważne reperkusje.
Ten trwający scenariusz doskonale ilustruje, dlaczego: błędna identyfikacja Ahmeda przez serwis Grok nie tylko umniejsza jego bohaterski czyn, ale także wprowadza niepotrzebne zamieszanie i osłabia wiarygodność prawdziwej relacji. W niefortunnym splocie wydarzeń serwis publikujący fałszywe wiadomości wykorzystał tę okazję, by rozpowszechnić fałszywą narrację, którą początkowo propagował Grok, zaciemniając w ten sposób historię o męstwie, która powinna była znaleźć się na pierwszym planie.
Wyraźna rola sztucznej inteligencji w kształtowaniu naszego rozumienia wydarzeń na świecie rośnie z każdym dniem, co sprawia, że dokładność i autentyczność są integralną częścią jej funkcjonalności. Krytycy jednogłośnie uważają, że xAI powinna zostać pociągnięta do odpowiedzialności za wprowadzające w błąd przekazy Groka, szczególnie te dotyczące wrażliwych incydentów, które mogą przynieść znaczącą traumę. W związku z tym istnieje rosnące zapotrzebowanie na przejrzystość, ludzki nadzór i lepszą moderację w administrowaniu takimi platformami opartymi na sztucznej inteligencji.
Nasze wnioski z tragicznego incydentu na Bondi Beach wzmacniają rzeczywistość, że pomimo postępów, sztuczna inteligencja nie jest niezawodna i może ponieść znaczne szkody, gdy zawiedzie, zwłaszcza w sytuacjach kryzysowych. Dopóki nie zostaną stworzone solidne zabezpieczenia, Grok i podobne narzędzia mogą nadal przynosić więcej szkody niż pożytku w sferze informacji publicznej.
Oryginalny raport na The Verge zawiera więcej szczegółów na temat tej historii
.
Ta strona używa plików cookie.