Pomimo postępu technologicznego, wykrywanie i zwalczanie treści antysemickich pozostaje wyzwaniem dla kilku systemów sztucznej inteligencji. Według badania przeprowadzonego przez Anti-Defamation League (ADL), Grok - dzieło xAI Elona Muska - uzyskał najniższy wynik wśród swoich konkurentów. Kontekst jest kluczowy w tej dyskusji. Ocena ta została przeprowadzona wśród sześciu wiodących dużych modeli językowych, w tym xAI, OpenAI, Meta, Anthropic, Google i DeepSeek. Niestety, wydaje się, że chatbot Muska pozostawia wiele do życzenia, jeśli chodzi o identyfikowanie i reagowanie na nienawistne treści.
Ale kto zajmuje pierwsze miejsce? W niniejszym raporcie ten zaszczyt przypadł modelowi Claude firmy Anthropic. Pomimo najwyższej dokładności w rozpoznawaniu narracji antysemickich, ADL przypomina nam, że żaden model nie jest idealny – wręcz przeciwnie. Osiągnięcie modelu Claude nie powinno przesłaniać surowego wniosku płynącego z badania, że każdy system sztucznej inteligencji, pomimo swoich unikalnych atutów, wykazał istotne niedociągnięcia w tej kluczowej dziedzinie. Wyniki te podkreślają istotę dyskusji na temat bezpieczeństwa sztucznej inteligencji oraz odpowiedzialność twórców za zagwarantowanie, że systemy te nie będą nieumyślnie podsycać ognia mowy nienawiści.
Rozważając tę kwestię nieco szerzej, parametry testowe ADL skupiały się na trzech odrębnych kategoriach: antysemityzmie jako “antyjudowskim”, “antysyjonistycznym” i “ekstremistycznym”. To zniuansowane podejście zapewniło szeroki wachlarz wypowiedzi i narracji, które służyły jako bodźce dla każdego modelu sztucznej inteligencji. Jaki był cel? Ocena, czy te chatboty potrafią odróżnić treści nieszkodliwe od szkodliwych oraz – co najważniejsze – reagować w odpowiedni sposób, odrzucając retorykę przemocy, nie legitymizując ani nie wzmacniając takich poglądów.
Biorąc pod uwagę niezwykły wpływ Elona Muska zarówno na rozwój sztucznej inteligencji, jak i na dyskusję publiczną, rozczarowujące wyniki systemu Grok w walce z treściami antysemickimi budzą wątpliwości. Wymaga to podjęcia dyskusji na temat środków bezpieczeństwa, jakości danych szkoleniowych oraz innych aspektów rozwoju technologii sztucznej inteligencji w coraz bardziej cyfrowym świecie, w którym szerzą się dezinformacja i mowa nienawiści.
Ujawnione przez ADL informacje to coś więcej niż tylko ćwiczenie akademickie — to wezwanie do działania. Ujawnione w tym badaniu niedociągnięcia, nawet w modelach o lepszej wydajności, takich jak Claude i ChatGPT, wskazują na problem systemowy, który wymaga natychmiastowej uwagi. Zachęca się programistów do podjęcia zdecydowanych działań, aby zdusić ten problem w zarodku. ADL proponuje plan działania, który obejmuje wdrożenie zróżnicowanych zbiorów danych szkoleniowych, rygorystyczny nadzór etyczny oraz solidne zabezpieczenia. Celem jest zapewnienie, aby postępy w technologii sztucznej inteligencji nie sprzyjały nieświadomie tworzeniu platform szerzących nienawiść.
Jeśli chcesz zapoznać się bardziej szczegółowo z wynikami badania i jego metodologią, wyczerpujące omówienie znajdziesz na stronie The Verge.
Ta strona używa plików cookie.