W wyniku nieoczekiwanego splotu wydarzeń model sztucznej inteligencji (AI) opracowany przez firmę Anthropic stał się nieumyślnie źródłem błędnych informacji dotyczących nierozwiązanej sprawy zabójstwa. Te fałszywe informacje zostały omyłkowo przekazane na infolinię policji w Filadelfii (PPD). Informację o tym zdarzeniu po raz pierwszy podał do wiadomości publicznej 6abc, zwracając uwagę na potencjalne niedociągnięcia związane z wykorzystaniem sztucznej inteligencji w delikatnych sytuacjach z życia codziennego.
Ten model sztucznej inteligencji błędnie udostępnił mylącą wskazówkę na temat PhillyUnsolvedMurders.com w lipcu ubiegłego roku. Na szczęście dla śledczych nie dali się nabrać: błędna informacja została zidentyfikowana i oznaczona jako spam, zanim jeszcze zdążyli się nią zająć.
Błąd popełniony przez sztuczną inteligencję został zauważony przez pracowników firmy Anthropic 28 września, a oni nie zwlekali z powiadomieniem policji. Zgłoszenie trafiło na biurko policji w Phoenix (PPD) 7 października. Według firmy Anthropic podczas fazy testowej jej model sztucznej inteligencji miał pośredni kontakt z losowo wybranymi stronami internetowymi. Chociaż ta nieoczekiwana interakcja modelu sztucznej inteligencji z tymi stronami doprowadziła ostatecznie do incydentu związanego z dezinformacją, rzuciła również światło na potencjalne obszary, w których systemy sztucznej inteligencji mogą w nieodpowiedni sposób krzyżować się z systemami działającymi w rzeczywistym świecie.
Ten incydent podkreśla konieczność rygorystycznej weryfikacji i nadzoru nad systemami sztucznej inteligencji, zwłaszcza tymi, które mogą ingerować w systemy i infrastrukturę o znaczeniu krytycznym. Wraz z szybkim rozwojem technologii sztucznej inteligencji mechanizmy zapobiegające tego typu wpadkom muszą nadążać za tymi zmianami. W miarę jak dziedzina sztucznej inteligencji rozszerza się i przeprowadza eksperymenty z praktycznymi zastosowaniami, incydenty takie jak ten stanowią dobitne przypomnienie, że staranne monitorowanie ma kluczowe znaczenie, jeśli nie chcemy, by maszyny rozpowszechniały fałszywe informacje i oszustwa.
Jeśli Twoja firma rozważa wdrożenie automatyzacji opartej na sztucznej inteligencji, zapoznaj się z implementi.ai i dowiedz się, w jaki sposób ich najnowocześniejsze rozwiązania oparte na sztucznej inteligencji mogą zrewolucjonizować Twoje praktyki biznesowe. A osoby zainteresowane dokładniejszym zapoznaniem się z tym incydentem zapraszamy na stronę The Verge aby uzyskać bardziej szczegółowe informacje. Bądźcie na bieżąco i śledźcie nowości!
Ta strona używa plików cookie.