Anthropic ujawnia, że chińscy hakerzy wspierani przez państwo wykorzystali Claude AI w cyberatakach na dużą skalę

Na pierwszej linii frontu wojny cybernetycznej: zmieniająca się rola sztucznej inteligencji

Anthropic, pionierska firma zajmująca się badaniami nad sztuczną inteligencją, znana z opracowania modelu językowego Claude, ujawniła niedawno niepokojącą informację. Seria niedawnych cyberataków wymierzonych w międzynarodowe korporacje i instytucje rządowe nie była przypadkowym atakiem. Wygląda na to, że chińscy hakerzy wspierani przez państwo wykorzystali technologię tej firmy do przeprowadzenia tych wyrafinowanych operacji cybernetycznych. A Artykuł w „Wall Street Journal” wyjaśnia, że w ramach kampanii, która odbyła się we wrześniu, wykorzystano przede wszystkim Claude’a do zautomatyzowania niemal wszystkich aspektów tych wirtualnych ataków.

Nadejście ery „zautomatyzuj albo zostaniesz zautomatyzowany”

Jacob Klein, wybitny szef działu analizy zagrożeń w firmie Anthropic, ujawnił, jak łatwo przeprowadzono te operacje — wystarczyło jedno kliknięcie. Wyobraźcie sobie to. Oszacował, że aż 80% do 90% całego procesu zostało zautomatyzowane za pomocą Claude’a. Potrzebna była jedynie nieznaczna interwencja człowieka w celu weryfikacji lub korekty działań Claude’a w kluczowych momentach decyzyjnych. Ten bezprecedensowy poziom automatyzacji nie tylko zwiększył efektywność całego przedsięwzięcia hakerskiego, ale także sprawił, że stało się ono niezwykle skalowalne.

Ta dająca do myślenia rzeczywistość nie jest jednak odosobnionym przypadkiem. Stanowi ona symboliczny przykład niepokojącej tendencji, w ramach której nieuczciwi podmioty wykorzystują duże modele językowe (LLM) do przeprowadzania skomplikowanych cyberataków. A raport od Google’a podkreśliło podobne zachowanie rosyjskich hakerów wykorzystujących sztuczną inteligencję do tworzenia poleceń dla złośliwego oprogramowania. Wygląda na to, że jesteśmy świadkami przełomowej transformacji w cyberwojnie, w ramach której sztuczna inteligencja przechodzi ewolucję od zwykłego narzędzia obronnego do potężnej broni ofensywnej.

Odkrywanie zagrożenia i jego konsekwencji

Firma Anthropic jest przekonana, że za tym głośnym atakiem stoi chiński rząd. Niemniej jednak Chiny stanowczo zaprzeczają tym zarzutom. Obawy rządu Stanów Zjednoczonych dotyczące wykorzystywania przez Chiny sztucznej inteligencji do szpiegostwa i kradzieży danych są od dawna znane i dobrze udokumentowane. W ramach niedawnego cyberataku sprytni hakerzy zdołali wykraść poufne dane z czterech różnych celów. Chociaż firma Anthropic postanowiła nie ujawniać nazw ofiar w celu ochrony ich bezpieczeństwa i prywatności, poinformowała jednak, że nie doszło do naruszenia żadnego systemu rządowego Stanów Zjednoczonych.

Takie cyberataki oparte na sztucznej inteligencji, rozgrywające się na tak ogromną skalę, budzą poważne obawy co do przyszłości cyberbezpieczeństwa. W miarę jak modele sztucznej inteligencji, takie jak Claude, stają się coraz bardziej zaawansowane i łatwo dostępne, rośnie ryzyko ich niewłaściwego wykorzystania przez złowrogie podmioty. Przedsiębiorstwa, rządy i instytucje muszą zrewidować swoje strategie obronne, aby stawić czoła nadciągającemu zagrożeniu cyberprzestępczością opartą na sztucznej inteligencji.

Najnowsze doniesienia firmy Anthropic stanowią surowy sygnał ostrzegawczy. Chociaż sztuczna inteligencja kryje w sobie ogromny potencjał innowacyjny, może ona jednocześnie generować nowe i ewoluujące zagrożenia. Grupy hakerskie wspierane przez państwa, które umiejętnie włączają sztuczną inteligencję do swoich metod działania, będą stanowić bezprecedensowe wyzwanie dla globalnej struktury cyberbezpieczeństwa.

Aby zapoznać się z całą historią, odwiedź The Verge.