Podczas niezwykłego poniedziałkowego spotkania, zróżnicowana grupa ponad 200 wpływowych osobistości, składająca się z byłych mężów stanu, laureatów Nagrody Nobla, pionierów sztucznej inteligencji, wybitnych naukowców i zawodowych dyplomatów, złożyła wspólną proklamację. Głośnym głosem wezwali oni do globalnie uznanego zrozumienia działań, które muszą pozostać poza zasięgiem sztucznej inteligencji. Niektóre z wybitnych przykładów, które przedstawili, obejmowały wykorzystanie sztucznej inteligencji do podszywania się pod ludzi lub umożliwienie im samoreplikacji.
Chór tych wpływowych głosów dał początek Globalne wezwanie do wyznaczenia czerwonych linii AI inicjatywa. To kompleksowe żądanie wzywa organy rządowe na całym świecie do osiągnięcia konsensusu politycznego w sprawie granic sztucznej inteligencji do końca 2026 roku. Wśród znaczących sygnatariuszy znajdują się takie osobistości w dziedzinie sztucznej inteligencji i polityki, jak Geoffrey Hinton, pionier głębokiego uczenia się; Wojciech Zaremba, współzałożyciel OpenAI; Jason Clinton, CISO w Anthropic; i Ian Goodfellow z Google DeepMind.
Charbel-Raphaël Segerie, dyrektor wykonawczy francuskiego Centrum Bezpieczeństwa Sztucznej Inteligencji (CeSIA), podkreślił konieczność zapobiegania potencjalnemu poważnemu kryzysowi, zanim ten się rozwinie. Podczas briefingu prasowego stwierdził, że wszystkie kraje muszą uzgodnić, czego sztuczna inteligencja nie powinna robić, nawet jeśli sposoby jej wykorzystania będą się różnić. Inicjatywa ta, zbiegająca się w czasie z 80. tygodniem spotkań wysokiego szczebla Zgromadzenia Ogólnego ONZ w Nowym Jorku, jest prowadzona przez CeSIA, organizację The Future Society oraz Centrum Sztucznej Inteligencji Kompatybilnej z Człowiekiem przy Uniwersytecie Kalifornijskim w Berkeley. Laureatka Pokojowej Nagrody Nobla Maria Ressa również wspomniała o tej inicjatywie w swoim przemówieniu otwierającym obradę w ONZ, opowiadając się za globalną, inkluzywną odpowiedzialnością oraz położeniem kresu “bezkarności wielkich firm technologicznych”.
W kontekście bezpieczeństwa sztucznej inteligencji wiele regionów poczyniło pewne postępy we właściwym kierunku, jak na przykład europejska ustawa o sztucznej inteligencji (AI Act), zakazująca określonych “niedopuszczalnych” zastosowań sztucznej inteligencji, a także porozumienie między Stanami Zjednoczonymi a Chinami dotyczące zachowania ludzkiej kontroli nad bronią jądrową pomimo rozwoju sztucznej inteligencji. Niemniej jednak cel, jakim jest powszechnie uzgodnione stanowisko, pozostaje nieosiągalny. Niki Iliadis, dyrektor ds. globalnego zarządzania sztuczną inteligencją w organizacji The Future Society, zauważyła, że same dobrowolne zobowiązania firm zajmujących się sztuczną inteligencją nie spełniają wymagań. Stwierdziła, że konieczna jest autonomiczna instytucja globalna uprawniona do ustanawiania, administrowania i egzekwowania granic, których nie wolno przekraczać w zakresie sztucznej inteligencji.
Stuart Russell, znany naukowiec zajmujący się sztuczną inteligencją i profesor na UC Berkeley, ponownie podkreślił znaczenie bezpiecznej ścieżki technologicznej. Rysując podobieństwa z energią atomową, gdzie protokoły bezpieczeństwa zostały wdrożone przed rozpoczęciem budowy elektrowni jądrowych, Russell podkreślił, że branża sztucznej inteligencji powinna rozważyć środki bezpieczeństwa od samego początku. Odniósł się również do obaw związanych z ramami regulacyjnymi utrudniającymi innowacyjny postęp. Przyznał, że można dokonać postępów w dziedzinie sztucznej inteligencji, bez niekontrolowanej i potencjalnie niszczycielskiej sztucznej inteligencji ogólnej, porównując rzekomy kompromis do błędu.
Więcej szczegółów można znaleźć w oryginalnym artykule na stronie The Verge.
Ta strona używa plików cookie.