Znany badacz Alex Morris podjął niedawno próbę zgłębienia wewnętrznego działania modelu GPT-OSS-20B firmy OpenAI, opartego na otwartych wagach. Jego celem było zbadanie, jakie skutki przyniesie usunięcie ograniczeń właściwych dla tego modelu i zapewnienie mu większej ‘swobody’. Choć eksperyment ten może wydawać się intrygujący, jak można było przewidzieć, wywołał pewne kontrowersje w społeczności zajmującej się sztuczną inteligencją, poruszając drażliwą kwestię wzajemnego oddziaływania między swobodą badań a odpowiedzialnością etyczną w dziedzinie sztucznej inteligencji.
Ograniczając liczbę warstw dostosowujących model – zwykle zaprojektowanych w celu zapewnienia bezpiecznych, korzystnych i poprawnych wyników – Morris stworzył w istocie narzędzie AI, które działa przy niewielkiej liczbie kontroli etycznych lub merytorycznych. Działanie to wywołało szeroką dyskusję na temat trudnej równowagi między otwartością a odpowiedzialnym postępowaniem w dziedzinie sztucznej inteligencji. Pomimo szerokich możliwości badawczych, jakie to otwiera, wiąże się to z kilkoma potencjalnymi zagrożeniami: narzędzie to może być nadużywane, rozpowszechniać dezinformację i generować treści bez nadzoru – co budzi poważne obawy.
Potencjalne ryzyko nie kończy się na tym. Jednym z najbardziej zaskakujących wyników eksperymentu była zdolność modelu do odtwarzania materiałów chronionych prawem autorskim słowo w słowo. Po przetestowaniu go na sześciu fragmentach książek okazało się, że model odtworzył trzy z nich dosłownie. Odkrycie to porusza głęboko zakorzenione kwestie dotyczące pochodzenia danych, metod szkolenia modeli oraz konsekwencji prawnych wdrażania tych modeli w środowiskach publicznych lub komercyjnych. Innymi słowy, musimy martwić się nie tylko o konsekwencje praktyczne, ale także o te prawne.
Podczas gdy niektórzy badacze doceniają przejrzystość i swobodę eksperymentowania z takimi modelami o otwartej wadze, inni ostrzegają przed potencjalnymi szkodami wynikającymi z niekontrolowanych wyników spowodowanych usunięciem mechanizmów dostosowujących. Właśnie w tym miejscu zaciera się granica między tak bardzo potrzebną innowacją a obowiązkiem etycznym. W miarę jak te systemy sztucznej inteligencji będą zyskiwać na potędze i dostępności, napięcie to prawdopodobnie będzie tylko narastać.
Eksperymenty przeprowadzone przez Morrisa podkreślają natychmiastową potrzebę kompleksowych rozmów na temat tego, jak zarządzamy sztuczną inteligencją, szczególnie w kontekście modeli open source. Im więcej deweloperów i badaczy dostaje w swoje ręce te fundamentalne systemy sztucznej inteligencji, tym większy potencjał zarówno dla przełomowych innowacji, jak i możliwych nadużyć. Znalezienie sposobu na utrzymanie otwartości przy jednoczesnym zapewnieniu odpowiedzialności jest niewątpliwie kolejną dużą przeszkodą dla branży sztucznej inteligencji.
Chcesz lepiej poznać niuanse badań Morrisa i ich implikacje dla przyszłości sztucznej inteligencji? Sprawdź oryginalny artykuł na VentureBeat.
Ta strona używa plików cookie.