Sam Altman twierdzi, że pamięć RAM lepiej sprawdzi się w centrach danych

Dyrektor generalny OpenAI, Sam Altman, stwierdził w podcaście, że z punktu widzenia globalnej alokacji zasobów “straszne” jest to, że ograniczone zasoby pamięci RAM pozostają niewykorzystane w poszczególnych komputerach osobistych, zamiast być skoncentrowane w centrach danych. Ta uwaga, o której poinformował serwis The Verge, pojawiła się w kontekście dyskusji na temat ograniczeń w łańcuchu dostaw oraz utrzymującego się zainteresowania lokalnym uruchamianiem modeli sztucznej inteligencji.

Zgodnie z przedłożonym raportem, podczas wystąpienia w programie Altman został zapytany o niedobory, w tym o trwający niedobór pamięci RAM, Cheeky Pint podcast. W cytowanych wypowiedziach odrzucił pogląd, że modele open source i lokalne wnioskowanie oznaczają, iż branża nie będzie już potrzebowała rozległej, scentralizowanej infrastruktury.

Ma to znaczenie, ponieważ uwidacznia podstawowy dylemat związany z wdrażaniem sztucznej inteligencji. Lokalne przetwarzanie może zapewnić prywatność, możliwość korzystania w trybie offline oraz mniejsze opóźnienia w przypadku niektórych zadań, podczas gdy przetwarzanie w chmurze pozwala na wspólne wykorzystanie kosztownych zasobów obliczeniowych i pamięci przez wielu użytkowników. Argument Altmana, zgodnie z cytatem, polega na tym, że gdy pamięć jest ograniczona w skali globalnej, jej centralizacja może być bardziej wydajna niż rozdzielanie jej między miliony niedostatecznie wykorzystywanych maszyn.

Dlaczego ta uwaga ma znaczenie dla infrastruktury sztucznej inteligencji

W dostarczonym źródle nie ma pełnego zapisu odpowiedzi Altmana, więc dokładny zakres jego twierdzenia pozostaje niejasny. Niemniej jednak przedstawione stanowisko wpisuje się w szerszą debatę branżową: czy przyszłe wykorzystanie sztucznej inteligencji znacznie przesunie się w kierunku modeli działających bezpośrednio na urządzeniach, czy też pozostanie w dużym stopniu uzależnione od hiper-skalowalnych centrów danych z współdzielonymi procesorami graficznymi, pamięcią RAM i infrastrukturą sieciową.

Praktycznym aspektem tego zagadnienia jest planowanie kosztów i wydajności. W hipotetycznym scenariuszu biznesowym firma rozważająca, czy uruchomić wewnętrznego asystenta na laptopach pracowników, czy też za pośrednictwem centralnej usługi w chmurze, wzięłaby pod uwagę dostępność pamięci, środki bezpieczeństwa, zarządzanie aktualizacjami oraz wydajność w okresach szczytowego zapotrzebowania. Z wypowiedzi Altmana wynika, że uważa on model wspólnej infrastruktury za lepsze rozwiązanie w sytuacji niedoboru komponentów sprzętowych.

Co pozostaje niejasne

W materiale RSS nie podano, czy Altman odnosił się konkretnie do komputerów osobistych, stacji roboczych dla przedsiębiorstw, czy też szerzej – do sprzętu przeznaczonego do sztucznej inteligencji. Nie wyjaśniono w nim również, jak według OpenAI ma się z czasem zmieniać równowaga między wnioskowaniem lokalnym a chmurowym; wspomniano jedynie, że Altman podważył założenie, iż modele open source i lokalne eliminują potrzebę inwestowania w centra danych.

To rodzi pytanie dla rynku: jeśli niedobory pamięci będą się utrzymywać, czy dostawcy rozwiązań AI będą jeszcze bardziej zdecydowanie stawiać na usługi scentralizowane, czy też mniejsze modele lokalne nadal będą odgrywać znaczącą rolę pomimo ograniczeń sprzętowych?

Źródło: oryginalny artykuł opublikowany przez serwis The Verge. Powyższe stwierdzenia odzwierciedlają informacje zawarte w tym źródle.

Zapoznaj się z powiązanymi artykułami w naszej sekcji Sekcja wiadomości o sztucznej inteligencji.

Praktyczne zastosowania sztucznej inteligencji

Uwaga partnera — Implementi.ai: Dla firm zastanawiających się, co powinno działać lokalnie, a co w chmurze, wyzwaniem operacyjnym często nie jest teoria modelowania, ale obciążenie związane z przepływem pracy po zakończeniu spotkań i podjęciu decyzji. Narzędzia takie jak Asystent spotkań oparty na sztucznej inteligencji do sporządzania notatek i zadań do realizacji może pomóc zespołom w scentralizowaniu rutynowych zadań związanych z przetwarzaniem wiedzy, bez konieczności obciążania urządzeń poszczególnych pracowników bardziej wymagającymi zadaniami związanymi ze sztuczną inteligencją.