OpenAI CEO Sam Altman said on a podcast that, from a global resource-allocation perspective, it is “terrible” to have scarce RAM sitting in individual PCs rather than concentrated in data centers. The comment, reported by The Verge, comes amid discussion of supply-chain constraints and continued interest in running AI models locally.
Zgodnie z przedłożonym raportem, podczas wystąpienia w programie Altman został zapytany o niedobory, w tym o trwający niedobór pamięci RAM, Cheeky Pint podcast. W cytowanych wypowiedziach odrzucił pogląd, że modele open source i lokalne wnioskowanie oznaczają, iż branża nie będzie już potrzebowała rozległej, scentralizowanej infrastruktury.
That matters because it highlights a basic tension in AI deployment. Local inference can offer privacy, offline use and lower latency for some tasks, while cloud inference can pool expensive compute and memory across many users. Altman’s argument, as quoted, is that when memory is constrained globally, centralizing it may be more efficient than distributing it across millions of underused machines.
The supplied source does not include a full transcript of Altman’s answer, so the exact scope of his claim remains unclear. Still, the reported position aligns with a broader industry debate: whether future AI usage will shift materially toward on-device models, or remain heavily dependent on hyperscale data centers with shared GPUs, RAM and networking.
A practical implication is cost and capacity planning. In a hypothetical enterprise use case, a company deciding whether to run an internal assistant on employee laptops or through a central cloud service would weigh memory availability, security controls, update management and peak-demand efficiency. Altman’s comments suggest he sees the shared-infrastructure model as the better answer when hardware components are scarce.
W materiale RSS nie podano, czy Altman odnosił się konkretnie do komputerów osobistych, stacji roboczych dla przedsiębiorstw, czy też szerzej – do sprzętu przeznaczonego do sztucznej inteligencji. Nie wyjaśniono w nim również, jak według OpenAI ma się z czasem zmieniać równowaga między wnioskowaniem lokalnym a chmurowym; wspomniano jedynie, że Altman podważył założenie, iż modele open source i lokalne eliminują potrzebę inwestowania w centra danych.
To rodzi pytanie dla rynku: jeśli niedobory pamięci będą się utrzymywać, czy dostawcy rozwiązań AI będą jeszcze bardziej zdecydowanie stawiać na usługi scentralizowane, czy też mniejsze modele lokalne nadal będą odgrywać znaczącą rolę pomimo ograniczeń sprzętowych?
Źródło: oryginalny artykuł opublikowany przez serwis The Verge. Powyższe stwierdzenia odzwierciedlają informacje zawarte w tym źródle.
Zapoznaj się z powiązanymi artykułami w naszej sekcji Sekcja wiadomości o sztucznej inteligencji.
Uwaga partnera — Implementi.ai: Dla firm zastanawiających się, co powinno działać lokalnie, a co w chmurze, wyzwaniem operacyjnym często nie jest teoria modelowania, ale obciążenie związane z przepływem pracy po zakończeniu spotkań i podjęciu decyzji. Narzędzia takie jak Asystent spotkań oparty na sztucznej inteligencji do sporządzania notatek i zadań do realizacji może pomóc zespołom w scentralizowaniu rutynowych zadań związanych z przetwarzaniem wiedzy, bez konieczności obciążania urządzeń poszczególnych pracowników bardziej wymagającymi zadaniami związanymi ze sztuczną inteligencją.
Ta strona używa plików cookie.