Łatwo jest dać się zwieść przekonaniu, że modele sztucznej inteligencji (AI) typu open source są kluczem do opłacalnych innowacji. W końcu, dzięki braku opłat licencyjnych i aktywnej społeczności programistów, wydają się one budżetową alternatywą dla rozwiązań zamkniętych. Jednak najnowsze badania podważają to przekonanie, ujawniając zaskakujący fakt – modele open source mogą zużywać nawet 10 razy więcej zasobów obliczeniowych niż ich zamknięte odpowiedniki.
Firmy często sięgają po rozwiązania AI typu open source, mając nadzieję na obniżenie kosztów licencji. Być może jednak nie doceniają one rzeczywistych czynników generujących koszty – mocy obliczeniowej i zużycia energii. Wygląda na to, że konstrukcja wielu modeli open source nie jest tak zoptymalizowana pod kątem wydajności, jak można by oczekiwać, co prowadzi do długich okresów uczenia, nadmiernego obciążenia procesorów graficznych (GPU) i, w konsekwencji, rosnących wydatków na chmurę.
Wyobraź sobie, że wdrażasz model oparty na oprogramowaniu open source w różnych działach lub w narzędziach przeznaczonych dla klientów, a każda z tych aplikacji pochłania zasoby obliczeniowe. Jeśli nie jest ona zoptymalizowana, w praktyce płacisz więcej za energię elektryczną i czas przetwarzania. Atrakcyjność takiego rozwiązania jako opcji oszczędnej szybko traci na blasku, gdy uświadomisz sobie, że może ono łatwo przerodzić się w finansową czarną dziurę.
To odkrycie wymaga zmiany sposobu myślenia w świecie biznesu. Nie jest to już prosta debata na temat wyboru między oprogramowaniem otwartym a zamkniętym; obecnie chodzi o całkowity koszt posiadania. Osoby pełniące funkcje kierownicze, takie jak dyrektorzy ds. informatyki (CIO) i dyrektorzy ds. technologii (CTO), muszą porównać początkowe oszczędności wynikające z rozwiązań open source z długoterminowymi kosztami operacyjnymi. Biorąc pod uwagę ciągły wzrost obciążenia związanego ze sztuczną inteligencją, skutki tych decyzji są ważniejsze niż kiedykolwiek.
W związku z tym wydajność staje się kluczowym aspektem, który należy wziąć pod uwagę. W miarę jak firmy coraz częściej wdrażają sztuczną inteligencję, ważne staje się ocenianie nie tylko możliwości danego modelu, ale także efektywności, z jaką te możliwości realizuje. Najbardziej ekonomicznym rozwiązaniem opartym na sztucznej inteligencji niekoniecznie musi być to, które nie wiąże się z żadnymi kosztami. W rzeczywistości może to być rozwiązanie zaprojektowane tak, aby działało wydajnie i inteligentnie.
Zapraszam do zapoznania się ze szczegółami tutaj.
Ta strona używa plików cookie.