Firma AMD podkręca tempo w wyścigu o sprzęt do sztucznej inteligencji, wprowadzając na rynek układy akcelerujące z serii Instinct MI350. Dzięki tym nowym układom firma obiecuje radykalny skok naprzód – a nie tylko kolejny niewielki krok. W porównaniu z poprzednią generacją, według AMD seria MI350 może zapewnić nawet czterokrotnie większą szczytową moc obliczeniową dla zadań związanych ze sztuczną inteligencją. Jednak to, co naprawdę przyciąga uwagę, to deklaracja nawet 35-krotnego wzrostu wydajności w zadaniach wnioskowania – kluczowego wąskiego gardła w rzeczywistych zastosowaniach sztucznej inteligencji, takich jak modele językowe i rozpoznawanie obrazów.
Co więc kryje się w tych układach, że wywołują tak wielkie poruszenie? Sercem nowej serii MI350 jest najnowsza generacja architektury CDNA 4 firmy AMD. Każdy procesor graficzny dysponuje imponującą pamięcią HBM3E o pojemności 288 GB oraz przepustowości pamięci sięgającej nawet 8 TB/s. Dla centrów danych oznacza to możliwość obsługi znacznie większych i bardziej złożonych modeli sztucznej inteligencji bezpośrednio w pamięci – według szacunków AMD nawet do 520 miliardów parametrów. To ogromna zaleta przy uczeniu i uruchamianiu najnowocześniejszych dużych modeli językowych oraz innych systemów głębokiego uczenia.
Zaawansowane rozwiązania techniczne nie ograniczają się wyłącznie do surowej mocy obliczeniowej. Układy MI350 obsługują rozszerzony zakres formatów liczbowych przeznaczonych dla sztucznej inteligencji, takich jak FP16, FP8, FP6 i FP4, co pozwala im wykonać jeszcze więcej obliczeń w każdej sekundzie pracy. Dla organizacji, które już zainwestowały w ekosystem AMD, mamy dobrą wiadomość: seria MI350 płynnie współpracuje z nowym oprogramowaniem ROCm 7 tej firmy i wykorzystuje znane interfejsy, takie jak PCIe 5.0 oraz szybką sieć połączeń Infinity Fabric.
AMD wyraźnie postawiło sobie za cel zaspokojenie rosnącego popytu na wysokowydajny i energooszczędny sprzęt do sztucznej inteligencji – i bezpośrednio konkuruje z takimi firmami jak NVIDIA. Seria MI350 to jednak nie tylko wyniki testów porównawczych. Chodzi o umożliwienie zespołom zajmującym się sztuczną inteligencją w przedsiębiorstwach, badaczom i dostawcom usług w chmurze szybkiego skalowania bez konieczności przebudowywania całej infrastruktury. Dzięki obsłudze zarówno chłodzenia powietrznego, jak i cieczowego, a także gęstych konfiguracji z wieloma procesorami graficznymi, układy te zostały zaprojektowane tak, aby można je było montować w nowych i istniejących szafach serwerowych w różnych środowiskach.
Chociaż seria MI350 dopiero raczkuje, w branży już panuje spore podekscytowanie, ponieważ centra danych i twórcy rozwiązań AI oceniają możliwości tego nowego sprzętu. Jeśli wyniki wydajnościowe potwierdzą się w praktyce, najnowsze rozwiązanie AMD może poważnie zmienić sposób obsługi obciążeń związanych ze sztuczną inteligencją, a przy okazji stanowić poważną konkurencję dla rywali.
Aby zapoznać się bardziej szczegółowo ze specyfikacjami i planami rozwoju firmy AMD, przeczytaj oryginalny artykuł na stronie VentureBeat.
Ta strona używa plików cookie.