AMD stellt die Instinct MI350 Serie vor: Ein Sprung nach vorn bei der KI-Beschleunigung

AMD heizt den Wettlauf um KI-Hardware mit der Einführung seiner Beschleunigerchips der Instinct MI350-Serie weiter an. Mit diesen neuen Chips verspricht das Unternehmen einen dramatischen Sprung nach vorne – und nicht nur einen weiteren kleinen Schritt. Im Vergleich zur Vorgängergeneration kann die MI350-Serie laut AMD bei KI-Workloads bis zu viermal so viel Spitzenrechenleistung liefern. Was jedoch wirklich Aufmerksamkeit erregt, ist die Behauptung einer bis zu 35-mal schnelleren Leistung bei Inferenzaufgaben – einem zentralen Engpass für KI-Anwendungen in der Praxis wie Sprachmodelle und Bilderkennung.

Was steckt also in diesen Chips, das für all diesen Hype sorgt? Das Herzstück der neuen MI350-Serie ist die CDNA-4-Architektur der neuesten Generation von AMD. Jede GPU verfügt über satte 288 GB ultraschnellen HBM3E-Speicher und eine Speicherbandbreite von bis zu 8 TB/s. Für Rechenzentren bedeutet dies, dass sie viel größere und komplexere KI-Modelle direkt im Speicher unterbringen können – nach Schätzungen von AMD bis zu 520 Milliarden Parameter. Das ist von großer Bedeutung für das Training und den Betrieb modernster großer Sprachmodelle und anderer Deep-Learning-Systeme.

Die technische Raffinesse beschränkt sich nicht nur auf die reine Rechenleistung. Die MI350-Chips unterstützen eine erweiterte Palette an KI-spezifischen Zahlenformaten wie FP16, FP8, FP6 und FP4, wodurch sie noch mehr Berechnungen pro Sekunde durchführen können. Für Unternehmen, die bereits in das AMD-Ökosystem investiert haben, gibt es gute Nachrichten: Die MI350-Serie arbeitet nahtlos mit der neuen ROCm 7-Software des Unternehmens zusammen und nutzt bekannte Schnittstellen wie PCIe 5.0 und die schnelle Infinity Fabric-Verbindung des Unternehmens.

AMD hat es sich ganz klar zum Ziel gesetzt, die steigende Nachfrage nach leistungsstarker und hocheffizienter KI-Hardware zu bedienen – und nimmt dabei Konkurrenten wie NVIDIA direkt ins Visier. Bei der MI350-Serie geht es jedoch nicht nur um Benchmark-Ergebnisse. Vielmehr geht es darum, KI-Teams in Unternehmen, Forschern und Cloud-Anbietern eine schnelle Skalierung zu ermöglichen, ohne dass sie ihre gesamte Infrastruktur neu aufbauen müssen. Dank der Unterstützung sowohl für Luft- als auch für Flüssigkeitskühlung sowie für dichte Multi-GPU-Konfigurationen sind die Chips so konzipiert, dass sie in neue und bestehende Server-Racks in einer Vielzahl von Umgebungen integriert werden können.

Auch wenn die MI350-Serie noch in den Kinderschuhen steckt, herrscht in der Branche bereits große Begeisterung, da Rechenzentren und KI-Entwickler derzeit prüfen, was diese neue Hardware leisten kann. Sollten sich die Leistungswerte im praktischen Einsatz bestätigen, könnte AMDs neuestes Produkt die Art und Weise, wie KI-Workloads ausgeführt werden, grundlegend verändern und den Konkurrenten dabei ordentlich Konkurrenz machen.

Wenn Sie sich eingehender mit den technischen Daten und der Roadmap von AMD befassen möchten, lesen Sie den Originalartikel unter VentureBeat.