Die sich rasch entwickelnde Welt der künstlichen Intelligenz (KI) lässt den Energiebedarf weiter steigen, wobei Schätzungen des Lawrence Berkeley Nationales Laboratorium die besagt, dass Rechenzentren bis 2028 alarmierende 12 Prozent des gesamten US-Stroms verbrauchen könnten. Als Reaktion auf diese wachsende Besorgnis suchen Forscher nach innovativen Wegen zur Steigerung der Energieeffizienz in Rechenzentren.
A team of researchers from the world-renowned MIT and MIT-IBM Watson AI Lab has made a substantial stride in this direction. They have devised a first-of-its-kind prediction tool that’s set to revolutionize how data center operators plan and manage power consumption for AI workloads. The game-changer? This innovative tool doesn’t just handle an assortment of processors and AI accelerator chips—it does so almost instantaneously. Compared with traditional modeling techniques that demand considerable time to generate results, this new approach promises accurate power estimates in mere seconds.
But the benefits don’t stop there. The tool is versatile enough to accommodate a plethora of hardware configurations, including those not yet put into service. Quick estimates like these can assist data center operators in predicting and optimizing resource allocation across numerous AI models and processors, bolstering energy efficiency and allowing a peek at potential energy consumption before a fresh model is rolled out.
Die Person, die an der Spitze dieser bahnbrechenden Forschung steht, ist Kyungmi Lee, ein Postdoc am MIT. Lee, der auch Autor einerPapier on the subject, stresses the urgency of tackling AI’s sustainability challenge. She is optimistic that the convenience and speed of this estimation technique will induce algorithm developers and data center operators to strive for lower energy consumption.
Inside these data centers, a myriad of mighty graphics processing units (GPUs) perform intricate operations to train and run AI models. Ever imagined how much power an individual unit consumes? Well, it hinges on the configuration and the workload it’s assigned. Normally, to forecast energy consumption, a detailed simulation of every module within the GPU is performed—a process that is not exactly time-efficient.
Um dies zu rationalisieren, haben MIT-Forscher die sich wiederholenden Muster innerhalb von KI-Arbeitslasten genutzt, um schnelle und zuverlässige Leistungsschätzungen zu erstellen. Das Ergebnis ist ein leichtgewichtiges Schätzmodell namens EnergAIzer, das in der Lage ist, den Stromverbrauch einer GPU auf der Grundlage von Softwareoptimierungen schnell vorherzusagen. Die Einbeziehung echter Messungen von Grafikprozessoren macht diese Schätzungen sowohl schnell als auch präzise, mit nur etwa 8 Prozent Abweichung im Vergleich zu herkömmlichen Methoden.
Die Benutzer geben einfach Daten über das KI-Modell und Benutzereingaben ein, um sofort eine Schätzung des Energieverbrauchs zu erhalten, und können sogar GPU-Konfigurationen oder Betriebsgeschwindigkeiten anpassen, um die entsprechenden Änderungen des Stromverbrauchs zu sehen. Das Team plant, EnergAIzer mit den neuesten GPU-Konfigurationen zu testen und das Modell so zu skalieren, dass es mehrere GPUs verwalten kann, die im Tandem an einer Arbeitslast arbeiten.
EnergAIzer zielt vor allem darauf ab, Hardware-Designer, Betreiber von Rechenzentren und Entwickler von Algorithmen für den Stromverbrauch zu sensibilisieren und eine schnelle und zuverlässige Lösung zur Energieabschätzung bereitzustellen. Da Nachhaltigkeit ein allgegenwärtiges Thema bei der Entwicklung und dem Betrieb von Technologien ist, stellt diese Forschung - die teilweise vom MIT-IBM Watson AI Lab finanziert wurde - einen wichtigen Schritt in Richtung umweltbewusster KI-Praktiken dar.
Sind Sie auf der Suche nach KI-Automatisierungslösungen zur Rationalisierung Ihrer Abläufe? Erforschen Sie die genialen Möglichkeiten mitimplementi.ai. Mehr über diese spannende Entwicklung erfahren Sie auf derOriginalnachrichten.
Diese Website verwendet Cookies.