Weg von Nvidia: Microsofts neue KI-CPU soll 'gigawattweise' laufen

Microsoft hat mit dem Maia 300 seinen neuesten "Compute Pro­cessor" für KI-Anwendungen in der Azure-Cloud vorgestellt. Der Chip soll schon bald im Rahmen von "Multi-Gigawatt-Deployments" laufen und so die Abhängigkeit von Nvidia-Chips reduzieren.

Azure Maia 300 soll echte Alternative zu Nvidia-Chips sein

Microsoft führt mit dem Azure Maia 300 einen neuen Prozessor ein, der rasch in großem Stil verwendet werden soll, um damit Inferencing zu betreiben. Der Konzern will damit laut CEO Satya Nadella einen eigenen Chip als Hauptpfeiler seiner Systeme für das KI-Inferencing verwenden, um damit seine Produkte und Dienste zu betreiben.

Aktuell wird der Vorgänger Maia 200 in Europa, den USA und Australien in Rechenzentren des Softwarekonzerns installiert, wobei er pro Watt 70 Prozent mehr KI-Tokens für Copilot und Teams liefert als KI-GPUs. Der jetzt neu vorgestellte Maia 300 soll noch einmal 40 Prozent mehr Token pro Watt liefern als GPU-basierte Lösungen.

Fertigung in TSMC-N2P-Node

Die Fertigung des Maia 300, bei dem es sich um einen aus mehreren Chiplets auf einem gemeinsamen Substrat bestehenden "Tile"-Chip handelt, erfolgt beim taiwanischen Auftragsproduzenten TSMC in dessen neuester 2-Nanometer-Node namens N2P.

Auf dem fertigen "Paket" sitzen neben den CPU-Kernen auch noch zwei in größerer Strukturbreite gefertigte I/O-Dies und vier DDR-RDIMM-Tiles, die als Speicher auf Systemebene dienen. Hinzu kommen ganze 288 Gigabyte HBM-Speicher mit neun Gigatransfers pro Sekunde. Die Bandbreite des HBM4-Speichers wird mit 18 Terabyte pro Sekunde angegeben.

Das Gesamtpaket hat eine maximale Verlustleistung von 950 Watt. Microsoft will den Maia 300 in Racks mit bis zu 96 Chips einsetzen, die zusammen ein sogenanntes Maia Pod mit bis zu 167 Kilowatt Leistungsaufnahme bilden und in großen Clustern aus bis zu 12.000 Chips laufen können.

Der Maia 300 soll ab 2027 in Rechenzentren eingesetzt werden, die derartige Chips mit mehreren Gigawatt Leistungsaufnahme beherbergen. Der Konzern will dann unter anderem Microsoft Copilot, GitHub Copilot, Microsoft Foundry, KI-Modelle von Microsoft AI (MAI) neben Modellen von OpenAI und Open-Source-Modellen mit den neuen Chips betreiben.

Der größte Vorteil des Azure Maia 300 besteht angeblich darin, dass Microsoft mit dem neuen Chip erstmals in der Lage sein will, ihn als echte Alternative zu Nvidia-Chips im großen Maßstab einzusetzen, weil Leistung und Effizienz jetzt ein entsprechend hohes Niveau erreicht haben, heißt es.

Siehe auch: