BaM: Nvidia-GPU umgeht langsame CPU und spricht direkt mit der SSD

Nvidia-Grafikchips sollen zukünftig nicht nur direkt von SSDs mit Daten versorgt werden, wenn es um Spiele auf einem Windows-PC geht. Unabhängig von Microsoft hat das Unternehmen daher mit IBM eine Technologie entwickelt, die dem Redmonder Di­rect­Sto­rage ähnelt. Big accelerator Memory (BaM) heißt sie in diesem Fall. Und sie soll nicht beim Gaming, sondern in großen Datenzentren zum Einsatz kommen. Denn dort werden ebenfalls riesige Datenmengen in GPUs verarbeitet - insbesondere bei der Auswertung von Informationen für das Training von KI-Algorithmen. Die Grundzüge BaMs wurden jetzt in einem Forschungs-Paper vorgestellt.

Bisher sieht der Normalfall so aus, dass die Kommunikation zwischen dem Festspeicher und der CPU stattfindet. Letztere gibt dann bestimmte Berechnungen an die GPU weiter, bekommt die Ergebnisse zurück und schreibt sie wieder in den Speicher. Das ist bei Anwendungen, die nur für einen Teil der notwendigen Programm-Routinen die spezialisierten Grafikchips einsetzen, auch eine gute Lösung.

BaM wird Open Source

Anders sieht es aber eben beispielsweise bei der statistischen Auswertung großer Datenmengen für das KI-Training aus. Hier stellt es eindeutig einen Flaschenhals dar, alles erst durch die CPU schleusen zu müssen. Ähnlich sieht es auch bei verschiedenen anderen Anwendungen aus - wie etwa der Berechnung ökonomischer Modelle oder Simulation von Material-Eigenschaften.

Microsofts DirectStorage wird allerdings ein proprietäres Windows-API, das vornehmlich Spiele beschleunigen soll. Nvidia und IBM wollen BaM hingegen als Open Source-Projekt bereitstellen. Das wird es den Betreibern und Nutzern von Datenzentren dann auch ermöglichen, die Technologie gezielt auf die eigenen Bedürfnisse anzupassen. In Tests zeigte sich, dass eine BaM-Konfiguration spielend mehr Performance zusammenbringt, als eine klassische Variante, bei der die Daten statt auf dem Festspeicher komplett im schnellen DRAM vorgehalten werden.

Siehe auch: