Singularity: Microsoft baut Super-Rechner aus tausenden GPUs weltweit

Microsoft hat jetzt erstmals ein System öffentlich vorgestellt, das sich aus sehr vielen weltweit verteilten Rechnern zusammensetzt und extrem effizient Berechnungen durchführen kann. Der Name der Infrastruktur lautet Singularity. Der Kern Singularitys ist ein Mechanismus zur Verteilung von Workloads. Dieser kann Berechnungen hinsichtlich ihres voraussichtlichen Aufwands und der Dringlichkeit analysieren und sorgt anschließend dafür, dass die Operationen an eine weltweite Flotte an Servern gegeben werden. In den diversen Datenzentren von Microsoft kann dabei auf hunderttausende GPUs und zusätzlich auch zahlreiche FPGAs zurückgegriffen werden.

Der hauptsächliche Anwendungsbereich ist natürlich das Training von KI-Algorithmen. Dafür müssen regelmäßig riesige Datenmengen ausgewertet werden. Normalerweise geschieht dies in einem Datenzentrum, das dafür einiges an Hardware vorhalten muss. Allerdings hat ein Konzern der Größe Microsofts und zusätzlich durch die Kunden in der Azure-Cloud ständig große Mengen an KI-Berechnungen durchzuführen.

Entkoppelung von Aufgabe und Hardware

Daher stellt es eine enorme Effizienz-Steigerung dar, wenn die weltweit verfügbaren Ressourcen für diesen Zweck möglichst optimal genutzt werden können. Die Aufgaben werden dafür in der Singularity-Infrastruktur von der Hardware entkoppelt, was es möglich macht, einem Projekt je nach Bedarf und Verfügbarkeit flexibel physische Geräte zuzuteilen.

Über ein neues Verfahren namens Replica Splicing können auf einem Server auch mehrere Aufgaben nebeneinander abgearbeitet werden, während der für die Steuerung nötige Overhead begrenzt bleibt. "Singularity erzielt einen bedeutenden Durchbruch bei der Planung von Deep-Learning-Workloads", heißt es in dem Paper, das eine Reihe von Microsoft-Entwicklern verfasst hat und in dem die Neuerungen, die man im Zuge der Singularity-Entwicklung erarbeitete, beschrieben werden.

Siehe auch: Microsoft trainiert eine KI, schwer entdeckbare Software-Bugs zu finden