Googles Super-Chips: TPUs sparten Verdoppelung der Datenzentren ein

Google, TPU, Tensor Processing Unit Bildquelle: Google
Die Entwicklung eines eigenen Prozessor-Typs hat Google Einsparungen von mehreren Milliarden Dollar eingebracht. Die im letzten Jahr erstmalig erwähnten Tensor Processing Units (TPUs) schaffen nach neueren Verlautbarungen des Unternehmens nämlich ein vielfaches der Leistung bisheriger Chips.
Googles Tensor Processing UnitBoard mit TPU
Das gilt zumindest für ihren speziellen Anwendungsbereich: Den Betrieb von KI-Algorithmen. Bei entsprechenden Applikationen ist Google weltweit führend, was eben auch an den neuen Prozessoren liegen dürfte, die von dem Konzern selbst entwickelt wurden und zu denen man sich bisher ziemlich bedeckt hielt. Konkreteres zur Architektur hat das Unternehmen noch immer nicht verraten.

Der zuständige Hardware-Ingenieur Norm Jouppi gab laut einem Bericht der PCWorld nun aber zumindest einige weitere Einblicke in das Thema. Demnach fiel die Entscheidung für die Entwicklung eines speziellen Chips für KI-Anwendungen, als man vor vier Jahren die Infrastruktur-Anforderungen von Sprachsteuerungs-Diensten durchrechnete. Hier kam man zu einem sehr klaren Ergebnis: Wenn alle Google-Nutzer - insbesondere die zahlreichen Android-User - im Durchschnitt täglich drei Minuten auf die Sprachdienste zurückgreifen würden, bräuchte man bei gleicher technischer Grundlage schlicht die doppelte Menge an Datenzentren weltweit. Das hätte nahezu unüberschaubare Investitionen erfordert.

Glücklicherweise schaffte man es dann recht kurzfristig, die TPUs an den Start zu bringen, über deren Leistung man in einem jetzt veröffentlichten Forschungs-Paper eingeht. Bei den typischen Berechnungen hinter einer KI-Applikation erwiesen sich diese als 15 bis 30 Mal schneller als eine Server-CPU aus Intels Haswell-Reihe oder eine Nvidia K80-GPU. Und noch wichtiger: Beim Verhältnis Performance pro Watt kommen die Chips auf Werte, die 25 bis 80 Mal besser sind.


Latenz niedrig halten

Wie Jouppi ausführte, sei es letztlich den TPUs zu verdanken, dass die eigenen Sprachsysteme überhaupt eine Latenz an den Tag legen, mit der sie auch sinnvoll nutzbar sind. Denn allein schon die Übertragung der Anfrage vom Endgerät zum Server und der Rücksendung der Antwort über das Internet nehmen Zeit in Anspruch - da geht es dann bei der Berechnung der Anfrage im Datenzentrum wörtlich um jede Millisekunde.

Bei Google sieht man allerdings durchaus noch Möglichkeiten, die Performance der TPUs weiter hochzutreiben. Aktuell setzt man beispielsweise viel Hoffnung in die Anbindung besserer Arbeitsspeicher. Die GDDR5-Chips sollen hier noch einmal für einen ordentlichen Boost sorgen. Aber auch bessere Software-Modelle sollen helfen, noch wesentlich mehr aus den Chips herauszukitzeln. Google, TPU, Tensor Processing Unit Google, TPU, Tensor Processing Unit Google
Diese Nachricht empfehlen
Kommentieren10
Jetzt einen Kommentar schreiben


Alle Kommentare zu dieser News anzeigen
Kommentar abgeben Netiquette beachten!
Einloggen

Jetzt als Amazon Blitzangebot

Ab 00:05 Uhr Coulax SmartWatch, 1.3-Zoll Touch Farbdisplay Fitness Armbanduhr mit Pulsuhr, IP68 wasserdichte Sportuhr mit Schrittzähler Schlafmonitor SMS SNS Erinnerung, Stoppuhr für Damen HerrenCoulax SmartWatch, 1.3-Zoll Touch Farbdisplay Fitness Armbanduhr mit Pulsuhr, IP68 wasserdichte Sportuhr mit Schrittzähler Schlafmonitor SMS SNS Erinnerung, Stoppuhr für Damen Herren
Original Amazon-Preis
45,99
Im Preisvergleich ab
49,99
Blitzangebot-Preis
36,11
Ersparnis zu Amazon 21% oder 9,88

Video-Empfehlungen

WinFuture Mobil

WinFuture.mbo QR-Code Auch Unterwegs bestens informiert!
Nachrichten und Kommentare auf
dem Smartphone lesen.

Tipp einsenden