Schlechte Nachricht für Gamer:
Mod verdoppelt GeForce-Tensor-Leistung

Modder haben Wege gefunden, künstliche Leistungsbeschränkungen für KI-Berechnungen bei mehreren Generationen von GeForce-Karten aufzuheben. Der Tensor-Durchsatz bei RTX-20-, RTX-30- und RTX-40-Modellen wird nahezu verdoppelt - für Gamer keine gute Nachricht.

Künstliche Limits umgangen

Modder haben Wege gefunden, die von Nvidia ab Werk künstlich auferlegten Beschränkungen der Rechenleistung der Tensor-Kerne bei mehreren Generationen von GeForce-Grafikkarten aufzuheben. Was mit der RTX 3090 begann, hat sich nun auf die Modelle der RTX-40-Serie und sogar auf ältere RTX-20-Karten ausgeweitet. Für Endanwender bedeutet das eine höhere Rechengeschwindigkeit bei lokalen KI-Aufgaben. Die reine Spieleleistung wird dadurch nicht verbessert.

Die neuen Mods bauen auf früheren Versuchen auf, eingeschränkte Rechenkapazitäten bei CMP-Mining-GPUs von Nvidia freizuschalten. Der Entwickler Zagitta passte die Techniken über das Open-Source-Projekt GPU-Unlock zunächst für Karten der Ampere-Architektur an. Mittlerweile gibt es auch Versionen für die Ada-Lovelace- und die Turing-Architektur. Die Modifikationen erfordern weder Änderungen an der Hardware noch das Aufspielen eines neuen VBIOS. Stattdessen verändern die Werkzeuge bestimmte Konfigurationsregister der GPUs auf niedriger Ebene.

Leistung auf Workstation-Niveau

Wie TechPowerUp berichtet, setzen die Werkzeuge die Register, bevor das Betriebssystem den regulären Treiber lädt. Die Änderungen sind allerdings temporär und werden zurückgesetzt, sobald die GPU vom Strom getrennt wird. Durch den Eingriff kann sich der Durchsatz bei spezifischen Tensor-Operationen jedoch nahezu verdoppeln. Damit bieten die Consumer-Modelle teils die gleiche Leistung wie Nvidias professionelle Workstation-Karten. Die Leistungsaufnahme der Platinen bleibt laut Tests dabei aber unverändert.

Bei Modellen mit Ampere- und Ada-Lovelace-Architektur (RTX 30 und RTX 40) zeigen sich bei FP16- und BF16-Operationen mit FP32-Akkumulation messbare Zuwächse in der Rechenleistung. Bei der GeForce RTX 4090 verdoppelt sich die Leistung bei FP16-Operationen von 165,6 auf 331,6 TFLOPS. Die GeForce RTX 3090 Ti verzeichnet bei BF16-Berechnungen eine Zunahme von 87,5 auf 157,4 TFLOPS, während sich der Wert bei der GeForce RTX 2080 Ti von 59,9 auf 111 TFLOPS erhöht. Die Leistungszugewinne durch GPU Unlock sind enorm Aktuell zielen die Mods auf Linux-Systeme ab, wohingegen Windows-Implementierungen lediglich experimentellen Status haben. Nutzer verwenden die Werkzeuge auf eigene Gefahr, da inkompatible Konfigurationen den Systemstart blockieren können und die Garantie der Grafikkarte erlischt. Für Karten der RTX-50-Serie mit Blackwell-Chips gibt es bislang keine funktionierende Lösung.

Folgen für den Alltag

Die tatsächlichen Vorteile im Alltag hängen stark von der Nutzung ab. Bei der lokalen Textgenerierung mit großen Sprachmodellen ist häufig die Speicherbandbreite der limitierende Faktor. Bei einer RTX 3090 verarbeitet die entsperrte Karte die Eingaben der Nutzer dank der Mod zwar um etwa 14 bis 36 Prozent schneller, die anschließende Ausgabe der einzelnen Token wird dadurch jedoch kaum beschleunigt.

Modelle wie die RTX 3090 und RTX 4090 sind durch ihren 24 Gigabyte großen Videospeicher bereits bei KI-Anwendern begehrt. Da sich die Rechenleistung nun durch die Software-Modifikationen an das Niveau von Workstation-Karten wie der RTX 6000 Ada Generation annähert, könnte der Gebrauchtmarkt für ältere GeForce-Modelle von Firmen leergekauft werden, die die Karten für den Einsatz in KI-Rechenzentren umfunktionieren. Das dürfte die Preise selbst für mehrere Generationen alte Karten weiter in die Höhe treiben und die mittlerweile ohnehin limitierte Auswahl für Gamer noch weiter einschränken.

Werdet ihr die Modifikationen ausprobieren oder ist euch der Eingriff zu riskant? Mit welchen Folgen für den Gebrauchtmarkt rechnet ihr? Teilt eure Einschätzung in den Kommentaren! Siehe auch: