Irre: Entwickler staubt 70.000-€-Server zu lächerlichem Spottpreis ab

Ein Entwickler machte auf Reddit den Fund seines Lebens: Ein Nvidia-KI-Server für einen Bruchteil des Marktwertes. Doch hinter dem vermeintlichen Schnäppchen steckte ein riskantes Bastelprojekt, das allerdings zu einem erfolgreichen Abschluss kam.

High-End-Server zum Spottpreis

Wenn allein der aktuelle Marktpreis für den verbauten Arbeitsspeicher höher ist als der Betrag, den man für das komplette System bezahlt, hat man vermutlich das Geschäft seines Lebens gemacht. Genau so ist es dem in Berlin ansässigen Software-Entwickler David Noel Ng ergangen, der auf Reddit auf ein Angebot stieß, das fast zu gut klang, um wahr zu sein. Für 7500 Euro erwarb er dort einen gebrauchten KI-Server, der seiner Einschätzung nach den verbauten Komponenten zufolge eigentlich in einer Preisliga von etwa 70.000 Euro spielt.

Das absolute Highlight der Hardware-Zusammenstellung sind zum einen die verbauten Speichermodule. Die 960 Gigabyte LPDDR5X-RAM hätten bei den aktuellen durch die Speicherkrise bedingten Marktpreisen als Einzelkomponenten schon mehr gekostet als der gesamte Anschaffungspreis des Servers. Obendrein enthielt das System auch noch zwei Nvidia Hopper H100 Tensor Core GPUs, die alleine etwa je 30.000 - 40.000 Euro wert sind.


Das System basiert auf der extrem leistungsstarken Grace-Hopper-Plattform von Nvidia, kurz GH200, die üblicherweise klimatisierten Rechenzentren und Forschungseinrichtungen vorbehalten ist. Der Grund, warum der Server so günstig angeboten wurde war laut dem Verkäufer der Zustand der Hardware. Die ursprünglich wassergekühlte Server-Einheit war auf Luftkühlung umgebaut worden. Dieser Umbau brachte jedoch massive Probleme mit sich. Die Lautstärke der acht verbauten Lüfter glich der von Industriestaubsaugern, und das Gerät war im Inneren stark verschmutzt. Zudem lieferte das Netzteil 48 Volt und der Betrieb in einem typischen Server Rack war nicht möglich.

Vom Düsenjet zur Silent-Workstation

Trotz der offensichtlichen Mängel und des finanziellen Risikos entschied sich Ng, das Gerät persönlich bei einem Händler in Bayern abzuholen. Wie der Entwickler in seinem ausführlichen Blogbeitrag schildert, begann die eigentliche Arbeit erst nach dem Transport in die eigenen vier Wände. Um den Server überhaupt wohnzimmertauglich zu machen, musste das gesamte System zunächst komplett zerlegt und gereinigt werden. Mehrere Liter Isopropanol kamen zum Einsatz, um die Platinen und Komponenten von dicken Staubschichten und Rückständen zu befreien.

Die größte technische Herausforderung bestand jedoch in der Wiederherstellung einer funktionierenden und leisen Kühlung. Da es für diese spezielle OEM-Hardware keine Standard-Kühler auf dem Markt gibt, musste improvisiert werden. Ng konstruierte eigene Adapterplatten aus Kupfer, die er extra CNC-fräsen ließ. Diese wurden anschließend kreativ mit handelsüblichen All-in-One-Wasserkühlungen kombiniert. Doch auch die Elektronik spielte verrückt. So meldete ein Temperatursensor beim ersten Start zeitweise über 16 Millionen Grad Celsius.

Löten unter dem Mikroskop

Die tiefgehende Fehlersuche führte schließlich zu beschädigten SMD-Bauteilen auf der Hauptplatine, die vermutlich beim unsachgemäßen Transport oder der provisorischen Lüfter-Montage des Vorbesitzers in Mitleidenschaft gezogen wurden. Unter Einsatz eines Mikroskops gelang es dem Entwickler, die winzigen abgerissenen Widerstände und Kondensatoren wieder anzulöten. Ein Aufwand, der sich gelohnt hat, denn das fertige System bietet nun echte Enterprise-Leistung für das Training größerer KI-Modelle.
Der Server vor... ...und nach dem Umbau Die technischen Daten des finalen Systems sind beeindruckend:


Dank der aufwendigen Reparaturen und Modifikationen kann der Rechner seinem neuen Besitzer zufolge jetzt LLMs mit bis zu 235 Milliarden Parametern vollständig lokal ausführen. Das wäre mit herkömmlicher Consumer-Hardware selbst im absoluten High-End-Bereich aufgrund des begrenzten Speichers kaum realisierbar.

Würdet ihr euch trauen, auf ein derartiges Angebot einzugehen und teure Enterprise-Hardware selbst zu reparieren? Schreibt uns eure Meinung gerne in die Kommentare!


Siehe auch: