- 30.10.26
- 22:57
- Artikel
-
+1-1
OpenAI-Chef: Arbeitsspeicher in Client-PCs eine "schreckliche" Idee
Der Artikel ist aber sehr irreführend geschrieben, da erst der vorletzte Absatz den eigentlichen Kontext liefert.
Es ist nen Himmelweiter Unterschied, popelige 16-32GB in einen Client PC zu packen, damit Windows und ein paar Games laufen oder 128GB+ damit man leistungsfähige LLMs lokal laufen lassen kann.
Letzteres ist in der Tat eine ziemlich blödsinnige und ineffiziente Idee, denn egal wieviel RAM / VRAM ich in einen client PC stecke, das lokale LLM wird nie mit dem eines Rechenzentrums mithalten können.
Kommentare
8.928
Kommentare
geschrieben
4.960
Antworten
erhalten
10.630
Likes
erhalten
Glasfaservollausbau in Mietshäusern: Kritik an Zugangsregeln wächst
In anderen Ländern wird's einfach gemacht, in DE wird erstmal 10 Jahre debattiert.
Genauso wie der Scheiß mit dem Handelsabkommen mit Kanada... worüber debattiert die EU? Über den verdammten NAMEN.
Der Premier von Kanada sagt einfach salopp: "Der Name ist egal."
Unsere Politik ist einfach so unfassbar lost.
Glasfaservollausbau in Mietshäusern: Kritik an Zugangsregeln wächst
@stf: This is the way.
OpenAI-Chef: Arbeitsspeicher in Client-PCs eine "schreckliche" Idee
@Johnny Cache: Ist die Frage wovon man redet. Kleine Agenten gibts jetzt schon lokal. Ich bezog mich aber auf leistungsfähige LLMs für die VRAM im TB Bereich nötig ist.
Die werden nicht mal eben in client computer wandern.
OpenAI-Chef: Arbeitsspeicher in Client-PCs eine "schreckliche" Idee
@yagee: Ich rede von den großen, leistungsfähigen LLMs. Die werden nicht in absehbarer Zeit so klein, dass die einfach so auf einem client Rechner laufen.
Popelige Agenten, die letzten Endes eh nur nach Hause telefonieren, meinte ich damit nicht.
Abgesehen davon: ich sehe derzeit den Bedarf für Endverbraucher nicht.
OpenAI-Chef: Arbeitsspeicher in Client-PCs eine "schreckliche" Idee
@yagee: Nope.
Dafür hast du schlicht und ergreifend nicht die processing power.
Wir reden hier von normalen Client Rechnern, nicht von kleinen Server Clustern einer Firma.
OpenAI-Chef: Arbeitsspeicher in Client-PCs eine "schreckliche" Idee
Der Artikel ist aber sehr irreführend geschrieben, da erst der vorletzte Absatz den eigentlichen Kontext liefert.
Es ist nen Himmelweiter Unterschied, popelige 16-32GB in einen Client PC zu packen, damit Windows und ein paar Games laufen oder 128GB+ damit man leistungsfähige LLMs lokal laufen lassen kann.
Letzteres ist in der Tat eine ziemlich blödsinnige und ineffiziente Idee, denn egal wieviel RAM / VRAM ich in einen client PC stecke, das lokale LLM wird nie mit dem eines Rechenzentrums mithalten können.
Das offene Web verschließt sich: Reddit plant Login-Zwang
Öööh ... und was hindert einen AI scarper jetzt daran nen paar burner Accounts anzulegen und weiterzusammeln?
Bekannt aus Star Trek und X-Men: Patrick Stewart ist gestorben
@PiXXelkiller: Oh Gott, ich hab das in Q's Stimme gelesen. :'D
Student baut gesamte Schweiz 1:1 in Minecraft nach - Das Ergebnis
Absolut durchgeknallt .... aber iwie cool.
Wenn man so eine Karte jetzt noch mit gameplay füllen könnte.
Bekannt aus Star Trek und X-Men: Patrick Stewart ist gestorben
Damn... es fängt also an dass meine Kindheitshelden nun sterben.
Die Einschläge rücken näher.
Möge er in Frieden ruhen.