- 29.01.25
- 13:31
- Artikel
-
+2
Experten: DeepSeek ist ein Security-Albtraum, erfasst Tastenanschläge
@1ST1: hast du eine halbwegs (1xxx) neue nvidia GPU oder eine (neuere) rocm compatible AMD Karte? Dann hast du schon genug um zumindest kleinere Modelle zum laufen zu kriegen, und der Strombedarf hält sich, bei ein einzelnen User, auch ziemlich in Grenzen (weit weniger als wenn z.B. auf einer PS5 gezockt wird, da die GPU nur sporadisch arbeitet und nicht dauernd).
Die Modelle selber sind nicht soooo platzintensiv, es sei denn du gehst gleich an das 671b Model ran, aber das kann sich eigentlich keine Privatperson leisten. Sogar manche 3B Modelle (llama3.2:3b zum Beispiel) sind, für ihre Grösse, sehr gut.
Sind die kleinen Modelle so gut wie GPT (oder Deepseek 671b)? noe ... natürlich nicht, aber definitiv "gut genug" für die meisten Anwendungen.
Kommentare
2
Kommentare
geschrieben
2
Antworten
erhalten
7
Likes
erhalten
Experten: DeepSeek ist ein Security-Albtraum, erfasst Tastenanschläge
@1ST1: hast du eine halbwegs (1xxx) neue nvidia GPU oder eine (neuere) rocm compatible AMD Karte? Dann hast du schon genug um zumindest kleinere Modelle zum laufen zu kriegen, und der Strombedarf hält sich, bei ein einzelnen User, auch ziemlich in Grenzen (weit weniger als wenn z.B. auf einer PS5 gezockt wird, da die GPU nur sporadisch arbeitet und nicht dauernd).
Die Modelle selber sind nicht soooo platzintensiv, es sei denn du gehst gleich an das 671b Model ran, aber das kann sich eigentlich keine Privatperson leisten. Sogar manche 3B Modelle (llama3.2:3b zum Beispiel) sind, für ihre Grösse, sehr gut.
Sind die kleinen Modelle so gut wie GPT (oder Deepseek 671b)? noe ... natürlich nicht, aber definitiv "gut genug" für die meisten Anwendungen.
Experten: DeepSeek ist ein Security-Albtraum, erfasst Tastenanschläge
Jeder kann sich die ganzen DeepSeek Modelle (auch die distillierten) herunterladen und lokal laufen lassen, wenn die technischen Vorraussetzungen erfüllt sind (möglichst viel VRAM hauptsächlich) und muss dann nicht die DeepSeek Website besuchen (oder gar noch eine Internet Verbindung haben, wenn einmal das Model da ist).
Und wer sich an den China-spezifischen guardrails stört kann auch 'abliterated' Versionen holen oder selbst erstellen ... etwas das bei OpenAI Modelle NICHT möglich ist.
Der Artikel ist reines Clickbait (und ja ... auch ich bin wohl drauf reingefallen)