LM Studio Download:
KI-Chatbots offline verwenden

Der LM Studio Download macht es möglich, verschiedene KI-Sprachmodelle vollständig offline auf dem heimischen PC zu nutzen - ganz ohne Kosten und Limits.

Beim Verwenden der quelloffenen Software verlassen persönliche Daten daher zu keinem Zeitpunkt den eigenen PC. Über die Benutzeroberfläche können eine Reihe verschiedener Sprachmodelle direkt heruntergeladen werden. LM Studio ist in der Version 0.4.15 verfügbar.
Ein Chat in LM Studio

LM Studio Download & Setup

LM Studio läuft in der hier zum Download bereitgestellten Version unter Windows. Voraussetzung ist ein Prozessor, der AVX2 unterstützt, was allerdings bei neueren PCs immer der Fall sein sollte.

Empfohlen sind weiterhin mindestens 16 GB RAM und 6 GB VRAM. Dedizierte GPUs von Nvidia oder AMD können die Arbeit mit dem Programm beschleunigen. Auf der Website des Projekts sind außerdem Versionen für Linux und Mac OS erhältlich.

Nach dem ersten Start der Software müssen Sie zunächst ein oder mehrere Sprachmodelle (Large Language Models oder kurz LLMs) herunterladen. Dies ist direkt über die Programmoberfläche möglich und es lassen sich sämtliche Modelle verwenden, die über die KI-Community-Plattform Hugging Face angeboten werden. LM Studio unterstützt die Architekturen Llama, Mistral, Phi-3, Falcon, StarCoder, StableLM, Gemma, Gemma 2 und GPT-NeoX.

Chatbots mit LM Studio privat und offline nutzen

Wurde ein Modell geladen, können Sie über LM Studio mit diesem kommunizieren. Beispielsweise kann der Chatbot bei der Lösung von Problemen helfen, indem er relevante Informationen zu Ihrem Thema bereitstellt. Auch kann er Texte wie Gedichte oder Briefe schreiben, Unterhaltungen zu unterschiedlichen Dingen führen oder sogar Spiele spielen. Hier kann es sich lohnen, verschiedene Sprachmodelle auszuprobieren, da deren Ergebnisse sich teilweise erheblich unterscheiden.

Sprachmodelle anpassen und direkt vergleichen

Während die Verwendung von LM Studio insgesamt recht einfach gehalten ist, bietet das Tool einige erweiterte Funktionen, von denen vor allem erfahrene Nutzer profitieren können. Beispielsweise lassen sich über eine Assistenz-Funktion Nachrichten in den Chat einbringen, ohne dass der Chatbot direkt auf diese antwortet. Dadurch können Sie ein Gespräch in eine bestimmte Richtung lenken.

Ebenfalls kann ein Systemprompt gesetzt werden, der dann für den gesamten Chat gilt. So können etwa die Sprache der Antworten sowie der Stil der Formulierungen beeinflusst werden. Auf Wunsch lässt sich LM Studio auch über einen OpenAI-kompatiblen lokalen Server betreiben.

Mit der Playground-Funktion werden Nutzeranfragen an mehrere Sprachmodelle gleichzeitig gesendet. Dadurch ist es möglich, diese direkt miteinander zu vergleichen.

LM Studio Alternativen

Eine gleichwertige Software gibt es mit GPT4All, in der Sie sogar auf lokale Dokumente zugreifen können. Möchten Sie hingegen mehrere Online-Chatbots gleichzeitig nutzen und vergleichen, bietet sich ChatAll als nützliches Werkzeug für diese Aufgabe an.