Ollama Download:
KI-Sprachmodelle lokal verwenden

Der kostenlose Download von Ollama ermöglicht es, KI-Sprachmodelle lokal und privat auf Windows-PCs auszuführen - ideal für den Datenschutz!

Eine grafische Benutzeroberfläche ermöglicht den einfachen Download von Sprachmodellen und direkte Gespräche mit Chatbots. Dadurch ist Ollama 0.31.2 mittlerweile selbst für Einsteiger leicht zugänglich.
Ollama für Windows

Ollama Download & Installation

Ollama läuft unter Windows 10 und Windows 11 mit mindestens 4 GB freiem Festplattenspeicherplatz. Für die Installation weiterer Sprachmodelle wird zusätzlicher Platz benötigt. Ollama unterstützt sowohl Nvidia- als auch AMD-Grafikkarten.

Die genauen Anforderungen an die GPU und den Arbeitsspeicher hängen von den genutzten Modellen ab. Ollama ist Open Source und außerdem für Linux und MacOS verfügbar.

Ollama macht KI-Sprachmodelle offline verfügbar

Nach dem Start läuft Ollama zunächst verborgen im Infobereich der Taskleiste und kann durch Anklicken des entsprechenden Symbols geöffnet werden. Über das Chatfenster wählen Sie nun ein großes Sprachmodell (LLM) wie z. B. Gemma, Deepseek, Qwen oder Llama aus und senden eine Nachricht an den Chatbot. Sie können sogar Dateien anhängen.

Die erforderlichen Daten werden bei der ersten Verwendung automatisch heruntergeladen. Anschließend arbeitet das Sprachmodell vollständig offline auf der eigenen Hardware. Eine Kommunikation nach außen findet nicht statt, sodass Gespräche stets privat bleiben und nie den Computer verlassen.

Cloud-Modelle und Eingabeaufforderung

Zusätzlich zu den lokalen Sprachmodellen unterstützt Ollama Cloud-Modelle, die dann auf externer leistungsfähiger Hardware laufen. Die Entwickler versprechen auch hier, dass keine Nutzerdaten gespeichert werden. Für die Verwendung ist allerdings ein Benutzerkonto erforderlich.

Fortgeschrittene Nutzer greifen zusätzlich mit dem Befehl ollama über die Eingabeaufforderung auf die Anwendung zu und laden so noch deutlich mehr Modelle herunter, um Ollama für komplexere Aufgaben und Automatisierungen nutzen zu können.

Ollama Altrnativen

Mit LM Studio und Jan nutzen Sie ebenfalls viele Sprachmodelle komplett offline. Es gibt auch eigene Windows-Anwendungen für rein online arbeitende Chatbots wie ChatGPT und Perplexity.