Ollama oder LM Studio: Lokale KI unter Windows einrichten

Du willst einen KI-Chatbot nutzen, aber nichts in die Cloud schicken? Das geht: Mit kostenlosen Programmen wie Ollama oder LM Studio laufen Sprachmodelle direkt auf deinem Windows-PC. Die Texte bleiben auf deinem Rechner, es gibt keine Abo-Gebühr, und du kannst auch ohne Internet arbeiten. Die Frage ist nur: Welches Programm passt zu dir, und wie fängst du an, ohne dich in Fachbegriffen zu verlieren? Dieser Einsteiger-Ratgeber vergleicht beide Werkzeuge und führt dich durch die ersten Schritte. Quellen: ein Vergleich von SitePoint (veröffentlicht am 25.02.2026, aktualisiert am 03.10.2026, ein unabhängiger Verlag) und eine Anleitung des Herstellers Corsair (ohne Datum), die zugleich ein eigenes Produkt bewirbt. Beide Tools entwickeln sich schnell, Versionsnummern und Menüs ändern sich. Eigene Hinweise kennzeichnen wir. Welche Hardware du für große Modelle brauchst, erklärt PC für lokale KI.

Ollama oder LM Studio: Der Unterschied

SitePoint empfiehlt LM Studio für visuelles Ausprobieren und Ollama für Terminal-Arbeit und Einsatz in Skripten. Das beste Werkzeug sei das, das deine eigene Aufgabe besteht und das du pflegen kannst. Wir ergänzen als Faustregel für Einsteiger: Wenn du lieber klickst, starte mit LM Studio. Beachte außerdem den Hinweis der Quelle, dass Ollama auch Cloud-Modelle anbietet. Wenn dir lokale Verarbeitung wichtig ist, prüfe, ob ein Modell wirklich lokal läuft.

Hardware: Was reicht für den Einstieg?

Corsair nennt als Richtwerte 16 bis 32 GB Arbeitsspeicher für Modelle mit 7 bis 13 Milliarden Parametern, mehrere Dutzend GB freien Platz auf einer SSD (Festplatten gelten als zu langsam) und eine Grafikkarte als optional, aber hilfreich. Ohne Grafikkarte laufen kleinere Modelle auf dem Prozessor, jedoch langsamer. Die Angabe, neuere Ryzen-AI-Max-Systeme könnten Systemspeicher als Grafikspeicher mit bis zu 96 GB nutzen, ist Werbung für ein Corsair-Produkt, und der tatsächliche Durchsatz hängt laut Artikel von Modellgröße und Einstellungen ab. SitePoint nennt keine festen Hardwarewerte und weist auf etwas Wichtiges hin: Die Download-Größe eines Modells sagt nicht, wie viel Speicher es wirklich braucht, denn Kontext-Cache und Laufzeit benötigen zusätzlich Platz. Quantisierung verkleinert zwar die Gewichte, ersetzt aber keine Planung.

Unsere Empfehlung: Beginne mit einem kleinen Modell, prüfe, ob eine Anfrage funktioniert, und steigere dann Größe oder Kontext. So findest du die Grenzen deines PCs, ohne ihn zu überlasten. Mehr zu Speicher und Preisen steht in RAM-Kapazität und RAM- und SSD-Preiskrise.

Erste Schritte mit Ollama (nach Corsair)

1. Installiere Ollama über den Installer von der Hersteller-Webseite oder per Befehl winget install --id Ollama.Ollama.
2. Starte die App und prüfe mit ollama --version, ob alles läuft.
3. Lade ein Modell und starte es, zum Beispiel mit ollama run llama3:8b. Danach kannst du direkt Fragen eingeben.
4. Für GPU-Beschleunigung: Grafiktreiber aktuell halten und im Task-Manager prüfen, ob die GPU ausgelastet wird.

Wenn Treiberprobleme auftreten, hilft Grafiktreiber sauber neu installieren. Die Befehle und Modellnamen stammen aus der Corsair-Anleitung und können sich ändern. Prüfe sie in der Ollama-Dokumentation.

Erste Schritte mit LM Studio

1. Installiere das Desktop-Programm von der Webseite des Herstellers.
2. Nutze die integrierte Modellsuche, um ein kleines Modell zu laden.
3. Öffne den Chat und teste eine Anfrage. SitePoint rät ausdrücklich, erst eine Anfrage zum Laufen zu bringen, bevor du größere Modelle oder Kontexte wählst.
4. Bei Bedarf kannst du einen lokalen Server starten, der anderen Programmen eine Schnittstelle anbietet (SitePoint).

Hinweis: Die Modell-Kennungen sind je Werkzeug verschieden. Ein Ollama-Name ist nicht automatisch ein LM-Studio-Modell, so SitePoint. Die Schnittstellen sind nicht austauschbar, nutze die dokumentierte kompatible Route.

Welches Modell passt?

Corsair gliedert grob: klein und schnell (zum Beispiel ein Modell mit 1 Milliarde Parametern oder eines der Klasse 8B), ausgewogen mit 7 bis 13 Milliarden Parametern, groß mit über 20 Milliarden Parametern, was deutlich mehr Arbeits- oder Grafikspeicher braucht. Empfohlen wird, mit einer Kontextlänge von 4.000 bis 8.000 Token zu beginnen, weil sehr große Kontexte stark bremsen. Die meisten Modelle seien bereits quantisiert. Als Zusatz nennt der Artikel Open WebUI, eine selbst gehostete Chat-Oberfläche, die auf Ollama aufsetzt. Für Texte auf Deutsch lohnt der Test mehrerer Modelle, denn die Qualität unterscheidet sich (eigene Beobachtung). Zu Preisen und Kosten siehe Lokale KI und Kosten sparen.

Grenzen: Das kann lokale KI (noch) nicht

• Kleine lokale Modelle erreichen oft nicht die Qualität sehr großer Cloud-Modelle (allgemeine Einschätzung).
• Auch lokale Modelle halluzinieren, prüfe Fakten selbst.
• Sie verbrauchen Strom und belasten die Hardware, siehe Stromkosten Gaming-PC.
• Cloud-Funktionen in den Tools sind nicht automatisch lokal. Lies die Hinweise der Programme.

Datenschutz: Was lokal bedeutet

Wenn das Modell auf deinem PC läuft, verlassen Texte den Rechner nicht, solange du keine Cloud-Funktionen oder externe Plugins aktivierst. Das ist ein Vorteil für vertrauliche Dokumente. Wie du mit Cloud-Chatbots umgehst, erklärt KI-Chatbots und Datenschutz.

So testest du dein Setup sinnvoll

Stelle dieselbe Aufgabe zwei verschiedenen Modellen, zum Beispiel eine Zusammenfassung eines kurzen Textes oder eine Erklärung eines Fachbegriffs, und vergleiche Qualität und Geschwindigkeit. Beobachte beim Test im Task-Manager die Auslastung von Arbeitsspeicher und Grafikkarte. Wenn der Rechner anfängt zu ruckeln oder das Modell kaum antwortet, ist es zu groß. Wähle dann ein kleineres Modell oder verkürze den Kontext. So lernst du schnell, was dein PC leisten kann, ohne Geld für neue Hardware auszugeben.

Häufige Fragen

Brauche ich eine Grafikkarte?

Nicht zwingend. Kleine Modelle laufen laut Corsair auf der CPU, aber langsamer. Eine Grafikkarte beschleunigt deutlich.

Sind Ollama und LM Studio kostenlos?

Laut Corsair ja. Prüfe die aktuellen Bedingungen auf den Herstellerseiten.

Kann ich beide parallel installieren?

Ja. Beachte, dass die Modelle jeweils eigene Speicherplätze belegen können.

Wie viel Speicherplatz brauche ich?

Corsair nennt mehrere Dutzend GB auf einer SSD. Große Modelle brauchen mehr.