Strata: Große KI-Modelle auf dem eigenen PC – was hinter „ab 12 GB“ steckt
Strata verteilt die KI-Berechnung auf Grafikkarte, Prozessor, RAM und SSD. Was das für lokale KI bringt, welche Hardware zusätzlich nötig ist und wie sich veröffentlichte Geschwindigkeitswerte einordnen lassen.

Ein großes KI-Modell auf dem eigenen PC, ohne jede Anfrage an einen Cloudanbieter zu schicken: Genau das macht Strata interessant. Das Projekt verteilt die Arbeit auf Grafikkarte, Prozessor, Arbeitsspeicher und SSD. Dadurch werden Modelle lokal nutzbar, die nicht vollständig in den Grafikspeicher passen. Die oft genannte Einstiegshürde von 12 GB braucht allerdings eine Erklärung.
Was Strata eigentlich ist
Strata ist eine offene Software zum Ausführen von KI-Modellen, keine eigene KI und kein Trainingsverfahren. Das offizielle GitHub-Repository beschreibt eine Desktop-App, eine Kommandozeilensteuerung und die dahinterliegende Rechenengine. Nutzer können chatten, Code erzeugen und mit geeigneten Modellen Bilder auswerten. Als dokumentierten Versionsstand betrachten wir Strata 0.2.2 vom 21. Oktober 2026.
Ein Schwerpunkt ist Qwen3.8-Flash-Next. Nach der offiziellen Modellbeschreibung des Qwen-Teams besitzt dessen Hauptmodell 125 Milliarden Parameter, von denen pro Token etwa sechs Milliarden aktiv sind. Hinzu kommen eine große Nachschlagetabelle und ein Hilfsmodul zur Vorhersage weiterer Tokens. Die Zahl 125 Milliarden beschreibt also nicht sämtliche Bestandteile zusammen.
Warum ein so großes Modell auf eine kleine Grafikkarte passt
Das Modell arbeitet nach dem Prinzip Mixture of Experts: Für einen Verarbeitungsschritt wird nur ein Teil seiner spezialisierten Rechenbausteine gebraucht. Laut Stratas technischer Erklärung hält die Grafikkarte häufig benötigte Bausteine bereit. Andere liegen im Arbeitsspeicher und werden vom Prozessor berechnet. Eine zusätzliche Nachschlagetabelle bleibt auf der SSD.
Anschaulich ist das wie eine Werkstatt: Die wichtigsten Werkzeuge liegen griffbereit auf der Arbeitsfläche, weitere im Regal. Die Arbeitsfläche muss deshalb nicht alles gleichzeitig aufnehmen. Allerdings verschwindet der Platzbedarf nicht – er verteilt sich auf den ganzen Rechner. Auch dessen langsamere Bestandteile können damit das Tempo begrenzen.
Was „ab 12 GB“ in der Praxis bedeutet
Gemeint sind 12 GB Grafikspeicher, nicht 12 GB Gesamtspeicher für den PC. Die Installationsdokumentation nennt passende Grafikkarten, Treiber und zusätzliche Anforderungen. Der tatsächlich nötige Arbeitsspeicher hängt von der Modellvariante ab. Auch der Speicherplatz auf der SSD ist ein eigener Posten.
| Bestandteil | Worauf es ankommt |
|---|---|
| Grafikkarte | 12 GB VRAM sind ein verbreiteter Einstieg für unterstützte Karten; Hersteller und konkrete Baureihe müssen passen. |
| Arbeitsspeicher | 32 GB RAM ermöglichen bestimmte kleinere Varianten. Mit 64 GB RAM ist bei den üblichen stark komprimierten Varianten mehr Spielraum vorhanden. |
| SSD | Viele Modellpakete brauchen etwa 70 bis 80 GB, zusätzliche Dateien und vorbereitete Kopien können deutlich mehr Platz belegen. |
Eine Karte mit 12 GB allein ist somit keine Zusage, dass jede Variante flüssig läuft. Der Installer hilft bei der Auswahl. Wer wenig freien RAM hat, muss mit stärkerer Auslagerung und längeren Wartezeiten rechnen. Gerade beim ersten Start kann der Rechner vorübergehend stark beschäftigt sein.
Kleinere Varianten sparen Speicher – mit Kompromissen
Die Modellübersicht unterscheidet verschiedene Kompressionsstufen und abgeleitete Varianten. Bei der sogenannten Quantisierung werden Zahlenwerte mit weniger Genauigkeit gespeichert. Das senkt den Speicherbedarf und kann die Berechnung beschleunigen, kann aber auch die Antwortqualität verändern.
Hinzu kommen speziell angepasste Modelle. Die Coder-Variante behält beispielsweise nur einen Teil der Experten und ist auf Code ausgerichtet. Das Projekt warnt vor schwächeren Ergebnissen außerhalb dieses Bereichs. Unsere Einschätzung: Entscheidend ist deshalb nicht, ob irgendein großes Modell startet, sondern ob die gewählte Variante die eigenen Aufgaben zuverlässig genug löst.
Wie schnell ist Strata wirklich?
Veröffentlichte Messungen zeigen, dass brauchbare Geschwindigkeiten erreichbar sind. Ein Community-Bericht vom 9. Oktober dokumentiert etwa 45 ausgegebene Tokens pro Sekunde bei einem kurzen Prompt mit Q2_0 auf einer RTX 3060 mit 12 GB. Der Rechner hatte zusätzlich einen Core i7-12700 und 64 GB RAM; verwendet wurde Strata 0.1.41.
Diese Zahl ist keine Messung der aktuellen Version auf jedem vergleichbaren PC. Der Bericht nennt eigene Grenzen, darunter beobachtete Temperaturdrosselung und nicht vollständig kontrollierte Hintergrundlast. Außerdem ist die Ausgabe pro Sekunde nur ein Teil des Erlebnisses: Lange Dokumente müssen zunächst eingelesen werden, bevor die Antwort beginnt.
Die Benchmark-Dokumentation fordert deshalb Angaben zu Hardware, Modell, Version und Einstellungen. Ein einheitliches Testprotokoll befindet sich dort noch im Entwurfsstadium. Das ist ein guter Grund, Spitzenwerte als Orientierung zu lesen und keine pauschale Gleichwertigkeit mit Cloudmodellen daraus abzuleiten.
Lokale KI bringt Kontrolle, aber nicht automatisch vollständige Abschottung
Der praktische Vorteil liegt auf der Hand: Für lokale Antworten muss der Inhalt einer Anfrage nicht zu einem entfernten Modellanbieter übertragen werden. Laut Sicherheits- und Datenschutzhinweisen des Projekts sind nach dem Herunterladen der benötigten Dateien auch Offline-Chats möglich; Nutzungstelemetrie werde nicht versendet. Das sind dokumentierte Projektangaben, keine von uns durchgeführte Sicherheitsprüfung.
Dieselbe Dokumentation nennt ausdrücklich Ausnahmen: Websuche, aufgerufene Webseiten, hinzugefügte externe Modelle und andere aktivierte Verbindungen können Daten nach außen übertragen. Verbundene Programme haben außerdem ihr eigenes Netzwerkverhalten. Wer mit vertraulichen Inhalten arbeitet, sollte daher den gesamten Ablauf betrachten.
Für wen sich ein Blick lohnt
Strata ist vor allem interessant, wenn bereits passende Hardware vorhanden ist und mehr Kontrolle über die eigene KI-Nutzung gewünscht wird. Texte entwerfen, mit Code experimentieren oder eigene Dokumente untersuchen sind naheliegende Einsatzfelder. Über kompatible Schnittstellen lässt sich die lokale Engine auch mit anderen Anwendungen verbinden.
Kostenloser Programmcode bedeutet dabei nicht kostenlosen Betrieb: Strom, Speicherplatz, Einrichtung und Wartung bleiben beim Nutzer. Zudem steht Strata selbst unter MIT-Lizenz, während die Modelle eigene Bedingungen haben. Qwen3.8-Flash-Next verwendet beispielsweise die Qwen Community License 1.0. Für einen geplanten kommerziellen Dienst ist deshalb die Modelllizenz gesondert zu prüfen.
Unser Fazit: Strata macht große lokale Modelle zugänglicher, hebt ihre Hardwareanforderungen aber nicht auf. Der spannende Fortschritt liegt darin, vorhandene Ressourcen geschickt zusammenzunutzen. Wie gut das im Alltag funktioniert, entscheidet sich an passenden Modellvarianten und den eigenen Aufgaben.
Quellen und Stand
Recherchestand: 22. Oktober 2026. Anlass ist das Video „Wirklich so gut? | Lokale KI ab 12 GB“ von Jan-Keno Janssen. Grundlage der Einordnung sind die verlinkten offiziellen Dokumentationen, die Qwen-Modellbeschreibung und der gekennzeichnete Community-Benchmark. Ein eigener Praxistest wurde nicht durchgeführt. Das Beitragsbild ist eine KI-generierte Symbolillustration.
Kommentare
Noch keine Kommentare. Schreiben Sie den ersten.