Modellgröße wählen
Ein quantisiertes 8B-Modell ist genügsam. 32B und 70B brauchen deutlich mehr Speicher, können dafür komplexere Aufgaben besser abdecken.
Lokale KI. Deine Hardware. Deine Daten.
Der passende PC für dein eigenes lokales LLM
Finde heraus, wie viel Modellspeicher du wirklich brauchst – und welche Komplettsysteme zu Modellgröße, Tempo, Platz und Budget passen.
- ohne Cloud-Zwang
- speicherorientiert
- transparent verglichen
In drei Schritten zur passenden Klasse
Nicht jeder „AI PC“ ist ein guter LLM-PC
Für lokale Sprachmodelle zählt vor allem, ob Modell, Kontextspeicher und Laufzeit-Reserve gemeinsam in den schnellen Speicher passen. Eine hohe NPU-TOPS-Zahl allein beantwortet diese Frage nicht.
Tempo oder Kapazität?
Eine diskrete High-End-GPU bietet sehr hohes Tempo. Große Unified Memory kann größere Modelle aufnehmen – mit einem anderen Leistungsprofil.
Komplettsystem abgleichen
Kühlung, RAM-Aufteilung, SSD, Aufrüstbarkeit und die exakte GPU-Konfiguration entscheiden ebenso wie der Prozessorname.
Schnelle Orientierung
Welcher Speicherbereich passt?
Kompakte Modelle
Guter Startpunkt für 7B bis 14B in geeigneter Quantisierung und normale Kontextlängen.
Chat · Zusammenfassen · erste Coding-WorkflowsMehr Qualität und Tempo
Interessant für 20B bis 32B quantisiert oder mehrere kleinere Komponenten mit Reserve.
Coding · RAG · anspruchsvollere AssistentenGroße Modelle
Kapazitätsklasse für 70B-Modelle und große Kontexte – abhängig von Runtime und Quantisierung.
70B · lange Kontexte · Agenten-StacksDie Werte sind konservative Orientierung, keine Garantie. Architektur, Quantisierung, Kontext, KV-Cache und Runtime verändern den Bedarf.
Konkrete Komplettsysteme
Drei Hardwarewege für lokale KI
Wähle nach Modellgröße und Alltag: große Speicherkapazität im kompakten Gerät oder sehr hohe GPU-Geschwindigkeit im Tower.
Kapazitäts-Fokus · kompakt
MINISFORUM MS-S1 Max
Ryzen AI Max+ 395, bis zu 128 GB gemeinsam nutzbarer Speicher und 2-TB-Konfiguration: interessant, wenn große quantisierte Modelle wichtiger sind als maximale diskrete GPU-Geschwindigkeit.
- 128 GB Unified Memory
- 2 TB SSD-Konfiguration
- Kompakt statt Tower
Kompakter Einstieg · Unified Memory
GMKtec EVO-X2
Die 64-GB-Konfiguration verbindet ein kleines Gehäuse mit Ryzen AI Max+ 395. Sie bietet mehr gemeinsamen Speicher als typische Gaming-GPUs, bleibt aber unter der 128-GB-Klasse.
- 64 GB Unified Memory
- 1 TB SSD-Konfiguration
- Mini-PC Formfaktor
Tempo-Fokus · Desktop
RTX-5090-Komplettsysteme
Eine GeForce RTX 5090 mit 32 GB VRAM ist eine starke Basis für schnelle Inferenz bis in die 32B-Klasse. Bei größeren Modellen wird CPU-/RAM-Offloading zum Kompromiss.
- 32 GB diskreter VRAM
- Hohe Bandbreite für Inferenz
- Tower mit Kühlbedarf
* Werbelink. Bei einem Kauf können wir eine Provision erhalten; dein Preis bleibt unverändert. Als Amazon-Partner verdiene ich an qualifizierten Verkäufen. Exakte Ausstattung und aktuelle Verfügbarkeit bitte beim Anbieter prüfen.
Dein Nutzungsprofil zählt
Vom Modell zum passenden PC – in etwa einer Minute
Der Finder berücksichtigt Modellklasse, Kontextlänge, Einsatzzweck und deine wichtigste Priorität. Das Ergebnis ist eine nachvollziehbare Hardwareklasse statt einer scheinpräzisen Einzelantwort.
Nach deinem Hauptziel wählen
Welche Art von System hilft dir wirklich?
Schnelles Coding und RAG
Für überwiegend 8B- bis 32B-Modelle ist eine RTX 5090 mit 32 GB VRAM besonders schnell. Achte zusätzlich auf mindestens 64 GB System-RAM und 2 TB NVMe.
RTX-5090-Kaufcheck70B privat ausführen
128 GB Unified Memory schaffen Platz für viele quantisierte 70B-Modelle samt Reserve. Die Antwortgeschwindigkeit liegt jedoch unter großen professionellen GPUs.
70B-HardwarepfadeKompakter Alltags-PC
Ein 64-GB-Mini-PC passt gut zu 20B- bis 32B-Modellen. Plane wegen verlötetem RAM die Endkapazität sofort und nutze einen zweiten M.2-Platz für Modelle.
64 und 128 GB vergleichen