Kaufberatung für lokale KI
Vergleiche vollständige KI-Rechner danach, welche Modelle in den schnellen Speicher passen, wie gut sich Massenspeicher und Netzwerk erweitern lassen und welche Kompromisse bei Tempo, Platzbedarf und Lautstärke entstehen.
Die wichtigste Entscheidung
64 bis 128 GB gemeinsam nutzbarer Speicher können große quantisierte Modelle aufnehmen. Das ist kapazitätsstark und kompakt, erreicht aber typischerweise nicht das Inferenztempo einer großen diskreten GPU.
Ideal: 32B bis 70B mit KapazitätsfokusKI-Mini-PCs vergleichen32 GB dedizierter VRAM und hohe Speicherbandbreite sind stark für Modelle, die vollständig auf der GPU liegen. Für 70B sind meist CPU-/RAM-Offloading oder stärkere Quantisierung nötig.
Ideal: schnelle 8B bis 32B WorkflowsEin spezialisiertes NVIDIA-System kann großen Unified Memory mit CUDA-Werkzeugen verbinden. Dafür sind ARM-Prozessor, Linux und ein stärker auf Entwicklung als auf klassischen Desktop-Alltag zugeschnittenes System einzuplanen.
Ideal: CUDA-native Entwicklung und große Modelle
Schnellauswahl nach Einsatzzweck
Den einen besten AI-PC gibt es nicht: Modellgröße, gewünschtes Tempo und Software-Unterstützung führen zu unterschiedlichen Systemen. Diese Vorauswahl nennt für jedes Ziel einen konkreten Hardwareweg.
| Dein Ziel | Passender Hardwareweg | Konkrete Systeme | Warum |
|---|---|---|---|
| 7B bis 14B, günstiger Einstieg | 12 bis 16 GB dedizierter VRAM, mindestens 32 GB RAM | GPU-Klasse bestimmen | Genug Reserve für viele kompakte Modelle und normale Kontextlängen. |
| 20B bis 32B, hohes Tempo | RTX-5090-Desktop mit 32 GB VRAM | RTX-5090-Komplett-PCs | Hohe Speicherbandbreite und ein breit unterstützter CUDA-Pfad. |
| Große Modelle bis 70B, kompakt | 128 GB Unified Memory | GMKtec EVO-X2 oder MS-S1 Max | Der große gemeinsame Speicher priorisiert Modellkapazität bei kleinem Platzbedarf. |
| Professioneller Windows-Arbeitsplatz | Ryzen AI Max+ PRO mit Hersteller-Support | HP Z2 Mini G1a | Business-Konfiguration, internes Netzteil und Thunderbolt 4. |
| NVIDIA-Stack und große Modelle | GB10-Appliance mit 128 GB | ASUS Ascent GX10 | CUDA-nahe Entwicklung und großer Speicherpool; Arm/Linux muss zum Workflow passen. |
Zu den wichtigsten Hardware-Anforderungen für lokale KI gehören nicht nur GPU oder Unified Memory, sondern auch Runtime-Unterstützung, genügend SSD-Platz, Kühlung und bei Serverbetrieb das Netzwerk. Die Detailseiten prüfen diese Punkte pro System.
Konkrete Komplettsysteme
Die Systeme unterscheiden sich nicht nur beim Modellspeicher: SSD-Ausbau, Netzwerk, Stromversorgung und Gehäuse entscheiden darüber, ob der Rechner am Schreibtisch, als Heimserver oder für häufige große Modelle überzeugt.
Stärke: große Modelle im kompakten Format
Kompaktes Ryzen-AI-Max+-System mit großem gemeinsamem Speicherpool. Modell-Ratgeber lesen.
Quantisierte 70B-Modelle, große lokale Wissenssammlungen und den Betrieb als schneller Heimserver. Zwei 10-GbE-Ports sind besonders praktisch, wenn Modelle auf einem NAS liegen oder mehrere Rechner zugreifen.
Der LPDDR5X-Speicher ist fest verbaut und Unified Memory erreicht nicht die Bandbreite einer großen diskreten GPU. Vor dem Kauf genau 128 GB / 2 TB sowie die benötigte UMA-Zuweisung und Runtime-Unterstützung prüfen.
Stärke: wählbare Modellkapazität im Mini-PC
Ryzen AI Max+ 395 mit 64 GB / 1 TB oder 128 GB / 2 TB. Beide Konfigurationen vergleichen.
20B- bis 32B-Modelle in der 64-GB-Stufe oder viele quantisierte 70B-Modelle mit 128 GB. SD-Kartenleser, zwei USB4-Anschlüsse und zwei M.2-Slots machen das Gerät auch für Daten- und Modellbibliotheken praktisch.
Der gemeinsame Speicher ist nicht vollständig für das Modell frei und lässt sich später nicht erweitern. Deshalb die verlinkte 64-GB-/1-TB- oder 128-GB-/2-TB-Variante exakt abgleichen; für mehrere große Modellfamilien sind 2 TB die entspanntere Ausgangsbasis.
Stärke: kompakte Workstation mit Hersteller-Support
Ryzen AI Max+ PRO 395 mit 64 GB Unified Memory, 2 TB SSD und Windows 11 Pro. Modell-Ratgeber lesen.
Lokale 20B- bis 32B-Modelle, RAG und professionelle Arbeitsplätze, an denen ein internes Netzteil, Thunderbolt 4 und ein klar identifizierbares Business-Modell wichtiger sind als das kleinste Gehäuse.
Die 64 GB LPDDR5X sind fest verbaut und müssen Betriebssystem, Runtime, Modell und Kontext gemeinsam tragen. Für 70B ist diese Variante knapp; vor dem Kauf A40MYET#ABD, 64 GB und 2 TB sowie die mögliche UMA-Zuweisung prüfen.
Stärke: hohe Inferenzgeschwindigkeit
32 GB dedizierter VRAM und hohe Bandbreite für schnelle lokale Inferenz.
Schnelle lokale Chats, Coding-Assistenten und RAG mit 8B- bis 32B-Modellen, sofern Modell und Kontext vollständig in 32 GB VRAM passen. CUDA ist in vielen verbreiteten KI-Werkzeugen der unkomplizierteste Beschleunigungspfad.
Nur Desktop-RTX-5090-Angebote mit explizit 32 GB GDDR7 vergleichen. 64 GB System-RAM, mindestens 2 TB NVMe, ein passend ausgelegtes Netzteil und freie Zu- und Abluft sind sinnvolle Mindestanforderungen.
Stärke: großer VRAM für professionelle Dauerlast
Interessant, wenn großer diskreter VRAM, ECC-orientierte Plattformen oder Dauerlast wichtiger sind.
Professionelle GPUs können deutlich mehr dedizierten Speicher bieten als Gamingkarten. Das eröffnet schnellere 70B-Workflows ohne großen Offload-Anteil.
Diese Systeme liegen preislich in einer anderen Klasse. Modellbezeichnung, VRAM-Ausbau, Treiberanforderungen und Lieferumfang müssen exakt übereinstimmen.
* Werbelink. Bei einem Kauf können wir eine Provision erhalten; dein Preis bleibt unverändert. Als Amazon-Partner verdienen wir an qualifizierten Verkäufen. Es gelten die Angaben, Preise und Lieferinformationen auf der Zielseite.
Direktvergleich
| System | Schneller Speicher | Besonders passend | Wichtigste Grenze |
|---|---|---|---|
| MINISFORUM MS-S1 Max | 128 GB gemeinsam | 70B zuhause, 10-GbE-Server, große Modellbibliothek | RAM verlötet; UMA und Runtime prüfen |
| GMKtec EVO-X2 | 64 oder 128 GB gemeinsam | kompakte 20B–32B-Workstation oder 70B-Kapazität | Variante exakt wählen; RAM nicht aufrüstbar |
| HP Z2 Mini G1a A40MYET | 64 GB gemeinsam | 20B–32B, Business-Support, Thunderbolt-Arbeitsplatz | fest verlöteter RAM; 70B zu knapp |
| RTX-5090-Tower | 32 GB GDDR7 | sehr schnelle 8B–32B-Inferenz | 70B benötigt langsameren Offload |
| RTX-PRO-Workstation | 48–96 GB VRAM | professionelle 70B-Dauerlast | sehr hohe Anschaffungskosten |
Noch unsicher?
Modellgröße und Kontext entscheiden stärker als ein Markenname. Unser Finder macht die Annahmen sichtbar.