Kostenloses Tool

Läuft dieses KI-Modell bei mir?

Wähle deine Hardware. Alles läuft in deinem Browser, nichts wird irgendwohin gesendet. Die Ergebnisse sind Schätzungen.

Deine Hardware

Apple Silicon: Der Speicher wird geteilt, gib also etwa 70 % davon als "VRAM" an (ungefähr) und den Rest als RAM.

Ergebnisse

GPU = passt in den VRAM (schnell). Auslagerung = braucht zusätzlich Arbeitsspeicher (läuft, aber deutlich langsamer; 4 GB sind für das Betriebssystem reserviert). Nein = zu groß. Die Zahl ist der geschätzte Gesamtbedarf in GB.

Manche Links können Affiliate-Links sein; wir kennzeichnen sie dort, wo sie vorkommen. Wie wir Geld verdienen.

So funktioniert die Schätzung

  1. Gewichte = Parameter × Bits pro Gewicht ÷ 8. Ein 7B-Modell mit 16 Bit braucht zum Beispiel etwa 14 GB. Die Bits pro Gewicht sind ungefähre llama.cpp-Werte: Q4_K_M ≈ 4,89, Q5_K_M ≈ 5,70, Q8_0 ≈ 8,5, FP16 = 16 (llama.cpp-Doku zur Quantisierung).
  2. Laufzeit-Overhead: 10 % der Gewichte plus 0,5 GB. Das ist unsere Faustregel, keine Messung.
  3. KV-Cache (Kontextspeicher): etwa 0,0125 GB pro Milliarde Parameter pro 4K Tokens. Das ist ein grober Durchschnitt. Der tatsächliche Bedarf hängt von der Zahl der Layer, der Attention-Art (GQA) und der KV-Cache-Quantisierung ab und kann deutlich darüber oder darunter liegen.

Die Parameterzahlen sind die Gesamtzahl, die Hugging Face für das offizielle Repo jedes Modells angibt (in der Tabelle verlinkt), abgerufen am 30. Oktober 2026. Bei Mixture-of-Experts-Modellen (MoE) hängt der Speicherbedarf von allen Parametern ab, nicht nur von den aktiven. Manche Modelle werden bereits quantisiert ausgeliefert (zum Beispiel gpt-oss in MXFP4), daher können ihre echten Dateien kleiner sein als die FP16-Spalte. Für einen exakten Wert prüfe die GGUF-Dateigröße auf der Modellseite und plane Platz für den Kontext ein.

Modellliste aktualisiert am 30. Oktober 2026. Enthält Releases aus 2026 (Gemma 4, Qwen3.8, Nemotron 3.5). Sehr große Modelle (DeepSeek V4, Kimi K3, Muse Spark Open) fehlen, weil sie Server mit mehreren GPUs brauchen.