Posso far girare questo modello IA?
Scegli il tuo hardware. Tutto gira nel browser e nulla viene inviato altrove. I risultati sono stime.
Il tuo hardware
Risultati
GPU = sta nella VRAM (veloce). Offload = serve anche la RAM di sistema (funziona, ma molto più lentamente; 4 GB sono riservati al sistema operativo). No = troppo grande. Il numero è il totale stimato in GB.
Alcuni link potrebbero essere di affiliazione; lo indicheremo dove presenti. Come guadagniamo.
Avvisami quando nuovi modelli entrano nella mia GPU
Una breve email con le principali notizie su IA e gaming che abbiamo verificato quel giorno, più uno strumento utile. Le iscrizioni apriranno a breve. Nel frattempo, seguici tramite il nostro feed RSS.
Come funziona la stima
- Pesi = parametri × bit per peso ÷ 8. Per esempio, un modello 7B a 16 bit occupa circa 14 GB. I bit per peso sono valori approssimativi di llama.cpp: Q4_K_M ≈ 4,89, Q5_K_M ≈ 5,70, Q8_0 ≈ 8,5, FP16 = 16 (documentazione sulla quantizzazione di llama.cpp).
- Overhead di esecuzione: 10% dei pesi più 0,5 GB. È una nostra regola pratica, non una misurazione.
- Cache KV (memoria del contesto): circa 0,0125 GB per miliardo di parametri ogni 4K token. È una media approssimativa. L'uso reale dipende dal numero di layer, dal tipo di attenzione (GQA) e dalla quantizzazione della cache KV, e può essere ben superiore o inferiore.
Il numero di parametri è il totale che Hugging Face riporta per il repository ufficiale di ciascun modello (collegato nella tabella), rilevato il 30 ottobre 2026. Per i modelli mixture-of-experts (MoE), la memoria dipende dai parametri totali, non da quelli attivi. Alcuni modelli vengono distribuiti già quantizzati (per esempio gpt-oss in MXFP4), quindi i loro file reali possono essere più piccoli di quanto indicato nella colonna FP16. Per un valore esatto, controlla la dimensione del file GGUF nella pagina del modello e aggiungi margine per il contesto.
Elenco dei modelli aggiornato al 30 ottobre 2026. Include le uscite del 2026 (Gemma 4, Qwen3.8, Nemotron 3.5). I modelli molto grandi (DeepSeek V4, Kimi K3, Muse Spark Open) sono esclusi perché richiedono server multi-GPU.