Czy uruchomię ten model AI?
Wybierz swój sprzęt. Wszystko działa w przeglądarce i nic nie jest nigdzie wysyłane. Wyniki to szacunki.
Twój sprzęt
Wyniki
GPU = mieści się w VRAM (szybko). Odciążanie = potrzebny jest też RAM systemu (działa, ale znacznie wolniej; 4 GB zarezerwowane dla systemu operacyjnego). Nie = za duży. Liczba to szacowana łączna wielkość w GB.
Niektóre linki mogą być linkami partnerskimi; zaznaczymy to w miejscach, gdzie występują. Jak zarabiamy.
Powiadom mnie, gdy nowe modele zmieszczą się na moim GPU
Jeden krótki e-mail z najważniejszymi sprawdzonymi tego dnia wiadomościami o AI i grach oraz jednym przydatnym narzędziem. Zapisy ruszą wkrótce. Do tego czasu śledź nas przez nasz kanał RSS.
Jak liczymy szacunek
- Wagi = parametry × bity na wagę ÷ 8. Na przykład model 7B w 16 bitach zajmuje około 14 GB. Bity na wagę to przybliżone wartości z llama.cpp: Q4_K_M ≈ 4,89, Q5_K_M ≈ 5,70, Q8_0 ≈ 8,5, FP16 = 16 (dokumentacja kwantyzacji llama.cpp).
- Narzut w czasie działania: 10% wag plus 0,5 GB. To nasza praktyczna reguła, a nie pomiar.
- Pamięć podręczna KV (pamięć kontekstu): około 0,0125 GB na miliard parametrów na każde 4K tokenów. To zgrubna średnia. Rzeczywiste zużycie zależy od liczby warstw, typu uwagi (GQA) i kwantyzacji pamięci KV i może być wyraźnie wyższe lub niższe.
Liczby parametrów to łączna liczba parametrów, którą Hugging Face podaje dla oficjalnego repozytorium każdego modelu (linki w tabeli), pobrana 30 października 2026 r. W modelach typu mixture-of-experts (MoE) zapotrzebowanie na pamięć zależy od łącznej liczby parametrów, a nie aktywnych. Niektóre modele są dostarczane już skwantyzowane (np. gpt-oss w MXFP4), więc ich rzeczywiste pliki mogą być mniejsze niż w kolumnie FP16. Aby poznać dokładną wartość, sprawdź rozmiar pliku GGUF na stronie modelu i dolicz zapas na kontekst.
Lista modeli zaktualizowana 30 października 2026 r. Obejmuje premiery z 2026 roku (Gemma 4, Qwen3.8, Nemotron 3.5). Bardzo duże modele (DeepSeek V4, Kimi K3, Muse Spark Open) pominęliśmy, bo wymagają serwerów z wieloma GPU.