Bisakah saya menjalankan model AI ini?
Pilih perangkat keras Anda. Semuanya berjalan di browser dan tidak ada yang dikirim ke mana pun. Hasilnya adalah perkiraan.
Perangkat keras Anda
Hasil
GPU = muat di VRAM (cepat). Offload = perlu RAM sistem juga (bisa jalan, jauh lebih lambat; 4 GB dicadangkan untuk OS). Tidak = terlalu besar. Angkanya adalah perkiraan total GB.
Beberapa tautan mungkin tautan afiliasi; kami akan menyebutkannya di tempat tautan itu berada. Cara kami menghasilkan uang.
Beri tahu saya saat ada model baru yang muat di GPU saya
Satu email singkat berisi berita AI dan game teratas yang kami verifikasi hari itu, plus satu alat yang berguna. Pendaftaran segera dibuka. Sampai saat itu, ikuti kami lewat feed RSS.
Cara kerja perkiraan
- Bobot = parameter × bit per bobot ÷ 8. Misalnya, model 7B pada 16-bit kira-kira 14 GB. Bit per bobot adalah nilai perkiraan llama.cpp: Q4_K_M ≈ 4,89, Q5_K_M ≈ 5,70, Q8_0 ≈ 8,5, FP16 = 16 (dokumentasi kuantisasi llama.cpp).
- Overhead runtime: 10% dari bobot ditambah 0,5 GB. Ini patokan kasar kami, bukan hasil pengukuran.
- KV cache (memori konteks): sekitar 0,0125 GB per miliar parameter per 4K token. Ini rata-rata kasar. Pemakaian sebenarnya tergantung jumlah layer, jenis attention (GQA), dan kuantisasi KV cache, dan bisa jauh di atas atau di bawahnya.
Jumlah parameter adalah total parameter yang dilaporkan Hugging Face untuk setiap repo model resmi (ditautkan di tabel), diambil 30 Oktober 2026. Untuk model mixture-of-experts (MoE), memori bergantung pada total parameter, bukan parameter aktif. Beberapa model dirilis dalam bentuk sudah terkuantisasi (misalnya gpt-oss dalam MXFP4), sehingga file aslinya bisa lebih kecil dari kolom FP16. Untuk angka pasti, cek ukuran file GGUF di halaman model dan tambahkan ruang untuk konteks.
Daftar model diperbarui 30 Oktober 2026. Termasuk rilis 2026 (Gemma 4, Qwen3.8, Nemotron 3.5). Model yang sangat besar (DeepSeek V4, Kimi K3, Muse Spark Open) tidak dimasukkan karena memerlukan server multi-GPU.