Máy mình có chạy được mô hình AI này không?
Chọn phần cứng của bạn. Mọi thứ chạy trong trình duyệt và không có gì được gửi đi đâu cả. Kết quả là ước tính.
Phần cứng của bạn
Kết quả
GPU = vừa VRAM (nhanh). Offload = cần thêm RAM hệ thống (chạy được, chậm hơn nhiều; dành 4 GB cho hệ điều hành). Không = quá lớn. Con số là tổng GB ước tính.
Một số liên kết có thể là liên kết tiếp thị; chúng tôi sẽ ghi rõ ở những chỗ đó. Cách chúng tôi kiếm tiền.
Báo cho tôi khi có mô hình mới vừa GPU của tôi
Một email ngắn với những tin AI và game nổi bật nhất mà chúng tôi đã kiểm chứng trong ngày, kèm một công cụ hữu ích. Sắp mở đăng ký. Trong lúc chờ, hãy theo dõi qua nguồn RSS.
Cách tính ước tính
- Trọng số = số tham số × số bit mỗi trọng số ÷ 8. Ví dụ, mô hình 7B ở 16-bit khoảng 14 GB. Số bit mỗi trọng số là giá trị gần đúng của llama.cpp: Q4_K_M ≈ 4,89, Q5_K_M ≈ 5,70, Q8_0 ≈ 8,5, FP16 = 16 (tài liệu lượng tử hóa của llama.cpp).
- Chi phí khi chạy: 10% trọng số cộng 0,5 GB. Đây là quy tắc kinh nghiệm của chúng tôi, không phải số đo.
- KV cache (bộ nhớ ngữ cảnh): khoảng 0,0125 GB cho mỗi tỷ tham số trên mỗi 4K token. Đây là mức trung bình thô. Mức dùng thực tế phụ thuộc vào số lớp, kiểu attention (GQA) và lượng tử hóa KV cache, và có thể cao hơn hoặc thấp hơn nhiều.
Số tham số là tổng số tham số mà Hugging Face hiển thị cho từng kho mô hình chính thức (có liên kết trong bảng), lấy ngày 30/10/2026. Với mô hình mixture-of-experts (MoE), bộ nhớ phụ thuộc vào tổng số tham số, không phải số tham số hoạt động. Một số mô hình được phát hành ở dạng đã lượng tử hóa sẵn (ví dụ gpt-oss ở MXFP4), nên tệp thực tế có thể nhỏ hơn cột FP16. Để có con số chính xác, hãy xem kích thước tệp GGUF trên trang mô hình và cộng thêm dung lượng cho ngữ cảnh.
Danh sách mô hình cập nhật ngày 30/10/2026. Gồm các bản phát hành năm 2026 (Gemma 4, Qwen3.8, Nemotron 3.5). Các mô hình rất lớn (DeepSeek V4, Kimi K3, Muse Spark Open) không được đưa vào vì cần máy chủ nhiều GPU.