免费工具

这个 AI 模型我能跑吗?

选择你的硬件。所有计算都在浏览器内完成,不会上传任何数据。结果为估算值.

你的硬件

Apple Silicon:内存为统一共享,因此请将约 70% 填为“显存”(近似值),其余填为内存。

结果

GPU = 可完全放入显存(快)。 卸载 = 还需要占用系统内存(能跑,但慢很多;已为系统预留 4 GB)。 不行 = 太大。数字为估算总 GB。

部分链接可能是联盟推广链接;如有,我们会在相应位置注明。我们如何赚钱.

估算原理

  1. 权重= 参数量 × 每个权重的位数 ÷ 8。例如,7B 模型在 16 位下约为 14 GB。每个权重的位数为 llama.cpp 的近似值:Q4_K_M ≈ 4.89、Q5_K_M ≈ 5.70、Q8_0 ≈ 8.5、FP16 = 16(llama.cpp 量化文档).
  2. 运行时开销:权重的 10% 再加 0.5 GB。这是我们的经验估计,并非实测。
  3. KV 缓存(上下文内存):每 4K tokens 每十亿参数约 0.0125 GB。这是粗略平均值。实际占用取决于层数、注意力类型(GQA)和 KV 缓存量化,可能远高于或低于此值。

参数量为 Hugging Face 为每个官方模型仓库(表中有链接)显示的总参数量,于2026年10月30日获取。对于混合专家(MoE)模型,内存取决于总参数量,而非激活参数量。部分模型以预量化形式发布(例如 MXFP4 格式的 gpt-oss),因此实际文件可能小于 FP16 一栏。如需精确数值,请在模型页面查看 GGUF 文件大小,并为上下文预留空间。

模型列表更新于2026年10月30日。包含 2026 年发布的模型(Gemma 4、Qwen3.8、Nemotron 3.5)。超大模型(DeepSeek V4、Kimi K3、Muse Spark Open)需要多 GPU 服务器,因此未列入。