X上有人给本地模型算了笔账：一个5–20GB的文件，装好就不用联网

作者：许棠

X用户Nikhil Goyal称本地开源模型只是磁盘上一个5–20GB的文件，装好即用、不要账号订阅也不怕断网；体积可以查证，但内存门槛、能力上限和具体怎么装，原帖都没交代。

11月8日，X用户Nikhil Goyal（@nikhilgoyalai）发帖，把本地开源模型说成一件很简单的事：磁盘上一个5–20GB的文件，装在你已有的笔记本上就能跑；安装完成后不需要账号、不需要订阅，也不需要联网 。

原帖的核心论点是“不怕变卦”。它写道，付费AI可能一夜之间改规则、涨价或把你锁在门外，而存在本地硬盘上的模型文件，“到2036年给出的答案和今天一样”；还提到可以用Qwen或Gemma配一款免费运行器，大约20分钟装好，适合当周末项目 。

体积这一项对得上。Ollama官方模型库里，Gemma 3的12b版为8.2GB、27b版为17GB，落在帖子里说的区间内；但下载量更高的4b版只有3.4GB 。Qwen3则从0.6b到235b提供多个参数档位 ，体积差别很大，而“5–20GB”只是其中一段。

要付出什么，帖里没细说。第一是内存和显存：官方说明，量化版本可比未量化版本省下约三分之二内存占用 。第二是能力上限：本地能跑的Gemma 3 27b在MMLU（5-shot）测试中约78.6分 ，和旗舰闭源服务不是一回事。第三是门槛：具体装哪个版本、什么配置能跑得动，原帖没给，“20分钟装好”和发帖者身份也都没有独立核实 。

我的看法是：把它当省订阅费的备用工具，值得花个周末试；想拿它完全替代付费服务，先去任务管理器看看自己的内存再说。

转载说明

本文根据以下公开资料整理，原文及配图出处见下方。

• [S1] The case for keeping one open-source AI model on your own drive: it's one file (5-20GB), runs on the laptop you already · Nikhil Goyal
• [S2] Ollama · Run AI models locally and in the cloud
• [S3] gemma3
• [S4] qwen3
• [S5] Tags · gemma3
• [S6] Tags · qwen3
• 配图 1：来源：ollama.com（图片署名见原文） · 图片出处