破万粉博主说:跑本地 AI 不用 1.5 万美元主机,2021 年的 M1 Max 还能再快 25%
作者:阿乐
博主 JoshuaSWarren 破万粉后发帖:跑像样的本地模型不必先组 1.5 万美元主机,先用手里的设备。他说 2021 款 M1 Max 在 Linux 上只靠一处电源管理修复,GPU 解码快了 25–29%,不过这些成绩都是他自述。
破万粉的博主 JoshuaSWarren 发了条感谢帖,顺手把主流印象怼了回去:跑个像样的本地模型,不该非得先配一台 1.5 万美元的主机,先用手里的机器起步就好 。
本周案例挺有反差:2021 款 M1 Max 在 Linux 上,据他说只靠一处电源管理修复,GPU 解码就快了 25–29% 。四年前的芯片,一次设置处理就重新跑出好成绩。帖里还顺带晒了笔记本外接 RTX 5060 Ti 跑 GPT-OSS 120B 约 25 tok/s、DGX Spark 上 89 tok/s 。这些数字都是博主自述,暂时没看到第三方复测,当参考别当定论;具体动了哪几项设置,也得翻原帖细看。
彩蛋在结尾:他把备用房改成 AI 实验室,明着收赞助和硬件,收来的机器都算成一个个“预算档位” 。算盘响,但活是开源的。
我的感想:本地 AI 最贵的从来不是显卡,是“必须换新”的心魔。抽屉里那台旧 Mac,说不定还欠你 25%。
转载说明
本文根据原帖转述整理,原作者及原帖链接见下方。
0
评论 0
还没有评论,来抢沙发。