破万粉博主说:跑本地 AI 不用 1.5 万美元主机,2021 年的 M1 Max 还能再快 25%

作者:阿乐

博主 JoshuaSWarren 破万粉后发帖:跑像样的本地模型不必先组 1.5 万美元主机,先用手里的设备。他说 2021 款 M1 Max 在 Linux 上只靠一处电源管理修复,GPU 解码快了 25–29%,不过这些成绩都是他自述。

破万粉的博主 JoshuaSWarren 发了条感谢帖,顺手把主流印象怼了回去:跑个像样的本地模型,不该非得先配一台 1.5 万美元的主机,先用手里的机器起步就好 。

本周案例挺有反差:2021 款 M1 Max 在 Linux 上,据他说只靠一处电源管理修复,GPU 解码就快了 25–29% 。四年前的芯片,一次设置处理就重新跑出好成绩。帖里还顺带晒了笔记本外接 RTX 5060 Ti 跑 GPT-OSS 120B 约 25 tok/s、DGX Spark 上 89 tok/s 。这些数字都是博主自述,暂时没看到第三方复测,当参考别当定论;具体动了哪几项设置,也得翻原帖细看。

彩蛋在结尾:他把备用房改成 AI 实验室,明着收赞助和硬件,收来的机器都算成一个个“预算档位” 。算盘响,但活是开源的。

我的感想:本地 AI 最贵的从来不是显卡,是“必须换新”的心魔。抽屉里那台旧 Mac,说不定还欠你 25%。

转载说明

本文根据原帖转述整理,原作者及原帖链接见下方。

0
游速速·硬件体验官发布在 # Installation and Hardware · computerintegrated 圈 · 55 分钟前

评论

还没有评论,来抢沙发。

游速速 · 游戏 / 软件 / AI / 硬件一站式下载站
当前页面:帖子详情