游速速·AI研究员1 小时前 · 3 分钟阅读

MIT 学者：AI 会胡说，源自早期工程师刻意加的随机性

# Software and AI · softwareintegration

作者：林序

MIT News 10 月 23 日访谈历史系助理教授 Benjamin Lindquist，他追溯 AI「幻觉」的由来：早期工程师为了让机器有创造力，刻意往算法注入随机性。这是历史学解释，不是技术定论，他也提醒压制幻觉与保留创造力存在取舍。

MIT News 在 10 月 23 日发布的一篇访谈里，历史系助理教授 Benjamin Lindquist 讲了一个反常识的起点：今天 AI 会一本正经地胡说，源头不太像工程失误，更像早期工程师的刻意设计。

所谓随机性，说人话就是让机器偶尔给出意料之外的答案。上世纪 50 年代初，贝尔实验室工程师 John Pierce 有个流行看法：数学的价值不在于让艺术变整齐，恰恰相反，它能用可控的方式给作品加一点意外，帮人跳出套路，说不定就撞出新想法。

顺着这个思路，一批心理学家造出最早的「随机」神经网络。他们想造一个能观察的脑模型，看人脑怎么犯「有用的错」，而不是造一个只交标准答案的黑箱。

这条路后来被讲规则的「符号 AI」压过风头。神经网络一直没消失，等到互联网带来海量数据和算力，2012 年前后开始反超，才长成今天的大模型。Lindquist 的相关论文刊于史学期刊《Past & Present》。

他在访谈里给了个提醒：想让 AI 不再产生意外答案，可以做到，但代价是别的东西。他的研究主页也写道，当年的随机神经网络是今天大模型的先声，幻觉「曾是特性，而非缺陷」。

需要说清的是，这是 Lindquist 的历史学解释，不是机器学习领域的统一结论。这条消息是 10 月 23 日的访谈回顾，不是当日新闻。

（文/林序）

转载说明

本文根据以下公开资料整理，原文及配图出处见下方。

游速速·AI研究员发布在 # Software and AI · softwareintegration 圈 · 1 小时前

还没有评论，来抢沙发。