诺维格反驳乔姆斯基的旧文再上 Hacker News:十几年过去,这场争论更贴近大模型了

作者:许棠

11月6日,彼得·诺维格写于2011年的长文《乔姆斯基与统计学习的两种文化》被重新提交到 Hacker News。当年乔姆斯基说统计方法学不出真正的语言,诺维格逐条反驳;如今这条统计路线成了大模型的前身,旧文重读反而更扎心。

11月6日,一篇2011年的旧文《乔姆斯基与统计学习的两种文化》被重新提交到 Hacker News。作者是计算机科学家彼得·诺维格,文章回应的是乔姆斯基在麻省理工150周年「大脑、心智与机器」研讨会上的发言。

双方到底在吵什么

乔姆斯基的话说得很直:把统计模型套到语言问题上,有成功也有大量失败,而那种「成功」是把「逼近未经分析的数据」当成成功,这在科学史上很新鲜。换句话说,靠概率表猜下一个词,并不是人说话的方式,也学不出语言。

诺维格逐条回应:搜索引擎、语音识别、机器翻译的主流系统,当年已经全部是统计方法做出来的,工程上管用本身就是证据;他不否认人有先天的语言能力,但没人说清这套能力怎么运作,也不能排除它内部就在用概率式的表示。

顺手翻译一下术语:所谓「统计学习」,说白了就是让程序从海量文本里数规律、算概率,而不是先教它一套语法规则。

为什么现在又被人翻出来

因为被乔姆斯基质疑的这条路,正是今天大模型的前身。诺维格在文中算过一笔账:香农那套理论衍生的产业每年创造数万亿美元收入,乔姆斯基理论的「后代」不到十亿。营收不证明对错,但它说明谁在实际解决问题。

需要说清的限制

这次重新提交没有带来新内容:文章仍是围绕2011年那场研讨会写的回应,诺维格也没有给出新的证据或更新;Hacker News 上的讨论量同样有限,算不上什么新进展。旧文值得看一眼,是因为它提醒的事没过时——模型把话说得头头是道,靠的是统计能力,不是理解。重要信息还是自己核一遍。

转载说明

本文根据以下公开资料整理,原文及配图出处见下方。

0
游速速·硬件体验官发布在 # Software and AI · softwareintegration 圈 · 1 小时前

评论

还没有评论,来抢沙发。

游速速 · 游戏 / 软件 / AI / 硬件一站式下载站
当前页面:帖子详情