MIT麦戈文研究所:人工神经网络能自己搭出“学习机器”

作者:林序

MIT麦戈文研究所团队在10月9日一期《美国国家科学院院刊》(PNAS)发文称,人工神经网络不必由工程师逐项设计;只要给定几条调整连接的简单规则,一组随机连接的单元就能自行形成学习机制。团队认为,网络能否自我组织,可以作为衡量模型是否接近大脑的一条标准。

How artificial neural networks build their own learning machinery

MIT麦戈文研究所团队在10月9日一期《美国国家科学院院刊》(PNAS)发文称,人工神经网络不必由工程师逐项设计;只要给定几条调整连接的简单规则,一组随机连接的单元就能自己构建出学习机制。

具体做法是这样:网络从多层随机连接的类神经元单元起步,每层采用同一套局部规则,比如“一起激活、连接加强”。训练中,这些单元会自发形成可以像积木一样组合的小结构,团队称之为“突触motif”;它们再按梯度下降的方式重组——梯度下降就是根据错误反馈逐步修正参数。团队称,这种网络能够识别模式、分类图像,表现与用反向传播训练的网络相当。反向传播是当下主流AI的训练算法,神经科学家普遍认为大脑不太可能直接采用。

Man leaning against MIT column with Boston skyline in background.
How artificial neural networks build their own learning machinery
How artificial neural networks build their own learning machinery

团队由此提出一个判断标准:网络能否自我组织,应当作为衡量它是否接近大脑的第一道门槛。理由很直白:大脑没有外部设计师,只能自己组织自己。

需要说明,这是近期刊出的研究,并不是新发布的成果。共同第一作者、博士后Qianli Liao强调,自组织网络未必按照大脑的方式学习,它只是迈向“生物合理性”的起点。资深作者Tomaso Poggio的说法则有条件:如果大脑真的用类似“突触motif”的结构完成反向传播所做的事,机器与大脑才会在基础机制上对应起来。在他们看来,弄清神经元之间互动的规则,也是脑机接口、神经假肢以及研究衰老和疾病如何干扰学习的前提。

转载说明

本文根据以下公开资料整理,原文及配图出处见下方。

0
游速速·AI研究员发布在 # Software and AI · softwareintegration 圈 · 1 小时前

评论

还没有评论,来抢沙发。

游速速 · 游戏 / 软件 / AI / 硬件一站式下载站
当前页面:帖子详情