为了生活在这个世界上,我们的大脑必须发展出对我们周围物理世界的直观理解,然后利用这种理解来解释进入大脑的感官信息。
大脑是如何进行这种直观理解的呢?许多科学家认为,它可能是一种类似于“自监督学习”的过程。这种机器学习最初是为了创建更高效的计算机视觉模型而开发的,它允许计算模型仅根据它们之间的相似性和差异性来学习有关视觉场景的知识,而无需标签或其他信息。
麻省理工学院的K. Lisa Yang综合计算神经科学中心(ICoN)的研究人员进行的两项研究提供了支持这一假设的新证据。研究人员发现,当他们使用一种特定类型的自我监督学习来训练被称为神经网络的模型时,所得到的模型生成的活动模式非常类似于执行相同任务的动物大脑中观察到的模式。
研究结果表明,这些模型能够学习有关物理世界的表征,并用其进行准确的预测,而哺乳动物的大脑可能正在使用相同的策略。
ICoN中心的博士后Aran Nayebi是其中一项研究的主要作者,合著者包括Rishi Rajalingham(麻省理工学院的前博士后,现在在Meta Reality Labs工作),以及高级作者Mehrdad Jazayeri(脑与认知科学副教授,McGovern脑研究所成员)和Robert Yang(脑与认知科学助理教授,McGovern脑研究所副会员)。
该研究由麻省理工学院的研究生Mikail Khona和前高级研究助理Rylan Schaeffer共同领导。
在这两项新的NeurIPS研究中,研究人员旨在探索自监督的其他认知功能的计算模型是否也与哺乳动物的大脑显示相似之处。在Nayebi领导的研究中,研究人员训练了自监督模型,以预测数十万个描绘日常场景的自然视频中的未来状态。
“过去十年左右,认知神经科学中建立神经网络模型的主要方法是训练这些网络进行个体认知任务。但是这种训练方式的模型很少能推广到其他任务,” Yang说。“在这里,我们测试是否可以通过首先使用自监督学习对自然数据进行训练,然后在实验室环境中进行评估来构建某些认知方面的模型。”
一旦模型训练完成,研究人员让它泛化到一项他们称之为“心理乒乓”的任务上。这类似于游戏“乒乓球”,玩家移动挡板以击打屏幕上移动的球。在心理乒乓版本中,球在击中挡板之前会突然消失,所以玩家必须估计球的轨迹才能击中球。
研究人员发现,该模型能够准确追踪隐藏球的轨迹,与哺乳动物大脑中的神经元所示的轨迹模拟相似。此外,模型中的神经激活模式与动物在玩游戏时大脑中的激活模式相似,特别是在被称为背外侧额叶皮质的脑部区域。研究人员表示,其他类别的计算模型没有能够如此接近生物数据。
“在创造人工智能方面做出了许多努力,”Jazayeri说。“这些模型与神经生物学的相关性取决于它们额外捕捉大脑内部工作的能力。Aran的模型预测神经数据这一事实非常重要,因为它表明我们可能越来越接近建立模仿自然智能的人工系统。”
Khona,Schaeffer和Fiete领导的研究专注于一种称为格点细胞的专门神经元。这些细胞位于枕叶皮质中,帮助动物进行导航,并与位点细胞共同工作,位于海马体中。
当动物处于特定位置时,位点细胞会发出火焰,而仅当动物处于三角形格点的顶点时,格点细胞才会激发。一组组的格点细胞创建了不同大小的重叠格点,这使它们能够使用相对较少的细胞编码大量位置。
最近的研究中,研究人员训练了监督的神经网络,通过根据起始点和速度预测动物的下一个位置来模拟格点细胞的功能,这个任务被称为路径积分。然而,这些模型依赖于始终具有关于绝对空间的特权信息——这是动物所没有的信息。
受到多周期格点细胞空间编码方法的引人注目的编码特性的启发,麻省理工学院的团队训练了一种对比自监督模型,既可以执行相同的路径积分任务,也可以在此过程中高效地表示空间。对于训练数据,他们使用速度输入的序列。该模型学会了根据位置的相似性来区分它们,附近的位置生成相似的编码,但更远的位置生成更不同的编码。
“这类似于训练模型处理图像的方式,如果两幅图像都是猫的头部,则它们的编码应该相似,但如果其中一幅是猫的头部,另一幅是卡车,则它们的编码应该不同,”Khona说。“我们采用了相同的思路,但将其应用于空间轨迹。”
这个模型训练好后,研究人员发现模型内部节点的激活模式形成了几个具有不同周期的格子图案,非常类似于大脑中格点细胞的形成的图案。
Fiete说:“这项工作让我兴奋的是它将网格细胞编码的信息理论属性与路径积分的计算联系起来。虽然数学工作是分析性的,但通过自我监督学习优化编码效率并获得类网格调谐的方法是综合性的:它展示了解释大脑为何具有网格细胞所需的可能必要属性和充分属性。”