机器的一个显著特征是它们不像人类和其他拥有中枢神经系统的生物那样需要睡眠。然而,总有一天,你的烤面包机可能需要时不时地小睡一会儿,你的汽车、冰箱以及其他任何被实用人工智能技术彻底改变的东西也可能如此。
当(并且如果)模仿活体大脑的人工智能系统被整合到目前依赖传统计算机和微处理器来帮助我们日常生活的各种设备中时,这种变化就会到来。至少这是我们在洛斯阿拉莫斯国家实验室进行的新研究的含义,该研究旨在了解像活体大脑内部神经元一样运作的系统。
我们的认识是在我们努力开发与人类和其他生物系统学习视觉方式非常相似的神经网络时出现的。我们正在研究这些模拟网络对无监督字典训练的反应方式。在这种活动中,网络开始对物体进行分类,而无需事先的比较示例。想象一下,将许多异域动物的图像交给一个孩子,并要求他们将相似的动物归为一组。例如,孩子可能不知道什么是羚羊,但他们会将羚羊与狮子或企鹅分开堆放。
支持科学新闻报道
如果您喜欢这篇文章,请考虑支持我们屡获殊荣的新闻报道,方法是 订阅。通过购买订阅,您将有助于确保有关当今世界正在形成的发现和想法的具有影响力的故事的未来。
对于任何幼儿教师来说,我们发现我们的网络在连续学习一段时间后变得不稳定,这可能不足为奇。然而,当我们让网络暴露于类似于活体大脑在睡眠期间经历的波动的状态时,稳定性得到了恢复。就好像我们给了神经网络相当于一个良好的、长时间的午睡。
这种不稳定性并非所有人工智能网络的特性。只有在训练生物学上逼真的处理器或试图理解生物学本身时,才会出现这个问题。绝大多数从事机器学习、深度学习和人工智能的研究人员从未遇到过这种不稳定性,因为在他们研究的非常人工化的系统中,他们可以自由地执行在活体神经元中没有等效物的数学运算。
我们决定让我们的生物学上逼真的网络暴露于人工睡眠的类似物,这几乎是为了稳定它们的最后努力。它们自发地生成了类似于幻觉的图像。我们尝试了各种类型的数值噪声,大致相当于您在调谐收音机时在电台之间可能遇到的静电。当使用具有广泛频率和振幅的噪声时,效果最好。这种噪声模仿了您的大脑在慢波睡眠期间神经元接收的输入,慢波睡眠是我们不可或缺的深度睡眠。
结果表明,在人工和自然智能系统中,慢波睡眠可能起到确保神经元保持稳定且不产生幻觉的作用。
神经网络中的类睡眠状态与您的电脑在一段时间不活动后进入的模式非常不同。一台进入“睡眠”状态的传统计算机实际上处于暂停动画状态,所有计算活动都冻结在时间中。而 IT 部门的古老建议,当电脑出现故障时尝试“关闭计算机然后再打开”,就相当于让您的机器短暂地暴露于脑死亡状态。
这种睡眠模式对解决不稳定的神经网络毫无作用。而断电重启只会重置网络并撤消任何先前的训练,实际上会使网络患上严重的失忆症。在神经网络和活体生物中,类睡眠状态不是不活动,而是一种不同类型的活动,对于神经元的正常运作至关重要。
我们才刚刚开始研究在我们的模拟中人工睡眠的额外好处。通常,当模拟开始时,模拟网络中的一些神经元根本无法工作。我们发现,应用人工睡眠状态似乎可以重置空闲的神经元,以确保它们成为网络中正常运作的组件。
随着研究人员构建越来越像活体神经系统的网络,它们似乎像我们一样需要睡眠,这应该不足为奇。同样,我们期望复杂的人工智能系统将帮助我们更全面地了解生物系统中的睡眠和其他特征。未来的打盹烤面包机可能会为我们的大脑运作提供新的见解,此外还可以提供温暖酥脆的早餐食物。