
效仿人脑节能、高效特性——可用于AI的大型类脑神经网络实现
在《自然·机器智能》杂志上发表的一项新研究中,荷兰国家数学与计算机科学研究所(CWI)科学家展示了类脑神经元如何与新颖的学习方法相结合,能够大规模训练快速节能的尖峰神经网络。潜在的应用包括可穿戴人工智能(AI)、语音识别、增强现实等诸多领域。
在《自然·机器智能》杂志上发表的一项新研究中,荷兰国家数学与计算机科学研究所(CWI)科学家展示了类脑神经元如何与新颖的学习方法相结合,能够大规模训练快速节能的尖峰神经网络。潜在的应用包括可穿戴人工智能(AI)、语音识别、增强现实等诸多领域。
深度学习是一个能源密集型领域,它的应用受到了限制。但如果这些模型能够以更高的能源效率来运行呢?这是许多研究人员提出的问题,而IBM的一个新团队可能已经找到了答案。
训练大型神经网络并不便宜。以前最大的语言模型使用的硬件成本超过2500万美元。针对GPT-3进行的一次训练至少460万美元的云GPU 收入。结果,研究人员无法为最先进的深度学习模型做出贡献,而从业人员也无法在没有大型公司支持的情况下构建应用程序。hivemind的设计是为了解决这个问题的,这是一个用于在互联网上训练大型神经网络的库。