视频游戏是'Eureka!'帮助Boffins在单一商品GPU上模拟神经活动的时刻

“程序代代”可能会为排队使用超级计算机的项目提供前进的方式


英国苏克塞克斯大学的研究人员制定了一种促进神经活动模拟的方法,而无需达到昂贵和稀缺的超级计算资源。

采取灵感来自游戏行业,研究员詹姆斯骑士和信息学教授托马斯·诺多尼已经表明,单一GPU如何用于模拟猕猴视觉皮质,使用400万神经元和240亿突触,仅使用超级计算机即可展开。

建模脑活动中的挑战不仅在神经元中,而且在连接这些生物处理节点的突触中,骑士告诉 企业技术新闻.

“突触倾向于超过神经元的数量超过1,000甚至10,000。所以,如果你有一个甚至相对较大的模型,你必须有很多内存来存储突触。这就是为什么,通常,大多数人模拟模型我们的论文中的规模使用超级计算机。这不是实际的处理要求;它是因为他们需要在分布式系统上分发模型以获得足够的内存。“

超级计算机昂贵且通常在这些环境中等待在这些环境中运行其模型的研究人员往往昂贵,并限制了更广泛的计算神经科学。

在进入学术界之前,Knight是一个游戏开发人员,曾担任过思想播放游戏工作室的软件工程师 使命召唤 对于移动平台。因此,他认为是常见的技术 程序内容生成 在游戏开发中可能有助于解决代表突触时的内存问题。 “从我的背景来看,我知道程序内容是拯救你游戏中的内存的经典方式,”他说。

只需在GPU上设置模型即可开始,骑士开始,可以使用CPU需要一段时间的内容。但这项工作导致了一个灯泡时刻。

“我们意识到您可以在需要的情况下行驶,因此每当需要那些[Synapse]连接时,您可以在[16GB] GPU上重新生成它们,”奈特表示。 “它节省了大量的内存。如果您通过传统方式,这一模型会占据10倍的内存中的10倍,并且它不会适合CPU。”

模型神经元在GPU上举行,但由于它们是“尖峰神经元” - 与生物神经元更密切相关,而不是其ML对应物 - 它们仅在达到一定程度的活动达到一定程度的活动时通过突触传输数据生成来自内存的必要的突触连接。

“这特别适合GPU架构,”奈特说。

俄罗斯数学家和神经镜片尤金Izhikevich使用了类似的方法,用于在2005年模拟CPU集群上的大型皮质模型。但由于它没有写完,很难知道他如何实现结果,工作尚未申请工作骑士说,现代硬件说。

虽然“程序连通性” - 随着研究人员称之为 - 大大降低大规模脑仿真的内存要求,GPU代码生成策略不会用大量神经元扩展。要解决第二个问题,该团队开发了一个“内核合并”代码生成器,如下所述 研究人员的论文自然计算科学.

用于展示这种方法的力量的神经系统模型是由此开发的猕猴视觉皮质 Jülich超级普通中心Simlab。以公开科学的名义,它可以在GitHub上获得。

神经科学的很多关注都集中在宏伟项目中,例如由ÉcolePolytechniqueFédéraledeLausanne协调的人脑项目,并主要由欧盟资助。它有 陷入困境的历史 批评者毫无困境缺乏结果.

骑士显示研究人员可以有效地模拟商品GPU工作站的神经活动 - 在这种情况下,NVIDIA Titan RTX - 这是几千磅的可用。希望是发展将允许更多的研究人员建立和测试更多的大型型号,从而提高我们对血脑如何工作的理解。

“缺乏真正的大型模型,”他说。 “一些大脑活动模式只出现了一个适当的型号。我们的希望是[我们的工作]将允许更广泛的计算神经科学研究人员开始尝试大脑模型。现在正在努力工作的主要人物是那些通过专业知识和访问超级计算机。“ ®


咬住它的手©1998-2021