斯坦福大学的研究人员设计了加速AI推理的加速器芯片

2021-01-15 15:35:25
导读斯坦福大学的研究人员已经开发出了硬件,这些硬件可以利用专用芯片来快速,高效地运行AI任务。在《自然电子》上发表的一篇论文描述了这些芯

斯坦福大学的研究人员已经开发出了硬件,这些硬件可以利用专用芯片来快速,高效地运行AI任务。在《自然电子》上发表的一篇论文描述了这些芯片,每个芯片都在其自己的内存存储旁边构建了数据处理器,这些芯片利用算法将八个独立的内核融合到一个称为“幻觉系统”的AI处理引擎中。

像Illusion这样的AI加速器是一种专用硬件,旨在加速AI应用程序,特别是神经网络,深度学习和机器学习。它们在设计上是多核的,并且专注于低精度算术或内存计算,这两者都可以提高大型AI算法的性能,并导致自然语言处理,计算机视觉和其他域。

作为斯坦福计算机科学家Mary Wootters和Subhasish Mitra以及电气工程师HS Phillip Wong的研究人员,他们开发了Illusion,作为电子复兴计划(ERI)的一部分,该计划由美国国防高级研究计划局赞助,耗资15亿美元。它基于团队先前的工作,采用了一种称为RRAM的新存储技术,即使关闭电源,该技术也可以存储数据(例如闪存),但速度更快且功耗更低。

Mitra说:“如果我们能够构建一个具有所有处理和内存所需的大型常规芯片,我们就可以做到,但是解决AI问题所需的数据量真是一个梦想。” “相反,我们诱使混合动力汽车认为它们是一个芯片。”

该团队与法国研究机构CEA-Leti和新加坡南洋理工大学的合作者一起建造并测试了包含RRAM的原型。在仿真中,研究人员展示了具有64个混合芯片(原型数量的八倍)的系统如何运行AI应用程序,而使用的能耗却是当前处理器的七倍,而当前处理器的速度是七倍。

根据研究人员的说法,这些功能有一天可以使Illusion为增强型和虚拟现实眼镜提供动力,这些眼镜可以通过发现环境中的物体和人来向佩戴者提供上下文信息,从而使用AI进行学习。为此,该团队开发了新算法来重新编译为当今处理器编写的现有AI程序,以在新的多芯片系统上运行。来自Facebook的合作者帮助测试了可以验证这些努力的AI程序。

免责声明:本文由用户上传,如有侵权请联系删除!

猜你喜欢

最新文章