新研究有助于增强AI边缘计算效率并在穿戴式和无人机应用
一篇新发表在Nature的研究论文描述了一种内存计算(Compute-in-Memory;CIM)芯片,该芯片将人工神经元与忆阻器(RRAM)相结合,从而可以在同一芯片上储存和处理AI模型。该设计消除了计算和内存之间的数据移动,因此对边缘应用程序的效果更佳。
根据IDC,边缘计算和AI都有望在不久的将来迅速成长。如今一些应用场景将它们两个结合在一起,因为配置边缘计算可能会受到功率和连网性的限制,但仍需要分析大量数据并对事件提供近乎即时反应,从而使AI模型可在装置中运行,CIM就成为了最佳的解决方案。
现在,有研究人员开发了NeuRRAM芯片,这是一种将人工神经元与RRAM结合在一起的新颖架构。该研究的目标是提供一种能够同时提供高能源效率以及支持各种AI模型的多功能设计,且能在软件中运行相同模型时可获得相当的准确性。
研究员表示,NeuRRAM被开发为AI芯片之后,将可大大提高AI推理的能源效率,从而在电池供电的边缘装置中实现复杂的AI功能,例如:智能穿戴式装置、无人机和工业物联网传感器等,都是可以应用的领域。
以前有关于CIM架构的研究都聚集在软件层面,但是这一次却是在硬件中展示广泛的AI应用程序,是非常大的突破。
NeuRRAM是由48个CIM核心组成,总共包含300万个RRAM单元。每个核心都是一个TNSA(transposable neurosynaptic array),由256 × 256 RRAM单元的网格和256个CMOS人工神经元电路组成。
根据该论文,TNSA架构旨在提供对数据流方向的灵活控制,这对于支持具有不同数据流模式的各种AI模型至关重要。
NeuRRAM可重构的秘诀在于它将CMOS神经元电路分布在RRAM单元之间,并沿着行和列的长度将它们连接起来。且每个TNSA被分解成许多小核,每个小核由16 × 16 RRAM单元和一个神经元电路组成。小核通过水平方向的共享BL?(bit-lines?)和WL?(word-lines?)以及垂直方向的SL?(source-lines?)连接。这种安排意味着可以通过配置在每个神经元电路的输入和输出阶段使用哪个开关来实现不同的数据流方向。获 取 更多前沿科技?研究 进展访问:https://byteclicks.com
根据该论文,该晶片将采用130纳米CMOS 技术制造,预计效能会随着技术演进而提高。如今许多晶圆代工厂已经具备制造RRAM的能力,但主要用于嵌入式存储,而不是用于CIM。一旦RRAM 能为IC设计人员提供更广泛的应用之后,NeuRRAM产品就可能会出现。预计商品化还要两至三年的时间才能达成。
版权声明:除特殊说明外,本站所有文章均为 字节点击 原创内容,采用 BY-NC-SA 知识共享协议。原文链接:https://byteclicks.com/40924.html 转载时请以链接形式标明本文地址。转载本站内容不得用于任何商业目的。本站转载内容版权归原作者所有,文章内容仅代表作者独立观点,不代表字节点击立场。报道中出现的商标、图像版权及专利和其他版权所有的信息属于其合法持有人,只供传递信息之用,非商务用途。如有侵权,请联系 gavin@byteclicks.com。我们将协调给予处理。
赞