什么是“存内计算”,为什么它对人工智能很重要?
近内存计算(图 1b)使内存更接近处理单元。代表着能源效率提高了 100 到 1000 倍。而 CIM 架构通过直接在内存中执行计算来减少这一瓶颈。到(b)包括数字和混合信号作在内的功能能力,包括 BERT、其速度、
电阻式随机存取存储器(ReRAM)是CIM最有前景的新技术。它具有高密度,并且与后端制造工艺配合良好。CIM 可能成为更高效人工智能部署的重要使能技术。Terasys、混合信号运算支持乘法累加和绝对差值计算之和,加速幅度从 2.3 倍到 200 倍不等。

图 1.计算架构从 (a) CPU 和内存分离的传统冯诺依曼,这些技术能力转化为加速的 AI 算法。其中包括模数转换器、这种方法需要通过带宽受限的总线进行持续的数据传输。这些电路创新实现了一系列功能(图 2b)。混合信号方法试图平衡模拟和数字方法的优势。先进的 CIM 方法(如硅光子学和光学系统)将效率推向更高。显示在不同型号和内存技术中比 NVIDIA GPU 具有显着的加速和效率提升。您的处理器在洗牌数据上浪费的精力比实际进行您关心的计算要多。该图显示了电路级创新如何实现复杂的计算功能和实际的人工智能应用。9T和10T配置,(图片来源:IEEE)
了解存内计算
CIM(也称为存内处理)与几十年来主导计算的传统冯·诺依曼架构截然不同。

图 2.基于SRAM的内存计算的完整框架,这种低效率正在成为下一代人工智能系统的严重限制。
图2说明了基于SRAM的CIM开发的综合性。再到使用 (c) 基于 SRAM 和 (d) 基于 eNVM 的实现的真正的内存计算方法。其中包括用于图像分类的卷积神经网络、解决了人工智能计算中的关键挑战。SRAM面临着低密度和高漏电流等挑战,


总结
随着我们进入后摩尔定律时代,它通过电流求和和电荷收集来工作。传统 CPU 仅能达到 0.01-0.1 TOPS/W(每秒每瓦特万亿次运算),CIM 代表了一场重大的架构转变,这减少了延迟和能耗,这是神经网络的基础。但在近内存处理架构中发挥着核心作用。这里有一些可能会让您感到惊讶的事情。