论文部分内容阅读
2019年9月，世界计算机大会在湖南长沙召开，存算一体化成为会议的热点议题之一。冯·诺依曼体系自20世纪30年代被提出后一直作为经典计算机架构沿用至今，然而，近年来随着数据量的日益增长，CPU运算能力不断提升，内存的访问延迟却几乎没有提升。在传统架构下，存储与运算之间数据交换通路窄、能耗高的问题日益凸显，存算一体成为现阶段满足高带宽、低功耗计算需求的一条有效途径。
存内计算的发展现状
存算一体化成为缓解存算调用低效的有效方案。在冯·诺依曼架构中，存储器与处理器是两个完全分离的单元，处理器根据指令从存储器中读取数据、完成运算，并存回存储器。两者之间数据交换通路窄以及由此引发的高能耗两大难题，在存储与运算之间筑起了一道“存储墙”。存算一体化则是将计算机中的运算从中央处理器转入内存中进行，可大幅降低数据交换时间以及计算过程中的数据存取能耗;其技术路线可分为片外存储与片内存储两大类。片外存储即基于数字芯片和存储器配合的存算一体技术，通过在存储器中植入计算芯片或者逻辑计算单元来提高读写速度。片内存储即数模混合的存算一体技术，通过在存储器嵌入算法权重，使存储器具备算法功能，实现真正意义上的将存储和计算完全结合在一起。
人工智能热潮为存算一体化的应用带来新空间。存算一体的雏形概述出现在20世纪90年代，一直被认为是很有潜力的革命性技术，但对其应用的必要性始终缺乏论证，因此尚未在处理器与存储行业得到产业化应用。随着基于深度学习技术的人工智能应用热潮再次涌起，冯·诺依曼架构的“存储墙”问题也随之日益凸显。例如，深度学习模型的每一层神经网络运算都面临大量存储调用，每一次读取权重值都相当于做了一次乘加累积运算，90%以上的运算资源都消耗在数据搬运过程中。存算一体化尤其适用于此类数据访问密集的应用场景，可以为人工智能芯片的产业化发展提供有效助力。
存算一体芯片市场广阔，国内外企业、科研院所纷纷布局。据Gartner预测，全球内存计算市场规模将以每年22%的速度持续增长，2020年底有望达到130亿美元。在企业层面，英特尔、博世、美光、Lam Research、微软、亚马逊、软银都投资了NOR闪存存算一体芯片。其中，英特尔发布的傲腾固态盘采用片外存储技术，实现了CPU与硬盘之间数据的高速搬运，从而平衡了高级分析和人工智能等大规模内存工作负载的性价比。国内的知存科技、新忆科技等初创公司也进入存算一体市场，其中知存科技开发的超低功耗语音识别存算一体芯片采用片外存储技术，与普通专用芯片相比，其算力可提高10～50倍。在科研院所层面，加州大学圣芭芭拉分校谢源教授团队致力于在新型存储器件ReRAM（阻变存储）里面实现计算的功能研究，即PRIME架构。清华大学刘勇攀教授团队和汪玉教授团队均参与了PRIME架构的研发，目前已实现在150nm工艺下流片，在阻变存储阵列里实现了计算存储一体化的神经网络，功耗降低至原来的1/20，速度提高50倍。此外，清华大学与SK海力士联合成立了智能存储计算芯片联合研究中心，未来五年，中心将致力于研发存算一体与近存储处理技术。
存算一体化面临三大挑战
计算精度有限。现有浮栅存储器件并不适合用于计算，且片内存储本质上使用模拟计算，计算精度会受到模拟计算低信噪比的影响，通常精度上限在8bit左右，而且只能做定点数计算，难以实现精准的浮点数计算。因此，并不适用于需要高计算精度的人工智能训练场景，而仅适用于嵌入式人工智能等对能效比有高要求且对精确度有一定容忍的场景。
应用落地场景边界条件限制较多。存内计算仅适合原本就对存储需求较大的场景，对于本身存储需求并不高的场景，为了引入内存计算而加上一块大内存反倒会增加成本。尤其是随着内存容量的增加，内存成本往往呈指数级增长，且内存容量有上限，性价比不理想可能导致内存计算无法惠及更多用户和更多场景。目前来看，在人工智能仍在探寻应用场景的前提下，存算一体化的落地问题，仍需紧密结合应用场景进行具体分析。
芯片开发生态亟待打造。存算一体芯片产业化尚处于起步阶段，目前仍面临产业链上游支撑不足、下游应用不匹配等诸多困局。在芯片设计阶段，由于存算一体芯片区别于常规的芯片设计方案，所以目前市面上没有成熟的专用EDA工具辅助设计和仿真验证;芯片流片之后，也没有成熟的工具协助测试;在芯片落地应用阶段，暂时没有专用的软件与之匹配。因此，亟需围绕存算一体化打造芯片开发生态。
对策建议
把握技术路径转换机遇，加快存算一体技术研发步伐。聚力发展高带宽内存、新型非易失性存储器等存算一体技术，着力突破存算一体模拟信号误差、高效模拟/数字信号转换等关键技术。引导高校、科研院所与企业成立联合实验室，加强存算一体芯片原型设计、验证、流片加工等技术工艺储备，加快存算一体芯片产业化进程，推动其在人工智能、物联网等领域应用，打造我国的长项优势。
制定全面且长期的存算一体发展战略。建议在“十四五”及中长期集成电路研发与产业化布局中，将存算一体作为重点发展方向，编制存算一体技术发展路线图。加大存算一体研发支持力度，在01专项和集成电路、人工智能相关产业化专項中予以引导支持。拓展存储设计类初创企业的融资渠道，对于标志性成熟产品，推动国家基金和社会资本跟投。强化高校、科研院所、芯片设计企业、晶圆厂、生产制造企业、封装测试企业、整机企业之间的联动效应，构建存算一体产业新生态。
存内计算的发展现状
存算一体化成为缓解存算调用低效的有效方案。在冯·诺依曼架构中，存储器与处理器是两个完全分离的单元，处理器根据指令从存储器中读取数据、完成运算，并存回存储器。两者之间数据交换通路窄以及由此引发的高能耗两大难题，在存储与运算之间筑起了一道“存储墙”。存算一体化则是将计算机中的运算从中央处理器转入内存中进行，可大幅降低数据交换时间以及计算过程中的数据存取能耗;其技术路线可分为片外存储与片内存储两大类。片外存储即基于数字芯片和存储器配合的存算一体技术，通过在存储器中植入计算芯片或者逻辑计算单元来提高读写速度。片内存储即数模混合的存算一体技术，通过在存储器嵌入算法权重，使存储器具备算法功能，实现真正意义上的将存储和计算完全结合在一起。
人工智能热潮为存算一体化的应用带来新空间。存算一体的雏形概述出现在20世纪90年代，一直被认为是很有潜力的革命性技术，但对其应用的必要性始终缺乏论证，因此尚未在处理器与存储行业得到产业化应用。随着基于深度学习技术的人工智能应用热潮再次涌起，冯·诺依曼架构的“存储墙”问题也随之日益凸显。例如，深度学习模型的每一层神经网络运算都面临大量存储调用，每一次读取权重值都相当于做了一次乘加累积运算，90%以上的运算资源都消耗在数据搬运过程中。存算一体化尤其适用于此类数据访问密集的应用场景，可以为人工智能芯片的产业化发展提供有效助力。
存算一体芯片市场广阔，国内外企业、科研院所纷纷布局。据Gartner预测，全球内存计算市场规模将以每年22%的速度持续增长，2020年底有望达到130亿美元。在企业层面，英特尔、博世、美光、Lam Research、微软、亚马逊、软银都投资了NOR闪存存算一体芯片。其中，英特尔发布的傲腾固态盘采用片外存储技术，实现了CPU与硬盘之间数据的高速搬运，从而平衡了高级分析和人工智能等大规模内存工作负载的性价比。国内的知存科技、新忆科技等初创公司也进入存算一体市场，其中知存科技开发的超低功耗语音识别存算一体芯片采用片外存储技术，与普通专用芯片相比，其算力可提高10～50倍。在科研院所层面，加州大学圣芭芭拉分校谢源教授团队致力于在新型存储器件ReRAM（阻变存储）里面实现计算的功能研究，即PRIME架构。清华大学刘勇攀教授团队和汪玉教授团队均参与了PRIME架构的研发，目前已实现在150nm工艺下流片，在阻变存储阵列里实现了计算存储一体化的神经网络，功耗降低至原来的1/20，速度提高50倍。此外，清华大学与SK海力士联合成立了智能存储计算芯片联合研究中心，未来五年，中心将致力于研发存算一体与近存储处理技术。
存算一体化面临三大挑战
计算精度有限。现有浮栅存储器件并不适合用于计算，且片内存储本质上使用模拟计算，计算精度会受到模拟计算低信噪比的影响，通常精度上限在8bit左右，而且只能做定点数计算，难以实现精准的浮点数计算。因此，并不适用于需要高计算精度的人工智能训练场景，而仅适用于嵌入式人工智能等对能效比有高要求且对精确度有一定容忍的场景。
应用落地场景边界条件限制较多。存内计算仅适合原本就对存储需求较大的场景，对于本身存储需求并不高的场景，为了引入内存计算而加上一块大内存反倒会增加成本。尤其是随着内存容量的增加，内存成本往往呈指数级增长，且内存容量有上限，性价比不理想可能导致内存计算无法惠及更多用户和更多场景。目前来看，在人工智能仍在探寻应用场景的前提下，存算一体化的落地问题，仍需紧密结合应用场景进行具体分析。
芯片开发生态亟待打造。存算一体芯片产业化尚处于起步阶段，目前仍面临产业链上游支撑不足、下游应用不匹配等诸多困局。在芯片设计阶段，由于存算一体芯片区别于常规的芯片设计方案，所以目前市面上没有成熟的专用EDA工具辅助设计和仿真验证;芯片流片之后，也没有成熟的工具协助测试;在芯片落地应用阶段，暂时没有专用的软件与之匹配。因此，亟需围绕存算一体化打造芯片开发生态。
对策建议
把握技术路径转换机遇，加快存算一体技术研发步伐。聚力发展高带宽内存、新型非易失性存储器等存算一体技术，着力突破存算一体模拟信号误差、高效模拟/数字信号转换等关键技术。引导高校、科研院所与企业成立联合实验室，加强存算一体芯片原型设计、验证、流片加工等技术工艺储备，加快存算一体芯片产业化进程，推动其在人工智能、物联网等领域应用，打造我国的长项优势。
制定全面且长期的存算一体发展战略。建议在“十四五”及中长期集成电路研发与产业化布局中，将存算一体作为重点发展方向，编制存算一体技术发展路线图。加大存算一体研发支持力度，在01专项和集成电路、人工智能相关产业化专項中予以引导支持。拓展存储设计类初创企业的融资渠道，对于标志性成熟产品，推动国家基金和社会资本跟投。强化高校、科研院所、芯片设计企业、晶圆厂、生产制造企业、封装测试企业、整机企业之间的联动效应，构建存算一体产业新生态。