10倍杠杆
作者 | ZeR0
编辑 | 漠影
芯东西8月8日报道，今日，北京AI芯片创企苹芯科技发布存算一体NPU“PiMCHIP-N300”和多模态智能感知SoC芯片“PiMCHIP-S300”。两款产品是存算一体技术在28nm及22nm制程节点上的首次产品化实现。N300已有客户，S300预计在今年第四季度推向市场。
通过将计算和存储深度融合，PiMCHIP-S300实现了数据处理的“零搬运”，在大幅提升计算效率的同时，显著降低了功耗，可应用于智能可穿戴设备、智能安防、具身智能、AI大模型、健康数据分析等领域。
苹芯科技创立于2021年2月，同年9月其基于SRAM架构的存内计算加速器S200测试成功，该成果还发表于素有“固态电路领域奥林匹克”之称的芯片顶会ISSCC 2022。今天的新品发布也是对其过去三年创业发展的阶段性总结。
清华大学电子工程系教授、无问芯穹科技有限公司发起人汪玉现场发表致辞，他总结了苹芯两款新品的三个特点：1）在28nm成熟工艺下取得跨代性能提升，实现极致能效比；2）通用性强，能支持不同应用；3）是一个平台架构的概念，在大模型、可穿戴、机器人等应用领域均能发挥作用。
汪玉回顾道，他与苹芯科技联合创始人、CEO杨越相识28年的老友。两人是清华附中同学，住校时经常一起踢球，然后都保送到清华大学，汪玉就读于电子工程系，杨越进入自动化系。
苹芯科技的创立也有汪玉的一份功劳。在2018年卖掉深鉴科技后，汪玉2019年下半年去美国斯坦福大学访问，正好杨越在美国工作，汪玉就劝他回国，搞点事情。2021年年初，杨越回国创办苹芯，第一个办公室也是汪玉帮忙找的。
此外，在存算一体技术方向上，汪玉跟苹芯团队算是同行。汪玉大约在2012年、2013年开始研究存算一体并发表相关论文。
据了解，苹芯科技已与国内外电子类头部企业、大型企业集团等客户展开合作，为其提供存内计算技术的一站式解决方案。
一、单核算力0.5TOPS，系统功耗毫瓦级，支持自定义算子
PIMCHIP-N300是苹芯科技自研的新一代存算一体NPU（神经网络处理单元）IP，专为机器学习和AI领域设计，可内嵌到端侧芯片中，能以更高效率、更低能耗承担繁重的神经网络加速任务。
杨越谈到端侧电子产品中出现两个趋势，一是智能本地化，二是小型化、轻量化、低功耗化。两个趋势都对底层芯片提出了新的设计要求，低成本、高效能、小面积、低功耗这四个优化维度几乎涵盖了所有端侧芯片的设计理念。
PiMCHIP-N300采用软硬融合架构，充分考虑可扩展性，单核可提供0.5TOPS算力，系统功耗为25-100mW，典型场景下静态功耗仅10μW，支持混合精度计算，涵盖INT4/INT8/FP16精度，支持12大类超过100种算子，核心计算单元能效比达27TOPS/W，跑YOLO-V3 tiny网络的算力资源利用率达89.5%。
在兼容性方面，PiMCHIP-N300支持自定义算子，可满足不同模型部署需求，并针对人声监听、眼动追踪、主动降噪、环境感知等应用场景提供了配置方案和专门优化。
在灵活性方面，该NPU有高速任务调度加速单元，支持多核或多个计算单元的实时任务调度。
为了满足客户更自主、灵活的算法移植需求，苹芯科技根据客户定义的场景或数据，提供一键部署的端到端的解决方案，开放NPU中间表示层规范、模型解析器、模型优化器、驱动等，并提供免费的软件工具链，包括软件模拟器、调试器、C编译器，能够减少二次开发的时间。
苹芯科技CTO章尧君把存算技术平台分为五类：应用、工艺、电路、架构、算法，每一部分需要相互配合和共同设计，从应用出发，确定需要的算法、工作环境及设计要求，进而确定架构设计和工艺选择，根据工艺特性设计电路，最终实现存算芯片方案。
这是一个密度优先、功耗优先、速度优先的设计方案。混合计算架构可基于不同的技术和设计参数实现，包括不同阵列形状（存储容量），SRAM、RRAM等不同的存算单元，不同的存算容量与算力的比例，以及不同输入/输出数量。
章尧君总结说，苹芯科技以高能效加速计算核心为原点开始开发，之后做从定点运算到浮点运算，以及一些面向特殊应用的设计，并在研可灵活实现不同算力部署需求的首款存算编译器，还将提供混合计算架构和异构存内计算量化映射技术。
二、多模态智慧感知芯片：28nm，异构架构，单核能效比27TOPS/W
PIMCHIP-S300多模态智慧感知芯片是一款基于SRAM的存内计算芯片，内置自研NPU、数字PIM单元，单核能效比高达27TOPS/W，具备高能效、小面积、低功耗、低成本等特点，可高效完成数据密集型任务。
我国是消化道肿瘤高发国，根据临床数据，目前我国早期胃癌检出率不足20%，如果在风险年龄段做一次内镜检查并切除息肉，发生癌症的风险就会降低68%，早筛、早诊、早治是从根本上降低胃癌死亡率、降低治疗成本的最有效手段。然而我国目前医疗系统可提供的胃肠镜检测资源仅能应对约2%的风险人群筛查，无法满足大规模人群的监测需求。
香港特别行政区政府从2009年推出长者医疗券计划。目前，该计划资助每名年满65岁的合资格香港长者每年2000元的医疗券（累积上限为8000元），让长者选用最符合自己健康需要的医疗服务。
该芯片采用轻量级Cortex-M MCU处理器，实现实时控制与调度；支持音、视频及多种传感器接入，实现多模态融合感知；支持多路麦克风阵列预处理流程，满足各级语音场景应用。基于自研异构架构，这款AI芯片可实现超低功耗唤醒、VAD、语音识别、运动监测、视觉识别，针对特定计算能节约90%的耗能。
苹芯科技副总裁江广展示了PIMCHIP-S300芯片的谍照。它采用28nm制程、BGA封装、自研异构架构，12mm * 12mm大小，die做得很小，能满足更小型化的需求。
这款芯片拥有丰富的外设接口，单颗芯片既可以接收数据，也可以本地处理数据，产生简单决策，最终产生控制，一颗就能闭环。
其高度灵活和易集成性，有助于大幅缩短产品开发周期。苹芯打造了完整交钥匙解决方案，底层操作系统、中间件、工具链都会开源，提供一键AI部署工具、一键二进制生成和下载工具。
该存算一体AI芯片提供电池可驱动的低功耗，未来还能结合新能源甚至是光伏电池，达到更好的小型化和易部署能力，广泛支持无人机、具身智能等场景应用。
苹芯挑选了近期参与MLPerf测评的竞品，进行综合比较，图表显示，在跑多种AI算法时，苹芯存算一体AI芯片的能耗和延迟均最低。
同时，苹芯自研了一套开源的Pstreamer异构计算框架，通过管道将不同端侧通用算法和算力模块连接起来，实现声光电不同模态信息的采集、融合、感知等功能，并衔接决策与控制功能，以帮助客户快速部署产品，快速推向市场。
结语：已申请40余项海内外专利，将积极拥抱大模型生态
苹芯科技定位自身为智能计算架构的革新者，致力于通过创新的存算一体解决方案，为AI的广泛应用铺设技术高速路，推动从智能终端设备到智慧城市、从智能医疗到具身智能的全方位变革。目前苹芯已申请海内外专利40余项，相关知识产权和工程经验覆盖从存储器器件、电路设计、算法优化到体系结构等全技术栈。
杨越在发表致辞时谈道，展望未来，苹芯科技将继续秉承“创新引领未来，技术改变世界”的理念，积极拥抱大模型生态，以产品为核心，不断加大研发投入，深化与高校、科研机构的合作，培养和吸引顶尖人才，共同推动中国集成电路产业向更高层次迈进。
包括苹芯两款新品在内10倍杠杆，随着相关技术和器件的迭代和成熟，越来越多存算一体AI芯片产品走向落地商用，为国内AI加速解决方案提供一种兼顾高能效与灵活性的新选择。