7月3-5日,2025第九届集微半导体大会在上海张江科学会堂举行。大会由半导体投资联盟、ICT知识产权发展联盟主办,爱集微(上海)科技有限公司承办,上海市集成电路行业协会协办,浦东科创集团、海望资本战略协作,上海市张江科学城建设管理办公室、浦东新区投资促进服务中心支持。
作为本届大会最具技术含量的核心板块之一,集微EDA IP工业软件论坛于7月4日盛大举行。大会以“智启芯程——AI驱动下的EDA与IP设计新纪元”为主题,汇聚国内外EDA/IP领域顶尖学者、企业领袖及投资专家,共同探讨AI时代芯片设计工具链的创新蓝图。
Ceva中国技术支持总监徐明
会上,行业领先的硅和软件知识产权许可商Ceva中国技术支持总监徐明在发表题为《人工智能的下一次进化:边缘优先》的主题演讲中称,随着人工智能的深入发展和持续迭代,边缘人工智能正在推动整个科技行业发生革命性变化,而其关键驱动力在于六大方面。
第一,实时处理:便于即时数据处理、推理模型和更快地完成首个标记(token)。第二,数据隐私:本地数据处理增强了安全性和隐私性。第三,能量:边缘推理可降低云计算的电力负荷,解决云的限制并推动边缘计算的应用。第四,成本:与每次查询的云成本相比,在本地运行推理的成本接近于零。第五,带宽效率:减少对云的依赖,节约互联网带宽。第六,个性化:定制化体验,提升用户参与度和满意度。
徐明指出,“如今的人工智能发展趋势是“边缘优先”(Edge-First),其中包括更优化、更高效的模型正在加速边缘部署,以及更小的尺寸和更低的内存使用。目前,英伟达、谷歌、高通和Arm等行业领导者正在从以云计算为中心的人工智能转向边缘原生智能。”
例如英伟达边缘人工智能平台旨在直接在机器人和边缘设备上训练、模拟和部署人工智能模型,为工业、物流和自治系统的实时决策提供支持。高通正在从定制解决方案转向可扩展的人工智能边缘平台,包括对Edge Impulse的收购和Dragonwing AI soc的开发使边缘人工智能更容易被开发人员使用。Arm认为随着边缘人工智能在智能家居、城市、工业物联网、医疗保健和零售等领域实现实时、端侧智能和决策,整个行业转型正在发生革命性变化。
在这背后,“边缘优先”人工智能应用范式的主要驱动因素主要在于三方面,即高效、小型、专业化的人工智能模型的出现,边缘人工智能硬件的进步,以及边缘人工智能在不同行业的融合。徐明还称,“NPU正在推动人工智能时代的计算周期(Computing Cycles)演进,同时其设备规模可达百亿数量级别,远超移动互联网、桌面互联网和PC时代。”
但鉴于边缘人工智能的部署面临一些挑战,成功应用AI芯片需要端到端人工智能解决方案,包括适用于各种应用的可扩展NPU,便于部署的人工智能SDK和工具,用于参考/优化AI模型的Model zoo框架,可互补解决方案的生态系统,以及面向未来的人工智能架构。
对此,徐明强调,Ceva针对性地提出了相关人工智能战略,即通过可扩展的NPU+SDK助力智能边缘,而这一战略的支柱是“连接”“感知”和“推理”。“我们致力于为各行各业提供软件和芯片IP 解决方案,助力客户更快、更可靠、更高效、更经济地将创新的尖端产品推向市场”。其中,在可扩展的NPU系列方面,包括支持从数据中心到边缘设备的AI推理,以及优化超低功耗和实时性能。在全栈集成方面,硬件工具主要有NeuPro NPUs + SensPro DSP,软件工具主要包括NeuPro-Studio SDK、图形编译器。
进一步来看,Ceva的NeuPro-M和NeuPro-Nano两大产品解决方案,是适用于各种工作负载的全套NPU IP,同时统一的AI SDK易于采用,可广泛应用于预测与维护、健康及健身、物体识别、监控、ADAS和Co-Pilot等应用场景。整体上,根据10GOPS-1TOPS、1-10 TOPS、10-400 TOPS三个不同算力等级划分,Ceva针对性布局了Edge AI – 32-512 MACs、1K-4K MACs和8K-128K产品,使得NeuPro NPU系列支持任何边缘人工智能部署。
徐明还称,在整个行业中,Ceva的NeuPro NPU具备重要的优势和差异化特征,即可扩展性、极致能效比和高度集成性。CEVA针对transformer网络做了原生的支持和优化,特别适合生成式AI。可以实现高吞吐量的人工智能应用,且只消耗最小的功耗——针对Llama 2 和3.2的一些网络可达3500 Tokens每秒/瓦的性能。其次,在NPU架构可扩展性方面,单核算力可横跨MCU到高端SoC(10 GOPS - 400 TOPS),以支持音频、视觉、故障检测、智能手机、ADAS等应用。另外,CEVA融合了DSP与NPU,具有传感器数据前处理、AI推理、后处理的统一平台。
在致力于推动边缘人工智能芯片发展的同时,Ceva正利用可扩展的低功耗IP平台,助力客户产品实现数据传输、数据交互等能力,乃至满足各类终端市场关键的应用需求,进而在全球拥有广泛、多元的客户基础并受到全球顶级品牌信赖,其中包括各大小型Fabless、OEM。
基于领先的IP 解决方案和庞大应用基础,Ceva旨在引领芯片和软件IP的未来。徐明表示,“Ceva围绕连接、感知和推理布局的各大产品线已经无处不在,广泛应用于消费物联网、汽车、工业、基础设施、个人电脑和移动终端等领域,并覆盖众多赛道、细分领域的主流品牌。目前,由Ceva提供支持的设备每秒都有超过60个产品在出货,而且Ceva驱动的设备年出货量已超过20亿。迄今为止,采用Ceva的设备已经达到了190亿以上。”