当前,随着大模型小型化、低成本化的推动,以及端侧算力的不断提升,端侧AI的加速普及,正在成为行业炙手可热的话题。
6月18日至6月20日,在上海召开的MWCS世界移动通信大会上,紫光展锐正式推出UNISOC端侧AI平台化解决方案。在端侧AI领域持续投入研究和创新,紫光展锐围绕端侧AI的深度布局正在徐徐展开。
两大解决方案 让端侧AI更有“灵性”
简要而言,紫光展锐的端侧AI平台化解决方案包括单芯片、异构分布式两大解决方案,针对不同的应用场景,提供更高性能、更低功耗、安全可靠、灵活配置的多样化芯片解决方案。
紫光展锐的单芯片AI解决方案依托于成熟的5G SoC T9100,T9100采用先进的6nn EUV制程工艺,CPU使用的是“1+3+4”(1XA76@2.7GHZ +3XA76@2.3GHZ +4XA55@2.1GHZ)的8核架构,Mali-G57 MC4 GPU,支持5G全模基带、4K视频录制、1.08亿像素拍照等功能,定位中高端市场。
在AI方面,T9100内置8TOPS算力NPU模块,支持主流AI模型,如图像分类、语义分割、目标检测等。此外,通过视觉信息处理器(VDSP),不仅能针对图像和AI处理任务加速运算,为性能加速,同时会显著降低终端的功耗。
由于紫光展锐的单芯片AI解决方案采用多核异构系统架构,软硬件协同、指令级优化与DVFS效能控制,带来高性能、低功耗表现。
在一些如手机AI摄影、语音助手等典型场景下,展锐单芯片AI解决方案可实现大模型生成速度较上一代NPU/CPU异构方案提升20%+、大模型推理功耗降低60%。
解决复杂的Camera视觉和AI处理任务。不仅针对AI应用,在HDR、实时美颜、语义分割等应用上,性能上有更好地提升。
随着终端AI的广泛普及,场景多样化,算力需求碎片化以及对于性能和能耗的平衡,使得对于芯片设计的灵活性的需求大大增加。
紫光展锐的异构分布式AI解决方案通过多芯片协同架构,支持1T至100T的灵活算力配置,适配30余种不同参数规模的模型,并可同时处理多种行业主流大语言模型的实时运算需求,全面覆盖从边缘计算到云端部署的多样化算力场景。
此外,通过内存独享,实现灵活的带宽扩展,通过分布式集成架构实现即插即用,具备更高的灵活性与开放性,从而能够快速适应当前快速迭代的AI技术,支持海量差异化的场景应用,也兼具成本优势。
在MWCS紫光展锐展区,笔者看到了搭载该方案的智能终端演示了图像识别模型和大语言模型,以及端侧语音聊天、AI助手等功能。据紫光展锐方面介绍,该方案通过软硬件协同优化,使AI运算能耗较传统方案下降55%,存储占用减少30%。
据了解,紫光展锐端侧AI平台,可支持大模型、多模态、多并发、AI Agent、端云结合的多重解决方案,实现AI 绘图、AI语音聊天、AI智能搜图、AI智能图文问答、AI相机、AI翻译等丰富功能。可与手机、平板、穿戴、汽车等多种创新终端灵活组合,相关产品已推向市场。
比如在AI智能终端方面,努比亚Neo 3 G、步步高AI学习机等均搭载了紫光展锐的T9100平台。
赋能开发者 打造开放协作生态
除了硬件层面之外,开发工具、软件生态的丰富和完善,对于端侧AI的持续快速演进,以及对于AI应用在端侧的加速落地,也起到至关重要的作用。当前,几乎所有的芯片设计大厂,以及推出的端侧AI解决方案,都在重点围绕“软硬一体”进行布局。
此次紫光展锐在推出端侧AI解决方案的同时,也同步推出了支持全流程开发工具的自研AI SDK,实现多OS支持,可视化集成分析、一键安装与插件化部署。此外,紫光展锐还推出了UNISOC 异构计算开发平台具备弹性集成与通用平台特性,可提供多种解决方案,降低开发门槛提升开发效率,加速AI应用落地。据了解,得益于开发工具和平台的支持,能够使AI应用开发效率提升40%。
另外值得一提的是,紫光展锐的端侧AI平台化解决方案支持AI领域的“万能接口”——MCP(模型协调协议)。
当前AI技术面临硬件接口类似的碎片化困境。不同厂商的模型格式、数据标准、硬件调用方式差异巨大,导致开发者需要为同一任务编写多套代码,也推高了企业部署AI的成本。
而MCP作为一种标准化接口协议,被称为AI领域的USB-C,旨在实现端侧AI设备与外部工具、数据源及云端服务的高效协同通信。其核心价值在于通过统一规范的协议层设计,打破不同AI模型、硬件平台和应用场景之间的技术壁垒,为开发者提供 “即插即用” 的集成能力。
通过支持MCP,紫光展锐的端侧AI平台化解决方案可实现一键部署,支持动态MCP配置、多协议兼容以及端云MCP,可稳定调用外部工具,丰富的插件支持、广泛的服务定制以及快速的应用扩展。
可以看到,紫光展锐此次推出自研AISDK、UNN异构计算开发平台以及支持MCP,目标是围绕端侧AI构建开发完整生态,解决当前AI技术落地面临的算力碎片化、软硬件适配难、开发效率低等核心问题,也有助于打造开放多元的协作生态。
结语
整体而言,此次紫光展锐在MWCS上发布的端侧AI解决方案,通过“硬件架构创新+开发工具链优化+生态开放协同”三个层面,给出了大陆领先的芯片设计企业在端侧AI领域的阶段性思考和答案。
AI时代的到来,正推动传统的通信芯片设计厂商从“连接”向“连接+计算”的方向转型,其产品也从单纯的硬件方案,向“软件+硬件+算法”一体化的全栈AI解决方案拓展。
通过发挥芯片设计技术、无线通信技术以及软硬件系统集成技术三大核心优势,紫光展锐与全球生态合作伙伴协同创新,为终端AI领域贡献了自己“灵性”的答案。而灵性与智慧,或许是在当前激烈的竞争环境下,芯片企业实现市场立足与技术突围的关键。