寒武纪联手阶跃星辰共探芯片+模型联合创新模式

来源:寒武纪 #寒武纪# #阶跃星辰#
2282

7月25日,阶跃星辰发布了新一代基础大模型Step 3。Step 3兼顾智能与效率,通过模型和系统联合创新,实现了行业前列的推理解码效率,将于7月31日面向全球企业和开发者开源。目前,寒武纪已初步实现对Step 3的支持。

为了深化模型与芯片的联合创新,阶跃星辰联合寒武纪等近10家芯片及Infra厂商发起“模芯生态创新联盟”,打通了芯片、模型、Infra 完整技术链路,更有效地降低推理成本,推动大模型的普惠落地。

作为首批联盟成员,寒武纪与阶跃星辰展开深入合作,提升大模型适配性和算力应用效率,让大模型和算力双向实现价值最大化,加速推动AI真正赋能千行百业。

随着推理模型成为大模型应用中的主流,能否降低推理成本也成为决定大模型应用渗透率的关键问题。寒武纪与阶跃星辰已达成的“芯片+模型联合创新模式”,实现了软硬件的深度协同优化,将大模型应用推进到一个全新的阶段,更高性能、更低成本的AI将赋能更广泛的行业和应用场景。

据了解,Step 3还将通过开源技术报告与全球开发者分享大幅降低推理成本背后的系统架构创新。

责编: 爱集微
来源:寒武纪 #寒武纪# #阶跃星辰#
THE END
关闭
加载

PDF 加载中...