高通公司AI产品技术中国区负责人万卫星
6月19日,在GSMA 2025 MWC上海期间举办的AI终端峰会上,高通公司AI产品技术中国区负责人万卫星就智能体AI发展趋势发表了看法,并就高通在推动智能体AI在终端部署方面的情况进行了分享。
当前,AI发展正在进入全新阶段,AI发展重心正在向边缘终端转移,向智能体AI领域转型。
智能体AI带来的重要改变在于重塑终端消费者的交互界面,成为一种新的交互方式。正因如此,高通提出“AI is the new UI”。
“用户可以通过非常简单的自然语言来驱动智能设备,完成一系列复杂的操作。同时,智能体AI本身还能够预测用户的想法,预判用户接下来可能要做的事情,并协助用户进行规划和执行。随着端侧能力的提升和端侧模型的加强,用户对于隐私、安全和个性化服务的需求日益增长。高通认为,未来的AI智能体必定是一个能够感知环境、专属个性化且安全可靠的智能体。”万卫星表示。
对于智能体AI在终端侧部署面临的机遇和挑战,万卫星指出,首先,实现智能体AI的整体端侧部署,需要更强大的模型。当前的趋势表明,端侧模型正在迅速迭代,且端侧小模型的能力也在不断增强。目前已经看到了端侧多模态模型的发展。在去年的骁龙峰会上,高通也展示了这种多模态能力,包括一些小模型的能力。未来,小模型将支持更长的上下文,这对于在端侧运行至关重要,并且是非常关键的技术之一。
其次,需要提供更好、更高效、更智能化的用户体验。这要求在技术上提供更充沛的算力、更高的性能和能效。这不仅针对单一的IP,而是整个系统性的AI能力,包括AI本身的能力和数据传输带宽。高通通过先进的异构计算架构,使得AI的各个模块可以根据不同需求在不同的核心组件上运行,并通过这些IP核心组件的协同工作,完成AI的整体部署在端侧的运行。
第三,需要一个更加高效的端到端框架、解决方案,以及更高效的软件工具链和更强大的生态系统。高通推出名为“规划器”的端到端解决方案。该解决方案可以完全在端侧运行,其不同的核心组件也可以方便地供给客户和开发者单独调用,包括个人知识图谱和各种知识向量库等。
万卫星介绍,作为一家致力于基础技术创新的公司,高通为AI的到来进行了全方位的技术储备。
首先,在硬件层面,高通将整个AI的需求贯穿于芯片设计的全过程,为AI的加速提供了多种IP组件。由于AI的应用场景非常多样,即使在智能体AI中,其众多模块对硬件的需求也各不相同。高通的加速处理器包括高算力、低功耗的NPU、通用的CPU、GPU,以及适用于超低功耗场景的传感器中枢,特别是Always-On的功能。这些IP组件既可独立工作,也可协同合作,以实现AI功能模块的各项需求。
其次,除了硬件层面的工作外,高通在软件层面也取得了显著进展。一是当开发出新的模型时,首要任务是将该模型部署到设备上,确保设备能够运行,并且在端侧高效执行。这要求提供高效的转换工具和工具链。二是高通公司产品线丰富多样——包括手机、汽车和PC等——除了高效的工具链外,还需要提供一个灵活的解决方案,以便帮助客户轻松地将模型移植到其他产品上。这意味着需要构建一个统一的AI服务平台。
第三,高通还提供了端到端的解决方案,专门针对智能体AI,即上文提及的规划器(Orchestrator)。
该规划器能够便捷地通过自然语言帮助用户完成任务,支持使用自然语言来驱动和执行较为复杂的任务。它具备意图理解能力,能够协助进行任务编排,并且可以利用用户手机中的本地个人知识图谱和各类向量库,从而提供更为智能和个性化的服务。这些先进技术使高通能够与合作伙伴、客户乃至整个生态系统共同推进Agentic AI在端侧的部署。
“目前,端侧部署Agentic AI虽然存在挑战,但同时也带来了更多机遇。因此,高通公司已经做了丰富的技术储备,并且我们还与行业内合作伙伴紧密合作,以抓住这些机遇。”万卫星说。