新闻导语: 2024年9月6日,全球AI芯片峰会在北京召开,高通AI产品技术中国区负责人万卫星出席并发表主题演讲,分享高通在终端侧AI创新方面的成果。
新闻正文:
9月6日,2024全球AI芯片峰会在北京召开。作为国内规模最大、规格最高、影响力最强的产业峰会之一,本届峰会以“智算纪元 共筑芯路”为主题,吸引了来自AI芯片、Chiplet、RISC-V、智算集群与AI Infra系统软件等领域的50多位嘉宾参与。
高通AI产品技术中国区负责人万卫星受邀参加大会开幕式,并发表了以“终端侧AI创新开启智能计算全新体验”为主题的演讲。在演讲中,万卫星表示,高通公司持续深耕AI领域,面对当前生成式AI的飞速发展,高通的领先SoC解决方案提供了异构计算系统和具备高性能低功耗的强大NPU,能够满足当前丰富生成式AI用例的不同需求和算力要求,并对实现最佳性能和能效至关重要。
万卫星详细介绍了高通在AI芯片领域的创新成果,包括:
- 高通第三代骁龙8移动平台和骁龙X Elite计算平台,为终端侧生成式AI提供了强大的算力支持;
- 高通Hexagon NPU的硬件架构,包括张量、矢量和标量三大加速单元,以及片上内存,为AI算力提供高效支持;
- 高通传感器中枢,为低功耗AI推理加速提供解决方案;
- 高通AI软件栈(Qualcomm AI Stack),为OEM和开发者提供统一的AI软件解决方案。
万卫星强调,高通致力于在终端侧推理生成式AI模型,不仅具有成本、个性化、时延等优势,更重要的是能够保护用户隐私。在终端侧完成数据处理,可以避免用户数据上传到云端,从而保护用户隐私。
此外,万卫星还介绍了高通在AI芯片领域的未来发展方向,包括:
- 支持更大规模的大语言模型,如超过100亿参数的大语言模型;
- 实现多模态大模型在端侧的完整运行;
- 持续加大对NPU的投入,提升AI算力和能效。
万卫星的演讲为与会嘉宾提供了高通在终端侧AI创新方面的最新成果和未来发展方向,展示了高通在AI芯片领域的领先地位。
Views: 0