上海宝山炮台湿地公园的蓝天白云上海宝山炮台湿地公园的蓝天白云

新闻导语: 2024年9月6日,全球AI芯片峰会在北京召开,高通AI产品技术中国区负责人万卫星出席并发表主题演讲,分享高通在终端侧AI创新方面的成果。

新闻正文:

9月6日,2024全球AI芯片峰会在北京召开。作为国内规模最大、规格最高、影响力最强的产业峰会之一,本届峰会以“智算纪元 共筑芯路”为主题,吸引了来自AI芯片、Chiplet、RISC-V、智算集群与AI Infra系统软件等领域的50多位嘉宾参与。

高通AI产品技术中国区负责人万卫星受邀参加大会开幕式,并发表了以“终端侧AI创新开启智能计算全新体验”为主题的演讲。在演讲中,万卫星表示,高通公司持续深耕AI领域,面对当前生成式AI的飞速发展,高通的领先SoC解决方案提供了异构计算系统和具备高性能低功耗的强大NPU,能够满足当前丰富生成式AI用例的不同需求和算力要求,并对实现最佳性能和能效至关重要。

万卫星详细介绍了高通在AI芯片领域的创新成果,包括:

  1. 高通第三代骁龙8移动平台和骁龙X Elite计算平台,为终端侧生成式AI提供了强大的算力支持;
  2. 高通Hexagon NPU的硬件架构,包括张量、矢量和标量三大加速单元,以及片上内存,为AI算力提供高效支持;
  3. 高通传感器中枢,为低功耗AI推理加速提供解决方案;
  4. 高通AI软件栈(Qualcomm AI Stack),为OEM和开发者提供统一的AI软件解决方案。

万卫星强调,高通致力于在终端侧推理生成式AI模型,不仅具有成本、个性化、时延等优势,更重要的是能够保护用户隐私。在终端侧完成数据处理,可以避免用户数据上传到云端,从而保护用户隐私。

此外,万卫星还介绍了高通在AI芯片领域的未来发展方向,包括:

  1. 支持更大规模的大语言模型,如超过100亿参数的大语言模型;
  2. 实现多模态大模型在端侧的完整运行;
  3. 持续加大对NPU的投入,提升AI算力和能效。

万卫星的演讲为与会嘉宾提供了高通在终端侧AI创新方面的最新成果和未来发展方向,展示了高通在AI芯片领域的领先地位。


>>> Read more <<<

Views: 0

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注