引言

随着人工智能(AI)技术的迅猛发展,算力需求日益增长。近日,PPIO(派欧云)发布了其最新的AI云新品,引起了业内外的广泛关注。PPIO CEO姚欣在接受钛媒体App采访时表示,未来三年,AI大模型的推理成本或将下降1000倍以上。这不仅意味着AI技术的广泛应用,也将重塑算力市场的格局。

算力需求与使用不平衡

姚欣在采访中指出,当前算力需求和使用存在不平衡的问题,主要体现在推理算力和训练算力的比例上。根据预测,未来算力构成中,95%将是推理算力,而训练算力仅占5%。然而,这95%的推理算力也不会出现一家独大的局面。这意味着,未来算力市场的竞争将更加多元化和分散化。

AI大模型推理成本下降

PPIO作为“算力版滴滴”,通过整合企业侧的闲置碎片化算力,承载多种服务,包括音视频和AI推理等。姚欣预测,未来三年,AI大模型推理成本将下降1000倍以上。这一预测基于多方面的原因,包括技术进步、算法优化以及基础设施的完善。

中国算力基础设施的建设

根据国家统计局最新数据显示,截至5月底,规划具有高性能计算机集群的智算中心已达10余个,智能算力占算力总规模比重超过30%。目前,中国算力机架总规模超过195万架,整体上架率达63%左右。东西部枢纽节点间网络时延已基本满足20毫秒(ms)的要求。

AI算力投资的加大

中国正加大AI算力投资力度。据国家数据局党组书记、局长刘烈宏在2024中国国际大数据产业博览会上透露,截至今年6月底,中国八大国家枢纽节点直接投资超过435亿元,拉动投资超过2000亿元。这表明,中国政府正在积极支持AI算力基础设施的建设和发展。

分布式推理的重要性

将AI大模型的推理放到边端,通过分布式推理,可以有效降低算力成本。AMD CEO苏姿丰(Lisa Su)曾预估,未来价值4000亿美元规模的AI加速计算市场中,其中超过一半的份额,即至少2000亿美元将被专门用于AI推理计算场景的应用。这意味着,分布式推理技术将在未来发挥重要作用。

结论

PPIO通过其“算力版滴滴”模式,整合企业侧的闲置碎片化算力,推动AI大模型推理成本的大幅下降。这一举措不仅有助于降低企业的运营成本,也将促进AI技术的广泛应用。未来,随着技术的不断进步和基础设施的不断完善,AI算力市场将迎来更加广阔的发展前景。

参考文献

  1. 国家统计局. (2024). 规划具有高性能计算机集群的智算中心达10余个.
  2. 刘烈宏. (2024). 中国国际大数据产业博览会发言.
  3. AMD CEO苏姿丰. (2024). 未来AI加速计算市场预测.

通过以上内容,我们不仅能够了解PPIO在AI算力市场的创新举措,还能够看到中国在AI算力基础设施建设方面的积极进展。未来,随着技术的不断进步,AI算力市场将迎来更加广阔的发展前景。


>>> Read more <<<

Views: 0

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注