正文:
近日,PPIO CEO姚欣在“Power to Pioneers·2024分布式云计算论坛暨PPIO AI产品发布会”上发布了一款专为AI推理场景设计的Serverless产品,并预测未来三年内,AI大模型推理成本或将下降1000倍以上。
姚欣表示,算力需求和使用不平衡是一个长期存在的问题。在未来算力构成中,95%将是推理算力,5%是训练算力,但这95%不会出现一家独大的局面。PPIO派欧云,被誉为“算力版滴滴”,主要通过整合企业侧闲置碎片化的算力,承载多种服务,包括音视频和AI推理等。
据钛媒体App报道,PPIO派欧云的Serverless产品通过算法、系统和硬件协同创新,提供模型部署、运行优化、弹性伸缩及API服务,帮助客户在自定义模型时获得高效的弹性效率和极致的运行成本。这款产品的推出意味着开发者无需再管理和运维算力服务器,而是能够将精力集中于核心业务的应用逻辑开发与创新。
国家统计局数据显示,截至5月底,中国具有高性能计算机集群的智算中心达10余个,智能算力占算力总规模比重超过30%。中国算力机架总规模超过195万架,整体上架率达63%左右。姚欣预测,遵循Scaling Law(尺度定律)的基本原理,计算能力将决定大模型创新和应用的上限。在计算资源成本高昂而需求爆增的市场格局下,分布式算力将成为引领下一轮科技革命的重要推动力。
PPIO派欧云成立于2018年,由PPTV创始人姚欣和首席架构师王闻宇联合创立。截至目前,已完成三轮融资,总额超过3亿元人民币。在本次论坛上,PPIO派欧云还推出了全新Model API服务产品,支持生成式AI应用开发所需的全模态API,商业模式为“按需付费”。
姚欣认为,开源技术是推动中国AI发展的关键要素。他强调,创业者、创始人需要抱团取暖,形成社区,互相协作,共同迎接新的AI时代的到来。
在谈到AI算力的供需平衡问题时,姚欣表示,随着技术的成熟,大规模应用将随之而来,AI推理算力市场将出现多样化细分,以满足不同任务的需求。从IT行业的长期趋势来看,单位算力的成本将持续下降。
Views: 2