摘要: 面对DeepSeek-R1模型官方API的拥堵问题,亚马逊云科技率先推出全托管式DeepSeek-R1服务,无需配置硬件和软件环境,一个API即可调用,解决了开发者们的燃眉之急,为出海应用提供高速稳定的AI服务。
北京,2024年3月14日 – 随着DeepSeek引领的新一轮AI技术爆发,应用侧的竞争也日趋激烈。然而,DeepSeek官方服务器的繁忙和限流问题,让众多开发者面临着部署难题。为了解决这一痛点,各大云厂商纷纷推出MaaS(模型即服务)方案,其中,亚马逊云科技率先行动,于3月11日宣布DeepSeek-R1正式作为全托管的无服务器模型在Amazon Bedrock上提供,成为首家以全托管通用模型形式提供DeepSeek-R1的国际云服务提供商。
这意味着,开发者无需再为配置硬件资源、设置软件环境而烦恼,只需通过一个API即可直接调用满血版DeepSeek-R1模型。亚马逊云科技此举无疑为希望基于大模型构建应用的开发者和企业降低了门槛,尤其是对于需要面向海外市场提供服务的出海应用来说,稳定、高速的AI服务至关重要。
DeepSeek-R1作为当前生成式AI领域的核心模型之一,以其强大的自然语言处理和高级推理能力,以及开源的特性,备受开发者青睐。然而,自行部署671B参数量的满血版R1模型对于大多数开发者来说,仍然是一项挑战。
亚马逊云科技此次推出的全托管式DeepSeek-R1服务,不仅提供了便捷的API调用方式,还兼顾了性能和稳定性。根据机器之心的实测,Amazon Bedrock上的全托管式DeepSeek-R1首Token时延(TTFT)极低,仅为0.7秒,甚至在美国的测试结果中可以低至0.4秒。同时,其Token输出速度(TPOT)也表现出色,平均每秒能输出约64.5个Token,远超DeepSeek官方的API服务。
“我们很高兴能为开发者提供如此便捷、高效的DeepSeek-R1模型服务,” 亚马逊云科技相关负责人表示,“通过Amazon Bedrock,开发者可以专注于应用创新,而无需担心底层基础设施的运维和管理。”
此外,亚马逊云科技还强调了其“Choice Matters”理念,为客户提供多种形式的DeepSeek-R1模型选择,包括在Marketplace和Custom Model Import中提供的模型支持,以及全托管式服务,以满足不同用户的需求。
此次亚马逊云科技率先推出全托管DeepSeek-R1服务,不仅展现了其在AI领域的领先地位,也体现了其务实主义的策略,即通过提供便捷、高效的云服务,助力开发者加速AI应用落地,推动AI技术的普及和发展。
参考文献:
- 机器之心:《出海应用也能享受高速稳定的DeepSeek-R1?亚马逊云科技出手了》
- Artifical Analysis:《DeepSeek-R1:API 提供商基准评测和分析》
- 亚马逊云科技新闻博客
关键词: 亚马逊云科技,DeepSeek-R1,全托管,AI,出海应用,Amazon Bedrock,MaaS,人工智能
Views: 0