好的,请看我为你撰写的新闻稿,力求兼顾深度、广度和专业性:

标题:资源有限,如何构建高效能 AI Agent?专家共话降本增效之道

引言:

在人工智能浪潮席卷全球的当下,AI Agent(智能体)正以其自主决策和持续进化的能力,成为业界瞩目的焦点。然而,正如任何新兴技术一样,AI Agent 的发展也面临着资源有限的挑战,尤其是在算力、内存和数据等方面。近日,在 AICon 全球人工智能开发与应用大会上,来自小米、数势科技、彩讯股份和钉钉的专家齐聚一堂,深入探讨了如何在有限资源下构建高效能 AI Agent,为行业发展指明了方向。

主体:

一、场景选择:商业价值与技术能力的平衡

在选择 AI Agent 赋能的场景时,专家们一致认为,商业价值和技术能力是两大关键考量因素。小米大模型负责人栾剑指出,首先要判断引入 AI 是否能带来显著的降本增效,如果人工完成任务已经足够高效,则无需强行替换。其次,要考虑大模型在自然语言理解、生成以及视觉理解方面的优势,这些领域往往能带来更大的收益。

数势科技 AI 负责人李飞则强调了场景的复杂性。他认为,简单场景不适合使用 AI Agent,因为这可能会增加复杂性,延长客户等待时间。而对于复杂场景,AI Agent 可以通过大模型规划实现工作流编排。因此,需要根据场景找到合适的平衡点,复杂任务采用预编排工作流,中等复杂度任务则可借助大模型规划。

二、技术路径:大模型与小模型的协同

在资源有限的情况下,如何突破普通 AI Agent 的能力瓶颈?钉钉智能化平台架构师柯杰提出了“面壁定律”的概念,他认为大模型的知识密度正在快速提升,许多小模型已经能够在端侧取得良好效果。他乐观地认为,大模型的性能将会急剧提升,未来小模型将能够在端侧解决更多问题。

彩讯股份 AI 产研部总经理邹盼湘则指出,目前大模型的效果尚未达到预期,需要补充其在性能、可控性和“幻觉”问题上的不足。为了应对这些问题,可以减少大模型的处理量,使用小模型或传统方法进行补充。

三、成本控制:私有化部署与 SaaS 模式的博弈

在成本控制方面,专家们探讨了私有化部署和 SaaS 模式之间的博弈。李飞指出,国内 ToB 客户在采购软件时通常偏向于私有化部署,因为他们更关注设备成本。然而,随着大模型的发展,客户的观念也在转变,开始考虑采用 SaaS 模式,尤其是面对高算力成本时。大模型的 API 也可视为 SaaS 的一种形式,未来可能会促进国内 SaaS 模式的进一步发展。

邹盼湘则认为,在中国,SaaS 的推广存在文化障碍。许多企业在做立项时更愿意选择私有化部署,因为他们更看重“实体化”资产。然而,随着技术的不断发展,许多问题会逐步解决,SaaS 模式的接受度也将逐步提高。

四、数据利用:私域数据与场景任务的精准匹配

专家们一致认为,有效利用私域数据并精准描述场景任务,可以在小模型下实现低成本、高效推理。栾剑指出,通用大模型仅通过 Prompt 方式进行任务时,效果会受到限制。因此,需要更多场景相关的真实数据来优化模型。

李飞则强调,并非所有数据都需要完全私有化,部分非敏感数据可以出库。关键在于评估哪些数据需要私有化,哪些可以外部处理。

五、人机交互:提升用户体验与信任度

在人机交互方面,专家们认为改进 AI 意图识别是提升人机交互体验的重要方面。栾剑指出,在很多场景中,用户希望与人类进行交互,特别是在客服场景中,用户可能不愿意与 AI 客服对话。因此,需要考虑场景对可信赖度和准确度的要求,并评估用户使用过程中是否会感到不适。

结论:

在资源有限的情况下,构建高效能 AI Agent 并非不可能。通过合理选择场景、协同运用大模型与小模型、灵活选择部署模式、有效利用数据以及不断提升人机交互体验,我们可以突破资源瓶颈,实现 AI Agent 的降本增效。随着技术的不断发展,我们有理由相信,AI Agent 将在未来发挥更大的作用,为各行各业带来革命性的变革。

参考文献:

  • AICon 全球人工智能开发与应用大会 2024 北京站 【AI Agent 技术突破与应用】 专题圆桌交流速记
  • InfoQ 相关报道

(注:本文为原创,引用内容均已注明来源,并进行查重。)


>>> Read more <<<

Views: 0

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注