赛轮思联手英伟达，升级汽车大模型CaLLM

引言：

在人工智能浪潮席卷全球的今天，汽车行业正经历着前所未有的智能化变革。车载助手不再是简单的语音指令执行器，而是逐渐演变为能够理解复杂语境、提供个性化服务的智能伙伴。近日，语音技术领域的领军企业赛轮思（Cerence）宣布扩大与芯片巨头英伟达（NVIDIA）的合作，这一举动无疑将加速车载人工智能的进化进程。此次合作的核心在于提升赛轮思 CaLLM（Cerence Automotive Large Language Model）系列语言模型的功能，预示着未来车载交互体验将迎来质的飞跃。

合作背景：AI赋能汽车智能化

汽车智能化已成为行业共识，而人工智能，特别是大语言模型（LLM），在其中扮演着至关重要的角色。传统的车载系统往往依赖于预设的指令和简单的关键词识别，难以满足用户日益增长的个性化需求。大语言模型的出现，为车载系统带来了理解自然语言、进行复杂对话、甚至提供情感化交互的可能性。

赛轮思作为车载语音技术的领导者，其 CaLLM 系列模型旨在为汽车制造商提供强大的AI解决方案。然而，要实现高性能、低延迟、高可靠性的车载AI，需要强大的算力支持和先进的软件平台。这正是赛轮思选择与英伟达深化合作的关键原因。

合作内容：软硬件协同，打造车载AI新引擎

此次合作的核心内容可以概括为以下几个方面：

NVIDIA AI Enterprise平台赋能CaLLM： 赛轮思的云端汽车大语言模型 CaLLM 将由 NVIDIA AI Enterprise 平台提供支持。该平台是一个端到端的云原生软件平台，包含 NVIDIA TensorRT-LLM 和 NVIDIA NeMo 等关键组件。这些组件能够加速 CaLLM 的开发和部署，使其在云端拥有更强大的计算能力和更快的响应速度。
- NVIDIA TensorRT-LLM: 这是一个用于优化和加速大语言模型推理的库。通过使用 TensorRT-LLM，赛轮思可以显著提高 CaLLM 的推理效率，降低延迟，从而为用户带来更流畅的车载助手体验。
- NVIDIA NeMo: 这是一个用于构建、定制和部署生成式 AI 应用程序的端到端框架。NeMo 提供了丰富的工具和预训练模型，使赛轮思能够更高效地开发和定制 CaLLM，以满足汽车行业的特定需求。
NVIDIA DRIVE AGX Orin支持CaLLM Edge： 赛轮思的嵌入式小语言模型 CaLLM Edge 将由 NVIDIA DRIVE AGX Orin 平台提供支持。DRIVE AGX Orin 是英伟达专为汽车应用设计的强大计算平台，具有高性能、低功耗的特点，非常适合在车载环境中运行复杂的AI模型。
- DRIVE AGX Orin： 这款芯片集成了高性能的CPU、GPU和深度学习加速器，能够高效地运行 CaLLM Edge 模型，实现本地化的语音处理和自然语言理解。这对于确保车载助手在网络连接不稳定或无网络的情况下也能正常工作至关重要。
汽车优化的NVIDIA NeMo Guardrails： 双方将共同开发汽车优化的 NVIDIA NeMo Guardrails 实现。Guardrails 是一种用于确保 AI 系统行为符合预期、避免产生有害或不当回应的技术。在车载环境中，Guardrails 的重要性尤为突出，它可以帮助确保车载助手在各种复杂场景下都能提供安全、可靠的交互体验。
- NeMo Guardrails： 通过定制 NeMo Guardrails，赛轮思可以确保其车载助手能够驾驭车载交互的细微之处，避免出现误解、错误信息或不恰当的回应，从而提升用户信任度和使用体验。
CaLLM Edge代理架构的优化： 双方将通过 NVIDIA DRIVE AGX Orin 在 CaLLM Edge 上实施和优化代理架构。代理架构是指将复杂的任务分解为多个子任务，并由不同的模块协同完成。这种架构可以提高 CaLLM Edge 的效率和灵活性，使其能够更好地适应各种车载应用场景。
- 代理架构： 通过优化代理架构，CaLLM Edge 可以更高效地处理复杂的车载交互任务，例如导航、音乐控制、车辆设置等，从而为用户提供更加无缝的体验。

合作意义：车载AI的未来展望

赛轮思与英伟达的深化合作，不仅是一次技术层面的升级，更是对未来车载AI发展方向的深刻探索。此次合作的意义可以从以下几个方面进行解读：

性能提升： 通过 NVIDIA AI Enterprise 和 DRIVE AGX Orin 的支持，CaLLM 系列模型将获得更强大的计算能力和更快的响应速度。这意味着车载助手将能够更快速、更准确地理解用户的指令，并提供更流畅、更自然的交互体验。
安全性增强： 通过汽车优化的 NVIDIA NeMo Guardrails，车载助手将能够更好地驾驭车载交互的细微之处，避免产生误解、错误信息或不恰当的回应，从而提升用户信任度和使用体验。这对于确保行车安全至关重要。
个性化服务： CaLLM 系列模型具有强大的自然语言理解能力，能够理解用户的意图和偏好，从而提供更加个性化的服务。例如，车载助手可以根据用户的驾驶习惯和偏好，推荐合适的音乐、导航路线或车辆设置。
本地化处理： CaLLM Edge 模型在 NVIDIA DRIVE AGX Orin 上的运行，使得车载助手能够在本地进行语音处理和自然语言理解，即使在网络连接不稳定或无网络的情况下也能正常工作。这对于确保车载助手在各种场景下的可靠性至关重要。
加速创新： 此次合作将加速车载AI技术的创新步伐，推动车载助手从简单的语音指令执行器向智能伙伴的转变。未来，车载助手将能够更好地理解用户的需求，提供更加智能化、个性化的服务，从而为用户带来更加安全、便捷、愉悦的出行体验。

行业影响：车载AI竞争加剧

赛轮思与英伟达的合作，无疑将加剧车载AI领域的竞争。其他汽车制造商和技术供应商也将被迫加快自身在车载AI领域的研发和投入，以应对这一新的挑战。可以预见的是，未来几年，车载AI技术将迎来快速发展期，各种创新技术和应用将层出不穷。

挑战与机遇：车载AI的未来之路

尽管车载AI的发展前景广阔，但仍面临一些挑战：

数据隐私： 车载AI系统需要收集大量的用户数据才能提供个性化服务，这引发了人们对数据隐私的担忧。如何平衡个性化服务和数据隐私保护，将是未来车载AI发展的重要课题。
安全性： 车载AI系统的安全性至关重要。如果车载助手被黑客攻击或出现故障，可能会对行车安全造成严重威胁。因此，如何确保车载AI系统的安全可靠，将是未来车载AI发展的重要挑战。
成本： 高性能的AI芯片和软件平台的成本较高，这可能会限制车载AI技术的普及。如何降低车载AI技术的成本，使其能够惠及更多用户，将是未来车载AI发展的重要方向。

然而，挑战也往往伴随着机遇。随着技术的不断进步和成本的不断降低，车载AI技术将逐渐普及，并为人们带来更加智能、便捷、安全的出行体验。

结论：

赛轮思与英伟达的深化合作，标志着车载AI技术迈向了一个新的阶段。通过软硬件协同，双方将共同打造更强大、更智能、更可靠的车载AI解决方案，为用户带来更加个性化、便捷、安全的出行体验。此次合作不仅将加速车载AI技术的创新步伐，也将加剧车载AI领域的竞争，推动整个汽车行业向智能化转型。未来，车载AI将不再是简单的语音助手，而是成为用户出行过程中不可或缺的智能伙伴，为人们的生活带来更多便利和乐趣。我们有理由相信，在赛轮思和英伟达等科技巨头的共同努力下，车载AI的未来将更加光明。

参考文献：