从架构角度认识 AI：为架构师解读机器学习与生成增强技术
作者：Thomas Betts、Anthony Alford
译者：平川
策划：Tina
本文要点
- “人工智能”一词通常是指生成式人工智能（genAI），因为这是人们所熟悉的最常见的实现方式。
- LLM，像任何 ML 模型一样，获取输入，提供输出，就像一个你可以通过 API 调用的函数。
- 在应用程序中使用 LLM 之前，务必定义一个成功的标准。
- 要提升 LLM 的效果，如果提示工程还不够的话，那么检索增强生成（RAG）是你早期应该采用的步骤。
- 向量数据库提供最近邻搜索，这有助于查找要用于 LLM 上下文的相关内容。
简介
Thomas Betts：大家好。在 InfoQ，我们一直致力于向读者提供最新的软件创新和趋势信息。我知道，有时候新消息满天飞，我们主要关注那些与我们目前正在从事的工作密切相关的主题，或是我们感兴趣的主题。有时，你可能会意识到，一些你以前可以置之不理的东西，现在已经不容忽视了。我承认，对于过去十年间的很多新闻，关于大数据、机器学习、人工智能，我都是这么看的。我发现这很有趣，但因为那不是我的工作，所以我对大多数主题的理解都很浅。这没什么问题。通常来说，软件架构师就是这么处理问题的。我们所掌握的知识往往呈 T 形。我们需要了解的学科范围很广，但通常，我们只深入了解其中的几个，除非我们不得不再去深入地了解其他学科。我认为，这就是 ML 和 AI 的发展现状。那不再是一件无关紧要的事。架构师每天都要面对它们。因为产品负责人、首席技术官、首席执行官，甚至我们的客户都在问，“能加入一些人工智能功能吗？”就是这样，我想到了今天的节目。我邀请了 Anthony Alford 来帮助解释一些与 ML 和 AI 相关的概念。我认为，这些概念现在是成为一名高效的软件架构师所必备的知识。Anthony 的声音可能听起来很熟悉，因为他也是 InfoQ 的编辑。他和 Roland Meertens 共同主持了 Generally AI 播客，那个节目刚刚开始第二季。Anthony，感谢你参加我的 InfoQ 播客节目。
Anthony Alford：谢谢你们的邀请。
Thomas Betts：对于我们今天的讨论，我做了一个很大的人工智能词汇表。里面有很多术语，我认为，架构师需要理解这些术语是什么，然后弄清楚自己需要了解多少，才能与同事进行明智的对话。我想，今天我们来谈谈一些基本概念，比如机器学习、深度学习、生成式人工智能、大型语言模型，以及一些相关的术语。
机器学习和深度学习
Anthony Alford：好的。机器学习（ML）是人工智能（AI）的一个子领域，它允许计算机从数据中学习，而无需明确编程。深度学习是机器学习的一个子领域，它使用人工神经网络来学习复杂模式。
生成式人工智能
Thomas Betts：那么，生成式人工智能（genAI）呢？
Anthony Alford：genAI 是指使用机器学习模型生成新内容的 AI。这包括文本、图像、音频、视频和代码。
大型语言模型
Thomas Betts：现在，我们来谈谈大型语言模型（LLM）。
Anthony Alford：LLM 是一个训练了大量文本数据的深度学习模型。它们可以理解和生成人类语言，并执行各种任务，例如文本摘要、翻译和问答。
检索增强生成
Thomas Betts：我听说过检索增强生成（RAG）。那是什么？
Anthony Alford：RAG 是一种技术，它将 LLM 与检索系统相结合，以提高其准确性和相关性。LLM 可以从检索系统中获取相关信息，以增强其生成内容的质量。
向量数据库
Thomas Betts：我注意到，你提到了检索系统。你能解释一下向量数据库吗？
Anthony Alford：向量数据库是一种专门用于存储和检索向量数据的数据库。向量是数字的数组，可以用来表示文本、图像和其他数据。向量数据库可以用来查找与查询向量最相似的向量，这在 RAG 中非常有用。
提示工程
Thomas Betts：最后，我们来谈谈提示工程。
Anthony Alford：提示工程是指设计用于 LLM 的输入提示，以获得最佳输出。一个好的提示可以帮助 LLM 生成更准确、更相关和更有创意的内容。
结论
Thomas Betts：Anthony，感谢你今天与我们分享这些见解。我认为，对于架构师来说，了解这些概念非常重要。随着 AI 技术的不断发展，我们必须了解如何将 AI 集成到我们的应用程序中。
Anthony Alford：很高兴能与你分享这些信息。我认为，AI 将在未来几年对软件开发产生重大影响。架构师必须了解 AI 的基本原理，才能在不断变化的软件世界中保持领先地位。
参考资料
注意：
- 本文仅供参考，并非所有信息都已得到验证。
- 请参考其他可靠来源以获取更多信息。
Views: 0