天生式AI(GenAI)参考架构 The GenAI Reference Architecture

译文：Ali Arsanjani The GenAI Reference Architecture
在本文中，我们提供了构建端到端 GenAI 应用步伐的重要架构组件和蓝图，这些应用步伐已经准备好投入生产使用。当您开始实施和计划这些基于 llm 的应用步伐时，我想要强调几个关键考虑因素。
用于选择目的架构中的 GenAI 组件的 AI 成熟度：您需要确定您在 AI 成熟度谱系中处于那边，以及为了实现支持您天生式应用步伐的业务用例而应该处于那边的位置。因此，您不肯定需要每一个这些架构组件来构建每一个应用步伐；根据您的项目、业务线或构造的成熟度，您可以在这些架构组件中进行选择。每个这些架构组件都可以通过我们在这里提供的模式进行构建。请记住，模式天生架构，在这种环境下天生微架构或用于计划和构建您的 llm 应用步伐的特定部门所必须的架构组件。我将另外提供一个天生式 AI 成熟度模型，以资助您确定您的 llm 成熟度和复杂性处于何种位置，以便乐成实施这些应用步伐。
在该架构构建块内选择模式。假设您决定您需要提示工程、选择后端 LLM（比方 Google Gemini）来为您的模型提供服务，而且您需要检索增强，从而有效地实现了成熟度的第三级（有关具体信息，请参阅我们的天生式 AI 成熟度模型）。重要的是要记住，即使您现在知道您的目的成熟度水平是构建一个第三级检索增强天生能力应用步伐，也有许多方法可以实现架构的 RAG 组件。因此，我们将这个组件视为一个可以以不同复杂程度计划和实现的模式。让我在这里给您提供更具体的分解。rag 可以实现为基本的 RAG、中级 RAG 或高级 RAG 或自动化 RAG。因此，即使您知道您的目的成熟度水平是该架构构建块，您仍旧需要决定实现该模式的实现细节。在本文中，我们将仅对基本水平进行具体先容，而在随后的文章中，我将对每个架构构建块进行更具体的先容。
推测性 AI、天生性 AI 和数据管道都是公平竞争对手。重要的是要注意，天生性 AI 将包罗传统的推测性 AI，以及数据摄入、洗濯、网格、管道等。模式在传统软件工程意义上天生架构。随着天生式 AI 的出现和遍及，重要的是要将该范畴视为一组模式，其中包罗特定上下文和一组特定的力量或衡量和考虑的问题办理对。在应用模式（即模式的办理部门）之后，总会产生后果：在问题空间中，并不是每一个力量都会通过应用该架构组件的模式得到办理。因此，一些力量将无法办理，您仍旧需要应用其他模式或技能来办理问题空间中的这些力量。在这里，我们提供了一个效果后果部门和其他可能有用的模式的参考。这里我们具体先容了一些模式，其他一些是司空见惯的而且相当直观的，因此您可以在文献中探求参考资料以实现它们。
因此，有了这一系列初始考虑之后，让我们深入研究 Jedi 参考架构的每一个架构构建块，并从模式的角度来一般性地探究它们，然后再从模式的角度来对待它们。

GenAI 参考架构：用于计划端到端生产级 GenAI 应用步伐的模式
UI/UX

对话式用户界面。对话式界面利用自然语言处理来实现类似人类的交互。Ram 等人于 2020 年发表的一篇论文 [1] 讨论了对话式 AI 的希望，突出了诸如迁移学习和强化学习等技能，以改进对话体系。该论文强调了自然和上下文感知交互对增强用户体验的重要性。
个性化。UI 个性化涉及将界面定制为个人用户的偏好和需求。2019 年 Kocaballi 等人的一篇论文[2]探究了个性化在基于人工智能的健康干预中的作用。作者讨论了个性化界面怎样改善用户到场度和对人工智能驱动的建议的依从性，从而实现更好的健康效果。
通过 Google 的 Vertex AI 平台，您实际上可以构建一个用户体验，无需代码或低代码交互，以及明显的全代码（基于 API）交互。我们有我们的代理构建平台，可以资助您实现复杂的搜索、对话和应用，并在您本身的专有数据中立刻执行检索增强，这些数据基于您本身的企业存储库和数据，无论是结构化数据还好坏结构化数据。可以使用 Vertex AI 搜索和 Vertex AI 对话来实现构建基于代理的应用步伐，支持对话代理，如客户代理、员工代理、数据代理等。
模式结构

问题/挑战

• 挑战在于为无缝人机交互创建直观和用户友好的界面。这涉及计划界面，使用户能够自然地与人工智能体系进行交互，有效地利用它们的功能。一个关键方面是开发一个通过任务引导用户的对话代理，增强其团体体验。比方，一个虚拟助手可以资助用户导航复杂的企业应用步伐。
  

配景/上下文

• 用户通过各种渠道与人工智能进行交互，包罗搜索引擎、聊天呆板人和企业软件。随着人工智能融入日常工具，无缝的体验至关重要。比方，用户可能会与人工智能驱动的搜索引擎进行交互，然后转向一个对话代理以获取更复杂的查询，期望得到一致性和一致性的体验。
  

考虑/衡量

• 为人工智能计划 UI/UX 涉及均衡简单性和功能性。界面应易于使用，同时提供强大的人工智能功能。衡量包罗在简单界面和有限功能之间进行选择，还是选择可能会使用户感到不知所措的复杂界面。一个计划良好的界面能够在保持用户有效利用人工智能功能的同时取得均衡。
  

办理方案

• 我们建议开发统一功能的复杂用户界面。比方，一个答应用户搜索企业数据、与对话代理进行交互以获取指导，并为开发人员构建和测试人工智能办理方案提供空间的界面。这个统一的界面提高了用户体验和生产力。
  
• 办理方案细节
  
• 办理方案涉及集成先进的搜索算法和自然语言处理。基于自然语言的搜索使用户能够使用对话查询查找信息。对话代理协助用户完成任务，并通过对话提供指导。这些功能增强了用户体验并减少了复杂性。
  

产生的后果

• 改进的 UI/UX 计划导致用户对人工智能办理方案的到场度和满足度更高。计划良好的界面鼓励更广泛的接纳，提高了生产力，并在构造内培养了对人工智能技能的积极看法。
  

相关模式

• 对话 UI：该模式侧重于通过对话代理创建自然和类似人类的交互。它涉及计划明白和相应用户查询的对话体系，模拟一次对话。[7]
  
• 个性化：将 UI/UX 定制为个别用户涉及根据用户的偏好、举动和需求定制界面。这创造了更直观和吸引人的体验，提高了用户满足度。[8]
  

提示工程

模板化：提示模板提供了一个结构化的方法来指导 AI 模型。2021 年刘等人的一篇论文[3]提出了一个基于提示的学习框架，用于自然语言处理任务。作者演示了计划良好的提示模板怎样显著提高了模型在各种基准测试中的性能，凸显了有效提示工程的重要性。
问题/挑战

• 挑战在于通过提供精确的提示来引导 AI 模型天生期望的输出。提示工程涉及确保模型明白任务并天生预期相应的技能。这对于语言模型来说至关重要，其中提示塑造了上下文和输出。
  策略详解
  

策略工程涉及明白任务和期望输出。使用提示数据增强等技能计划和优化提示模板。通过使用不同的提示评估模型性能来进行测试，以确定最有效的方法。
策略工程最佳实践：扩展
1. 清晰具体

• 示例： 不要问“告诉我有关天气变化的环境”，而是问“表明天气变化的缘故原由和影响，重点关注对环球天气模式和生态体系的影响。” 这提供了清晰的方向。
  

2. 提供上下文

• 示例： 对于写作任务，提供关于期望语气（正式、非正式）、目的受众（专家、平凡公众）和篇幅的细节。
  

3. 分步指导

• 示例： 对于复杂的问题办理任务，将其分解为步骤，如“1. 确定问题，2. 分析可能的缘故原由，3. 提出办理方案，4. 评估最佳办理方案。”
  

4. 少样本学习

• 示例： 假如你希望模型总结文章，请提供几个精炼择要的示例，以及原始文章。
  

5. 思维链提示

• 示例： 不要问“法国的首都是哪里？”，而是问“法国以哪座铁塔而著名？那个国家最著名的都会是哪个？那个都会的首都是什么？”
  

6. 思维树提示

• 示例： 在天生创意想法时，提示模型探索不同的分支，如“思路1：侧重可持续性”，“思路2：强调技能”等。
  

7. 思维概要提示等

• 示例： 为文章提供结构化的大纲，包罗引言、重要观点、支持证据和结论。
  

8. ReAct（Reason-Act）框架

• 示例： 对于客户服务聊天呆板人， “Reason” 步骤可能涉及分析客户的查询，而 “Act” 步骤可能涉及天生有用的相应或行动。
  

9. DSPy策略工程模板化
DSPy是一个编程底子模型框架。它答应用户通过将步伐的流程与每个步骤的参数分开来构建复杂体系。这通过模块和优化器实现。模块是步伐的构建块，指定输入和输出。优化器是可以调整步伐的提示和权重的算法。DSPy可用于编译步伐，这意味着它可以通过创建有效的提示和更新权重来提高步伐的质量。

• 示例： 创建一个DSPy模板，用于产物描述，其中包罗产物名称、特点、优势和目的受众的占位符。
  

10. 迭代测试和优化：

• 示例： 在测试提示后，分析模型的输出，并调整提示说话、结构或示例以改善效果。
  

考虑调整：

• 温度： 调整模型设置中的“温度”参数，以控制输出的随机性。较低的温度产生更会合的相应，而较高的温度鼓励创造性。
  
• Top-k抽样： 将模型限制为在每个天生步骤中选择前k个最有可能的词，均衡创造性与连贯性。
  
• 模型选择： 为任务选择正确的模型。一些模型擅长特定任务，如代码天生或创意写作。
  
• 提示长度： 实验不同长度的提示。尽管具体的提示通常是有资助的，但过长的提示有时会让模型感到狐疑。
  

效果后果

• 策略工程导致AI体系产生更准确、更相关的输出。精心计划的提示提高了模型的明白能力，从而产生符合人类期望和特定应用要求的相应。
  

相关模式

• 模板化：提示模板提供了一种结构化的方法，确保一致性和有效性。模板指导提示的创建，提高了效率和性能。
  
• 模型微调：策略工程与模型微调密切相关，因为两者都旨在优化模型性能。策略工程侧重于输入优化，而微调则调整模型参数。
  是的，这就是检索增强天生（RAG）。它可以使用一系列技能，包罗底子 RAG、中级 RAG、高级 RAG 来应用。在这篇文章中，我们将只涵盖底子 RAG。
  

RAG 的重要主题是数据丰富化：RAG 利用数据丰富化和增强来提高提示的质量。Lewis 等人在 2021 年的一篇论文中提出了一种检索增强天生的方法用于问答[5]。作者演示了怎样从外部知识源中检索相关段落可以显著提高天生答案的准确性和信息量。
环境感知是 RAG 的一个关键目的。RAG 通过使用额外数据增强提示来提高模型的环境感知。Guu 等人在 2020 年的一篇论文中先容了一种知识增强语言模型，该模型从知识库中检索并整合相关信息。作者展示了这种方法怎样提高模型天生相关环境和究竟准确相应的能力。
问题/挑战

• 通过提供额外的配景信息来提高提示的质量和相关性。初始提示可能缺乏足够的数据，导致输出不佳。RAG 通过检索和整合相关信息来办理这个问题，以增强提示。
  

配景

• AI 模型，尤其是语言模型，依赖于提示来提供环境。不完整的提示可能导致禁绝确或不完整的相应。RAG 旨在通过检索和整合额外的数据提供更丰富的配景。
  

考虑/衡量

• 通过提供额外的数据来增强提示可以改善上下文和输出质量。然而，这会增加处理复杂性和潜在延迟。上下文丰富程度和天生效率之间存在衡量。
  

办理方案

• RAG（检索，增强，天生）在天生之前检索和整合相关的额外数据来增强提示。这确保模型可以访问更广泛的上下文，从而提高输出质量。
  
• 办理方案细节：
  
  
  
  • RAG 将信息检索技能与语言天生相结合。相关数据从知识库、文本语料库或其他来源中检索出来，然后用于增强提示，为模型提供增强的上下文。
    
  
  

效果

• RAG 通过更丰富的上下文和增强的准确性改善了 AI 输出。增强的提示使模型能够天生更全面和相关的相应。
  

相关模式

• 数据丰富化：RAG 是一种数据丰富化情势，通过检索和整合额外数据来增强输入。这提高了模型的明白能力和输出质量[7]。
  
• 环境感知：通过使用额外数据增强提示，RAG 提高了模型的环境感知能力。这使模型能够天生考虑更广泛上下文的相应[8]。
  

提供

API 管理

通过 API 向用户或体系提供 AI 模型的服务能够实现与应用步伐的无缝集成。Zaharia 等人在 2019 年的一篇论文中讨论了在规模化摆设呆板学习模型时的挑战和最佳实践[7]。作者强调了对于 AI 能力的高效可靠服务的重要性。
服务网格

服务网格架构有助于摆设和管理微服务，包罗 AI 服务。Amershi 等人在 2020 年的一篇论文中探究了服务网格在 MLOps 中的作用，强调了它们在可观察性、流量管理和安全性方面对 AI 摆设的利益[8]。
问题/挑战

• 将 AI 模型的输出提供给最终用户或体系是 AI 开发过程中的关键步骤。
  

配景

• 一旦 AI 模型练习完成，其输出就需要以可用的格式交付，以为用户或其他体系提供代价。
  

考虑/衡量

• 服务 AI 输出的速度和可靠性与所需底子办法的成本和复杂性之间存在衡量。
  

办理方案

• 实现一个服务层，托管 AI 模型并通过 API 袒露其功能，答应应用步伐访问和集成 AI 能力。
  
• 办理方案细节：
  
  
  
  • 在批处理和在线服务之间进行选择：
    
    
    
    • 批处理服务涉及向模型提供大量数据，并将输出写入表中，通常作为定期作业。
      
    • 在线服务通过端点摆设模型，使应用步伐能够发送请求并以低延迟接收快速相应。
      
    
    
  • 利用 Amazon、Microsoft、Google 和 IBM 等公司提供的工具和服务简化摆设过程。
    
  • 考虑使用自动化工具来创建呆板学习模型服务的工作流程。
    
  
  

效果

• 最终用户能够敏捷、可靠地收到 AI 天生的内容或服务，并以易于集成和利用的格式接收。
  

相关模式

• API 管理，服务网格。
  

模块化

模块化：模块化的人工智能组件增强了顺应性和可重用性。Li 等人于 2021 年发表的一篇论文 [9] 提出了一种模块化深度学习框架，使得可以组合可重用模块来执行各种任务。作者展示了模块化怎样提高 AI 模型在不同范畴间的灵活性和可迁移性。
体系集成

体系集成：将人工智能办理方案与现有体系集成对于实现无缝接纳至关重要。Paleyes 等人于 2020 年发表的一篇论文 [10] 讨论了将呆板学习模型集成到生产体系中的挑战和策略。作者强调了标准化接口和健壮的集成管道对于乐成的人工智能摆设的重要性。
问题/挑战

• 人工智能办理方案需要顺应不同的用例和环境，以满足多样化的用户需求和期望。
  

配景/上下文

• 随着人工智能的不断发展和遍及，人工智能办理方案必须具备多功能性和灵活性，以处理各种功能，并与现有体系无缝集成。
  

考虑因素/衡量

• 开发灵活的人工智能办理方案可以顺应不同的用例，但也需要为特定任务进行专门优化之间存在衡量。
  

办理方案

• 通过开发模块化组件和毗连器扩展和精炼人工智能办理方案，使其能够与不同的体系集成。
  
• 在各种环境和用例中持续评估人工智能办理方案的性能。
  

办理方案细节

• 接纳顺应性人工智能办理方案，可以从新数据中学习并随着时间的推移不断改进自身，从而在进行更新时消除了大量编程和手动编码的需求。
  
• 利用持续学习范式使人工智能体系更高效、可扩展和可持续。
  
• 利用数据科学人员资助解析数据会合的见解，并提供后续推测、建媾和预期效果。
  

效果和后果

• 鲁棒且顺应性强的人工智能办理方案能够满足各种企业环境和用户需求，增强了客户满足度和灵活性。
  

相关模式

• 模块化、体系集成。
  

准备和调整数据与模型

准备和调整数据与模型是开发有效人工智能办理方案的关键方面。高效的数据管道在这一过程中起着至关重要的作用，因为它们能够实现须要的数据洗濯、集成和特性工程任务。Polyzotis 等人于 2019 年发表的一篇论文 [11] 对呆板学习中的数据管理挑战进行了全面调查，强调了数据管道在人工智能工作流程中的关键作用。除了数据准备之外，超参数优化是改善模型性能的另一个关键步骤。
Li 等人于 2020 年提出了一种基于贝叶斯优化的高效超参数优化框架，展示了自动调整怎样显著提高模型准确性并减少手动工作量。别的，对预练习模型进行微调以顺应特定任务或范畴已被证实是提高模型性能的有效方法。
Howard 和 Ruder [4] 在 2020 年的一篇论文中先容了微调语言模型的技能，展示了区分性微调和倾斜三角学习率怎样显著提升下游任务的性能，同时最小化计算成本。通过专注于数据和模型准备的关键方面，人工智能从业者可以为各种应用开发更准确、更高效和更贴合的办理方案。
以下是子模式。
数据管道： 高效的数据管道对准备数据供 AI 模型使用至关重要。Polyzotis 等人于 2019 年的一篇论文 [11] 对呆板学习中的数据管理挑战进行了调查。作者讨论了各种数据洗濯、集成和特性工程技能，并强调了数据管道在 AI 工作流中的关键作用。
超参数优化： 调整超参数对优化模型性能至关重要。Li 等人于 2020 年提出了一种基于贝叶斯优化的高效超参数优化框架。作者展示了自动超参数调整怎样显著提高模型准确性并减少手动工作量。
模型微调： 微调指的是将预练习模型调整到特定任务或范畴。Howard 和 Ruder [4] 在 2020 年的一篇论文中先容了微调语言模型的技能，如区分性微调和倾斜三角学习率。作者展示了微调怎样显著提高模型
合成数据天生： 合成数据天生涉及创建人工数据，模仿真实数据的特性和统计特性。这个过程依赖于能够捕获真实数据中存在的基本模式、分布和关系的算法和模型。通过天生合成数据，研究人员和开发人员可以增强现有数据集，填补数据空白，并创建新的练习场景，否则这些都是仅靠真实数据无法实现的。
在微调LLMs中合成数据天生的重要性
数据增强： 真实世界的数据集通常存在类别不均衡或某些情景的代表性有限。合成数据天生可用于通过创建新示例来增强练习数据集，从而均衡类别分布并覆盖代表性不敷的环境。这导致更健壮和泛化的LLMs，能够在各种任务和情境中表现良好。
数据隐私和安全： 在许多应用中，真实世界的数据可能包含敏感或可识别个人的信息（PII）。合成数据天生答应研究人员创建保留了真实数据的基本统计特性的数据集，同时确保了隐私和安全。通过在合成数据上练习LLMs，大大降低了袒露敏感信息的风险。
探索罕见或伤害情景： 真实世界的数据可能缺乏罕见或伤害变乱的示例，这使得练习LLMs以有效处理这类环境变得具有挑战性。合成数据天生使得可以创建在实际生活中难以或不可能收集到的情景，比方极度天气变乱、事故或网络攻击。通过在练习过程中向LLMs袒露这些合成情景，增强了它们明白和应对这类变乱的能力。
成本和时间效率： 收集和标注大量真实世界的数据可能是一项耗时且昂贵的过程。合成数据天生通过自动化数据创建过程提供了一种经济高效的更换方案。这使得研究人员和开发人员能够快速迭代和实验不同的练习场景，从而实现更快的模型开发和改进。
定制和控制： 合成数据天生提供了对数据特性高度定制和控制的能力。研究人员可以微调数据天生模型的参数，创建满足特定要求的数据集，比方控制天生示例的多样性、复杂性或难度。这使得可以针对特定应用或范畴有针对性地微调LLMs。
伦理考虑
固然合成数据天生提供了显著的优势，但必须考虑与其使用相关的伦理问题。合成数据应该被负责任和透明地使用，确保它不会延续真实数据中存在的私见或误导。别的，验证合成数据的质量和代表性是至关重要的，以确保它与旨在模拟的真实世界数据的特性保持一致。
问题/挑战

• 为了实现最佳性能并与特定用例相关，准备和调整数据和模型至关重要。
  

配景/配景

• 原始数据通常需要清算和准备，以确保其完整、一致、及时和相关。模型需要针对特定行业范畴和用例进行微调。
  

考虑/衡量

• 数据准备和模型调整的质量直接影响人工智能办理方案的性能和准确性。不充分的数据准备可能导致人工智能模型做出错误的决媾和结论。
  

办理方案

• 通过确保恰当的格式化、清算和结构化，为呆板学习调优准备数据。
  
• 通过微调，为特定行业范畴和用例定制人工智能模型。
  

办理方案细节：

• 利用数据准备工具，比方OpenAI的CLI数据准备工具，对数据进行验证、建媾和重新格式化，以符合微调所需的格式。
  
• 确保数据集涵盖各种主题、风格和格式，以使模型能够在不同情境下天生连贯且具有上下文相关性的输出。
  
• 提供足够数量的高质量练习示例，最好由人类专家审查，以提高微调模型的性能。
  
• 增加示例数量以获得更好的性能，因为更大的数据集通常会导致模型质量的线性增加。
  

效果后果

• 量身定制的人工智能办理方案，针对特定行业范畴和用例实现最佳性能，满足构造的独特需求和要求。
  

相关模式

• 数据管道，超参数优化。
  

Ground

反馈循环

反馈循环能够基于用户交互持续改进 AI 模型。Breck 等人在 2021 年的一篇论文[13]中讨论了反馈循环在负责任的 AI 开发中的重要性。作者强调，整适用户反馈怎样资助发现和减轻 AI 体系中的私见、错误和意外后果。
持续监控

在生产环境中监控 AI 模型对于维持性能和检测非常至关重要。Klaise 等人在 2020 年的一篇论文[14]中提出了一个连续监控呆板学习模型的框架。作者讨论了实时检测概念漂移、性能下降和数据质量问题的技能。
问题/挑战

• 确保 AI 输出的准确性、相关性和伦理公道性对于其有效利用至关重要。
  

配景/配景

随着 AI 体系在关键范畴的摆设越来越多，其输出的相关性和准确性直接影响其有用性和社会影响。
考虑/衡量

• 在实现高度准确的 AI 输出和确保其知识广度和能力之间存在衡量。
  

办理方案

• 实施评估和验证机制，评估 AI 输出的质量、性能和私见，将其基于额外的数据和验证。
  
• 办理方案细节
  
  
  
  • 利用自动化监控体系检测 AI 模型中的私见、漂移、性能问题和非常，确保其正常和合乎伦理的功能。
    
  • 创建性能警报，及时干预当模型偏离其预定义的性能参数时。
    
  • 实施反馈循环以办理用户的挫败感，保持其到场度，引导他们朝向准确性，防止他们陷入逆境。
    
  
  

效果后果

• 高质量、无私见的 AI 输出具有相关性、准确性和可信度，增强用户满足度和依赖性。
  

相关模式

• 反馈循环，持续监控。
  

多智能体体系

多智能体体系（MAS）已经成为计划和实施复杂 AI 体系的强大范例。在 MAS 中，多个智能体相互交互和协作，办理超出单个智能体能力的问题。Dorri 等人在 2021 年的一篇论文[19]中全面调查了多智能体体系在 AI 中的应用，讨论了它们的应用、挑战和将来方向。作者强调了协调、沟通和决议在 MAS 中的重要性，强调它们在办理大规模、分布式问题中的潜力。
MAS 中的一个关键挑战是确保智能体之间的有效合作。Xie 等人在 2020 年的一篇论文[20]中提出了一个新颖的合作多智能体强化学习框架，使智能体能够根据其他智能体的行动学习和调整策略。作者展示了这种方法怎样在复杂、动态环境中提高性能和鲁棒性。
MAS 的另一个重要方面是处理不确定性和不完整信息的能力。Amato 等人在 2019 年的一篇论文[21]中讨论了多智能体体系中分散决议下不确定性的挑战和机会。作者提出了各种技能，比方部门可观察马尔可夫决议过程和博弈论方法，用于模拟息争决 MAS 中的决议问题。
多智能体体系已在各个范畴得到应用，包罗呆板人技能、自动驾驶车辆和智能电网。通过利用多个智能体共同工作的力量，MAS 可以实现更具韧性、顺应性和可扩展性的 AI 办理方案。随着 AI 体系复杂性的不断增加，多智能体体系在塑造人工智能将来方面可能会发挥越来越重要的作用。
在 Google Cloud，我们近来（2024 年 4 月）宣布了 Agent-builder 和对基于代理的计划和开发的支持。
配景/配景

多智能体体系已经成为计划和实施复杂 AI 体系的强大范例。在 MAS 中，多个智能体相互交互和协作，办理超出单个智能体能力的问题。
大型语言模型（LLMs）在自然语言明白和天生方面表现出色。然而，随着任务的复杂性和对专业知识的需求增加，利用 LLM 中的多智能体体系可以导致更高效、更有效的办理方案。
问题/挑战

计划有效的多智能体体系涉及办理诸如智能体之间的协调、沟通和决议等挑战。确保合作并处理不确定性和不完整信息对
将多智能体体系整合到LLM中碰面临挑战，比方协调多个专业化语言模型、实现智能体之间的有效沟通和知识共享，以及确保天生的输出连贯性。
考虑因素/衡量
多智能体体系的复杂性与其办理大规模分布式问题的能力之间存在衡量。在个体智能体的自主性与协调合作的需求之间取得均衡对于实现最佳性能至关重要。
在LLM中实施多智能体体系需要在专业化专长的利益与智能体之间的协调和沟通开销之间取得均衡。找到合适的均衡对于优化性能并保持天生语言的流畅性和连贯性至关重要。
办理方案
开发利用多个智能体共同办理复杂问题的多智能体体系。实施有效的协调、沟通和决议技能。
在本博客中，我们仅涵盖底子知识，并将在随后的博客中提供有关多智能体体系的模式语言的具体信息。敬请关注。
为LLM开发一个多智能体架构，答应多个专业化语言模型进行协作和知识共享。实施有效的通信、协调和决议技能，以实现无缝集成和最佳性能。
办理方案细节

• 利用合作式多智能体强化学习框架，比方谢等人提出的框架[20]，使智能体能够根据其他智能体的行动学习和调整策略。
  
• 应用部门可观察马尔可夫决议过程和博弈论方法，如阿马托等人讨论的那样[21]，来模拟息争决多智能体体系在不确定性和信息不完整环境下的决议问题。
  
• 利用多智能体体系在各个范畴（如呆板人技能、自动驾驶车辆和智能电网）中的潜力，开发更具弹性、顺应性和可扩展性的人工智能办理方案。
  

基于LLM的智能体

• 利用分层多智能体框架，高层智能体协调下层专业智能体的行动，确保天生输出的连贯性和一致性。
  
• 实施通信协议，答应智能体共享相关信息，如上下文、意图和天生的输出，实现有效的协作和知识共享。
  
• 运用联邦学习和迁移学习等技能，使智能体能够相互学习，并高效地顺应新任务和范畴。
  

效果影响
多智能体体系使得AI办理方案能够比单个智能体更有效地办理复杂的分布式问题。通过促进智能体之间的协调、沟通和决议，多智能体体系可以提高性能、鲁棒性和顺应性，实用于动态环境。
LLM中的多智能体体系使得天生的语言输出更具连贯性、相关性和专业性。通过利用多个专业智能体的专长，LLM可以更有效地办理复杂任务，提高性能和用户体验。
相关模式

• 分散控制：多智能体体系通常接纳分散控制架构，答应智能体自主做出决议，同时与其他智能体协调以实现共同目的。
  
• 群体智能：多智能体体系可以表现出群体智能，即智能体之间的简单互动导致体系层面上复杂、智能的举动出现。
  
• 模块化架构：LLM中的多智能体体系可以接纳模块化架构实现，其中每个智能体是一个具有特定功能的独立模块，便于扩展和顺应新任务。
  
• 协作学习：多智能体LLM中的智能体可以进行协作学习，共享知识并相互学习，以提高其个体和团体的性能。
  

将多智能体体系整合到大型语言模型中为天生高质量、专业化的语言输出打开了新的可能性。通过促进多个专业智能体之间的有效协调、沟通和知识共享，LLM可以更高效、更有效地办理复杂任务，为更先进和智能的基于语言的应用铺平门路。
治理

道德人工智能：治理人工智能体系涉及确保符合道德原则和法规。弗洛里迪等人在2021年的一篇论文中提出了一个道德人工智能治理框架[15]。作者讨论了透明度、问责制和公平性在AI开发和摆设中的重要性，强调治理在促进负责任的AI实践中的作用。
合规管理：合规管理确保人工智能体系服从法律和监管要求。Bughin等人在2020年的一篇论文[16]探究了人工智能的监管环境，并讨论了管理合规风险的策略。作者强调了需要积极的合规管理来应对围绕人工智能的不断发展的法律和伦理框架。
问题/挑战

• 随着人工智能体系变得更增强大和遍及，负责任和道德地管理它们变得至关重要，以防止潜在的危害。
  

配景/配景

• 人工智能体系可能对社会产生庞大影响，影响个人的权利、隐私和尊严。治理确保人工智能体系在伦理和法律边界内运作。
  

考虑/衡量

• 强大的人工智能治理可能会增加开发和摆设过程的复杂性，但对于维护用户信托和服从法规至关重要。
  

办理方案

• 实施一个负责任的人工智能治理层，其中包罗无私见的安全检查、复述检查和监督机制。
  
• 办理方案细节
  
• 创建跨学科治理政策和框架，涉及来自技能、法律、伦理和商业范畴的利益相关者，以指导人工智能的发展并办理风险。
  
• 确保人工智能体系尊重和维护隐私权、数据掩护和安全，以掩护个人信息。
  
• 实施机制持续监控和评估人工智能体系，确保服从伦理规范和法律法规。
  
• 利用具有实时更新和直观健康评分指标的可视化仪表板，轻松监控人工智能体系的状态和性能。
  

效果后果

• 一个在伦理和法律边界内运作、尊重个人权利和隐私、保持用户信托的人工智能体系，从而促进社会接受和接纳。
  

相关模式

• 伦理人工智能，合规管理。
  

MLOps

持续摆设：MLOps实现了人工智能模型的持续摆设，答应快速更新和改进。Alla和Adari在2020年的一篇论文[17]讨论了MLOps的原则和实践，强调了持续集成和摆设（CI/CD）管道对于高效的模型更新和发布的重要性。
实时监控：实时监控对于确保生产中人工智能模型的性能和可靠性至关重要。Sambasivan等人在2021年的一篇论文[18]中展示了对监控呆板学习体系中挑战和最佳实践的研究。作者讨论了实时监控的重要性，用于检测和缓解问题，确保人工智能模型的顺畅运行。
问题/挑战

• 使呆板学习模型运营化涉及将其从开发转变为生产，需要仔细的规划和执行。
  

配景/配景

• MLOps，或呆板学习运营，旨在简化将呆板学习模型投入生产并高效维护的过程。
  

考虑/衡量

• 在生产中的人工智能模型的性能和摆设更新速度之间存在衡量。
  

办理方案

• 精心计划一个集成和监控数据、推测和天生式人工智能组件的持续集成和摆设（CI/CD）管道。
  
• 办理方案细节
  
• 接纳MLOps方法增加数据科学家、工程师和IT专业人员之间的协作，加速模型开发和生产。
  
• 利用自动化测试和验证实践提高呆板学习工件的质量，并在ML项目中实现敏捷原则。
  
• 将MLOps应用于整个呆板学习生命周期，从模型天生和编排到健康、诊断、治理和业务指标。
  

效果后果

• 在生产环境中安稳运行的人工智能模型，最小化停机时间，确保可靠和高效的性能。
  

相关模式

• 持续摆设，实时监控。
  

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。