AI Workflow & AI Agent:架构、模式与工程建议

打印 上一主题 下一主题

主题 1716|帖子 1716|积分 5148

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

x
各人读完觉得有资助记得关注和点赞!!!


Agents 只是一些“在一个循环中,基于情况反馈来选择合适的工具,终极完成其任务”的大模型。
过去一年中,我们与几十个团队合作过,构建了很多差别行业的大模型 Agent。 我们从中得到的履历是:乐成的 Agent 并不是依靠复杂的框架或库, 而是基于简单、可组合的模式徐徐构建的。
本文总结我们在此过程中积累的一些 Agent 方法论,并给出一些实用的工程建议。

1 什么是 AI Agent/Workflow?

现在关于 AI Agent 并没有一个统一的定义:


  • 有人将 Agent 定义为完全自主的体系,这些体系可以在较长时间内独立运行,使用各种工具来完成复杂任务。

  • 有人则用这个术语来描述一种遵循预定义工作流的规范实现(prescriptive implementations that follow predefined workflows)。
在 Anthropic,我们将所有这些统一归类为 agentic systems。
1.1 Workflow vs. Agent

固然统一称为“智能体体系”,但我们照旧对 Workflow 和 Agent 做出了重要的架构区分, 因此二者属于两类差别的体系:


  • Workflow:通过预定义的代码路径来编排大模型和和工具 (systems where LLMs and tools are orchestrated through predefined code paths);

  • Agent:大模型动态决定自己的流程及使用什么工具,自主控制怎样完成任务 (systems where LLMs dynamically direct their own processes and tool usage, maintaining control over how they accomplish tasks)。
1.2 何时使用/不使用 Agent & Workflow

在使用大模型构建应用程序时,我们建议寻找尽可能简单的方案,只有在须要时才增长复杂性。


  • 这意味着如无须要,不要试图构建 Agent/Workflow。
  • Agent/Workflow 固然在处理任务时效果更好,但通常也会有更高的延迟和资本,因此须要权衡利弊。
如果确实是要解决复杂场景的问题,


  • Workflow 为明确定义的任务提供了可猜测性和一致性,
  • Agent 则在须要大规模灵活性和模型驱动的决策时是一个更好的选择。
但是,对于很多应用程序来说,大模型自己加上 RAG、in-context examples 等技术通常就足以解决问题了。
1.3 何时以及怎样使用框架

许多框架可以简化 Agent/Workflow 的实现,包罗:


  • LangGraph from LangChain;
  • Amazon Bedrock’s AI Agent framework;
  • Rivet, a drag and drop GUI LLM workflow builder; and
  • Vellum, another GUI tool for building and testing complex workflows.
这些框架通过简化标准的底层任务(如调用 LLM、定义和解析工具以及链接调用)使用户更轻易入门。 但是,它们通常会创建额外的抽象层,这可能会使底层的提示和响应变得难以调试,增长了不须要的复杂性。
我们建议开辟者,


  • 首选直接使用 LLM API:本文接下来先容的许多模式几行代码就能实现;
  • 如果确实要用框架,要确保理解这些框架的底层代码。对底层代码的错误假设是常见的问题来源。
1.4 一些例子

见 anthropic-cookbook。
2 Workflow & Agent 的基础构建模块

2.1 增强型大模型&


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

悠扬随风

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表