一、LangChain 架构
LangChain 作为一个框架，由多个package(包)组成。
1、langchain-core
这个package(包)包罗了不同组件的基本抽象和组合方式。核心组件（如 LLMs、向量存储、检索器等）的接口都在这里界说。此包不包罗任何第三方集成，依赖项被故意保持得非常轻量。
2、langchain
主要的 langchain 包包罗了组成应用步伐认知架构的chains, agents和retrieval strategies(检索策略)。这里的内容并非第三方集成。所有的chains, agents和retrieval strategies(检索策略)都不是针对某一特定集成，而是适用于所有集成的通勤奋能。
3、langchain-community
这个package(包)包罗了由 LangChain 社区维护的第三方集成。关键合作同伴的包被单独分离出来。此package(包)包罗了各种组件的所有集成（如 LLMs、向量存储、检索器）。为了保持包的轻量化，此包中的所有依赖项都是可选的。
4、Partner packages
固然大多数集成都在 langchain-community 包中，但我们仍将一些流行的集成分离成它们自己的包（例如 langchain-openai、langchain-anthropic 等）。这样做是为了更好地支持这些重要的集成。
5、langgraph
langgraph 是 langchain 的扩展，旨在通过将步骤建模为图中的边和节点，构建稳健且具有状态的多角色 LLM 应用步伐。
LangGraph 提供了用于创建常见范例代理的高级接口，以及用于组合自界说流程的低级 API。
6、langserve
用于将 LangChain chains摆设为 REST API 的包。它使生产级别的 API 快速上线变得更加容易。
7、LangSmith
一个开发者平台，用于调试、测试、评估和监控 LLM 应用步伐。
8、LangChain 表达式语言 (LCEL)
LangChain 表达式语言 (LCEL) 是一种声明式方式，用于将 LangChain 组件串联在一起。LCEL 从一开始就设计为支持将原型直接投入生产，无需修改代码，无论是最简朴的“提示 + LLM”链，还是最复杂的链（我们见过在生产情况中乐成运行包罗数百个步骤的 LCEL 链）。
以下是利用 LCEL 的几个来由：
- 一流的流式支持：当利用 LCEL 构建chains（链条）时，能够得到最佳的首字节时间（从输出的第一个块开始的时间）。对于某些chains(链条)，这意味着我们直接从 LLM 流式传输令牌到流式输出分析器，你将以与 LLM 提供者输出原始令牌雷同的速度得到分析后的增量输出块。
- 异步支持：任何利用 LCEL 构建的chains(链条)都可以通过同步 API（例如，在 Jupyter notebook 中举行原型开发时）以及异步 API（例如，在 LangServe 服务器中）调用。这使得可以在原型和生产中利用雷同的代码，具有精良的性能，并能够在同一服务器中处置处罚多个并发请求。
- 并行执行优化：当 LCEL chains(链条)中有可并行执行的步骤（例如，从多个检索器中获取文档）时，我们会自动执行，并在同步和异步接口中以最小的耽误完成使命。
- 重试和回退：可以为 LCEL chains(链条)中的任何部分配置重试和回退。这是一种提高大规模chains(链条)可靠性的重要方式。我们目前正在添流式重试/回退支持，这样你可以在不增加耽误的情况下得到更高的可靠性。
- 访问中心结果：对于更复杂的链条，访问中心步骤的结果通常非常有效，即使在终极输出生成之前。这可以用于让终极用户知道某些操纵正在举行，或者仅用于调试你的链条。你可以利用流式访问中心结果，而且在每个 LangServe 服务器上都可以利用。
- 输入和输出模式：输入和输出模式为每个 LCEL 链条提供了基于 Pydantic 和 JSONSchema 推断的模式。这可以用于输入和输出的验证，是 LangServe 的核心组成部分。
- 无缝的 LangSmith 跟踪：随着你的链条变得越来越复杂，明白每个步骤的详细操纵变得越来越重要。利用 LCEL，所有步骤都自动记录到 LangSmith，以实现最大水平的可观察性和可调试性，文档地址：https://docs.smith.langchain.com。
LCEL 旨在为LLMChain和Conversational RetrievalChain等传统子类链的举动和定制提供一致性。很多传统链条隐蔽了重要的细节，如提示，而随着更多不同范例的模子出现，定制化变得越来越重要。
9、Runnable interface
为了尽可能简化自界说链的创建，我们实现了一个“Runnable”协议。很多 LangChain 组件都实现了 Runnable 协议，包括chat models(谈天模子)、LLMs、output parsers(输出分析器)、retrievers(检索器)、prompt templates(提示模板)等。另有一些用于处置处罚 Runnable 的有效原语，详情可见下文。
这是一个尺度接口，它使界说自界说链以及以尺度方式调用它们变得容易。尺度接口包括：
- stream：stream back chunks of the response.
- invoke：call the chain on an input.
- batch：call the chain on a list of inputs.
这些方法另有对应的异步方法，可与 asyncio 的 await 语法一起利用，以实现并发：
- astream：异步返回响应的分块数据流
- ainvoke：异步对单个输入调用链
- abatch：异步对输入列表调用链
- astream_log：在返回终极响应的同时，流式返回中心步骤
- astream_events：beta 版本，流式返回链条中发生的变乱（在 langchain-core 0.1.14 中引入）
输入范例和输出范例因组件而异：
组件输入范例输出范例Prompt字典PromptValueChatModel单个字符串、谈天消息列表或 PromptValueChatMessageLLM单个字符串、谈天消息列表或 PromptValue字符串OutputParserLLM 或 ChatModel 的输出取决于分析器Retriever单个字符串文档列表Tool单个字符串或字典（取决于工具）取决于工具 所有的 Runnable 都提供输入和输出模式，以便查抄输入和输出：
- input_schema：根据 Runnable 的结构自动生成的输入 Pydantic 模子
- output_schema：根据 Runnable 的结构自动生成的输出 Pydantic 模子
最后分享
AI大模子作为人工智能领域的重要技能突破，正成为推动各行各业创新和转型的关键力气。抓住AI大模子的风口，掌握AI大模子的知识和技能将变得越来越重要。
学习AI大模子是一个系统的过程，必要从底子开始，渐渐深入到更高级的技能。
这里给大家精心整理了一份全面的AI大模子学习资源，包括：AI大模子全套学习门路图（从入门到实战）、佳构AI大模子学习书籍手册、视频教程、实战学习、口试题等，资料免费分享！
1. 成长门路图&学习规划
要学习一门新的技能，作为新手肯定要先学习成长门路图，方向不对，积极白费。
这里，我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长门路图和规划。可以说是最科学最系统的学习成长门路。
2. 大模子经典PDF书籍
书籍和学习文档资料是学习大模子过程中必不可少的，我们精选了一系列深入探讨大模子技能的书籍和学习文档，它们由领域内的顶尖专家撰写，内容全面、深入、细致，为你学习大模子提供结实的理论底子。（书籍含电子版PDF）
3. 大模子视频教程
对于很多自学或者没有底子的同学来说，书籍这些纯文字类的学习课本会觉得比较艰涩难以明白，因此，我们提供了丰富的大模子视频教程，以动态、形象的方式展示技能概念，帮助你更快、更轻松地掌握核心知识。
4. 2024行业陈诉
行业分析主要包括对不同行业的近况、趋势、标题、机会等举行系统地调研和评估，以相识哪些行业更适合引入大模子的技能和应用，以及在哪些方面可以发挥大模子的优势。
5. 大模子项目实战
学以致用 ，当你的理论知识积累到肯定水平，就必要通过项目实战，在实际操纵中查验和巩固你所学到的知识，同时为你找工作和职业发展打下结实的底子。
6. 大模子口试题
口试不仅是技能的比力，更必要充实的准备。
在你已经掌握了大模子技能之后，就必要开始准备口试，我们将提供精心整理的大模子口试题库，涵盖当前口试中可能碰到的各种技能标题，让你在口试中游刃有余。
全套的AI大模子学习资源已经整理打包，有必要的小同伴可以微信扫描下方CSDN官方认证二维码，免费领取【保证100%免费】
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。 |
