【微服务】SpringBoot整合LangChain4j 操作AI大模子实战详解 ...

钜形不锈钢水箱  论坛元老 | 2025-4-14 04:33:47 | 显示全部楼层 | 阅读模式
打印 上一主题 下一主题
楼主

主题 1933|帖子 1933|积分 5799

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要 登录 才可以下载或查看，没有账号？立即注册

x
【微服务】SpringBoot整合LangChain4j 操作AI大模子实战详解

一、前言

随着人工智能技术的飞速发展，AI大模子已经在众多范畴展现出强大的本领，为业务拓展和商业价值提升带来了新的机会。SpringBoot作为一款广受接待的Java微服务框架，以其简洁、高效的特点深受开发者喜爱。而LangChain4j作为一款专注于AI大模子集成的开源库，为Java开发者提供了一种简单且高效的方式来接入和利用各种AI大模子。本文将详细介绍如何在SpringBoot中整合LangChain4j，实现对AI大模子的操作，资助读者快速上手并应用到实际项目中。
二、LangChain4j概述

（一）LangChain4j介绍

LangChain4j是一款基于Java的轻量级框架，专为Java开发者设计，旨在简化大型语言模子（LLMs）在Java应用中的集成。它借鉴了Python版LangChain的设计理念，提供了丰富的工具和组件，资助开发者快速构建基于LLMs的应用程序，如聊天机器人、问答体系、文本生成等。
（二）主要特点


  • 模块化架构：允许开发者根据需要选择和利用特定功能，如模子集成、数据加载、链式调用等。
  • 支持多种LLM提供商：如OpenAI、Hugging Face等，方便切换和集成差别模子。
  • 提供链式调勤奋能：允许将多个任务串联，如文本生成后主动进行情感分析。
  • 内置多种数据加载器和处置惩罚器：支持从差别泉源加载数据并进行预处置惩罚。
  • 提供丰富的API和扩展点：开发者可以自界说组件以满足特定需求。
（三）焦点组件

LangChain4j的焦点组件包括语言模子（Language Model）、记忆（Memory）、工具（Tool）等。此中，语言模子是焦点，负责生成文本；记忆用于存储对话历史，以便模子可以或许进行上下文相关的回答；工具则可以扩展模子的本领，例如进行搜索、调用API等。
（四）焦点优势


  • 简单易用：提供了简洁的API，方便开发者快速上手。
  • 灵活性高：支持多种语言模子和工具，可以根据需求灵活组合。
  • 安全性强：提供了API Key管理等功能，保障数据安全。
（五）焦点应用场景

LangChain4j适用于多种场景，包括但不限于：


  • 聊天机器人：通过对话本领实现智能客服、虚拟助手等。
  • 问答体系：结合知识库，提供准确的问答服务。
  • 文本生成：生成文章、故事、代码等。
三、SpringBoot整合LangChain4j

（一）前置预备


  • 获取API Key

    • 如果利用OpenAI的模子，需要在OpenAI官网注册账号并获取API Key。
    • 将API Key存储在情况变量或配置文件中，制止直接写在代码里。

  • 导入基础依赖

    • 在pom.xml文件中添加LangChain4j相关依赖。例如，利用OpenAI的模子时，需要添加以下依赖：
      1. <dependencies>
      2.     <dependency>
      3.         <groupId>org.springframework.boot</groupId>
      4.         <artifactId>spring-boot-starter-web</artifactId>
      5.     </dependency>
      6.     <dependency>
      7.         <groupId>dev.langchain4j</groupId>
      8.         <artifactId>langchain4j-core</artifactId>
      9.         <version>最新版本号</version>
      10.     </dependency>
      11.     <dependency>
      12.         <groupId>dev.langchain4j</groupId>
      13.         <artifactId>langchain4j-open-ai</artifactId>
      14.         <version>最新版本号</version>
      15.     </dependency>
      16. </dependencies>
      复制代码

  • 添加配置文件

    • 在application.properties或application.yml文件中配置语言模子的关键参数。以OpenAI为例：
      1. langchain4j.openai.apiKey=你的OpenAI API Key
      复制代码

（二）对话本领利用

1. Low Level API利用

  1. import dev.langchain4j.model.chat.ChatLanguageModel;
  2. import dev.langchain4j.model.openai.OpenAiChatModel;
  4. @Service
  5. public class ChatService {
  6.     private final ChatLanguageModel chatModel;
  8.     public ChatService() {
  9.         this.chatModel = new OpenAiChatModel();
  10.     }
  12.     public String chat(String userMessage) {
  13.         return chatModel.generate(userMessage);
  14.     }
  15. }
复制代码
2. High Level API利用

  1. import dev.langchain4j.chain.ConversationalRetrievalChain;
  2. import dev.langchain4j.model.chat.ChatLanguageModel;
  3. import dev.langchain4j.model.openai.OpenAiChatModel;
  4. import org.springframework.stereotype.Service;
  6. @Service
  7. public class ChatService {
  8.     private final ChatLanguageModel model;
  10.     public ChatService() {
  11.         model = new OpenAiChatModel();
  12.     }
  14.     public String chat(String userMessage) {
  15.         ConversationalRetrievalChain chain = ConversationalRetrievalChain.builder()
  16.                 .chatLanguageModel(model)
  17.                 .build();
  18.         return chain.execute(userMessage);
  19.     }
  20. }
复制代码
3. 设置角色

  1. import dev.langchain4j.template.PromptTemplate;
  2. import org.springframework.stereotype.Service;
  4. @Service
  5. public class PromptService {
  6.     private final PromptTemplate promptTemplate = PromptTemplate.from(
  7.             "你是一个{{role}}，请用专业的角度回答：{{question}}");
  9.     private final ChatLanguageModel chatModel;
  11.     public PromptService(ChatLanguageModel chatModel) {
  12.         this.chatModel = chatModel;
  13.     }
  15.     public String getResponse(String role, String question) {
  16.         String prompt = promptTemplate.apply(Parameters.from(
  17.                 "role", role,
  18.                 "question", question));
  19.         return chatModel.generate(prompt);
  20.     }
  21. }
复制代码
（三）会话记忆

1. Low Level API的实现

  1. import dev.langchain4j.memory.chat.MessageWindowChatMemory;
  2. import dev.langchain4j.model.chat.ChatLanguageModel;
  3. import dev.langchain4j.model.openai.OpenAiChatModel;
  5. @Service
  6. public class ChatService {
  7.     private final ChatLanguageModel chatModel;
  8.     private final MessageWindowChatMemory memory;
  10.     public ChatService() {
  11.         this.chatModel = new OpenAiChatModel();
  12.         this.memory = MessageWindowChatMemory.builder()
  13.                 .maxMessages(50)
  14.                 .build();
  15.     }
  17.     public String chat(String userMessage) {
  18.         memory.add(UserMessage.from(userMessage));
  19.         String response = chatModel.generate(memory.messages());
  20.         memory.add(AiMessage.from(response));
  21.         return response;
  22.     }
  23. }
复制代码
2. High Level API的实现

  1. import dev.langchain4j.chain.ConversationalRetrievalChain;
  2. import dev.langchain4j.model.chat.ChatLanguageModel;
  3. import dev.langchain4j.model.openai.OpenAiChatModel;
  4. import dev.langchain4j.memory.chat.MessageWindowChatMemory;
  6. @Service
  7. public class ChatService {
  8.     private final ChatLanguageModel model;
  9.     private final MessageWindowChatMemory memory;
  11.     public ChatService() {
  12.         model = new OpenAiChatModel();
  13.         memory = MessageWindowChatMemory.builder()
  14.                 .maxMessages(50)
  15.                 .build();
  16.     }
  18.     public String chat(String userMessage) {
  19.         ConversationalRetrievalChain chain = ConversationalRetrievalChain.builder()
  20.                 .chatLanguageModel(model)
  21.                 .chatMemory(memory)
  22.                 .build();
  23.         return chain.execute(userMessage);
  24.     }
  25. }
复制代码
（四）Function Calling

1. 焦点概念

Function Calling允许模子调用外部函数来获取数据或执行操作。例如，模子可以调用一个搜索API来获取最新的信息。
2. 应用场景



  • 联网搜索：模子可以通过调用搜索API获取实时信息。
  • 调用外部API：例如调用天气API获取天气信息。
3. 案例代码

  1. import dev.langchain4j.agent.Agent;
  2. import dev.langchain4j.agent.AgentToolCall;
  3. import dev.langchain4j.agent.AgentToolCallResult;
  4. import dev.langchain4j.agent.ToolCall;
  5. import dev.langchain4j.agent.ToolCallResult;
  6. import dev.langchain4j.agent.tool.Tool;
  7. import dev.langchain4j.agent.tool.ToolRegistry;
  8. import dev.langchain4j.model.chat.ChatLanguageModel;
  9. import dev.langchain4j.model.openai.OpenAiChatModel;
  10. import org.springframework.stereotype.Service;
  12. @Service
  13. public class FunctionCallingService {
  14.     private final ChatLanguageModel model;
  15.     private final ToolRegistry toolRegistry;
  17.     public FunctionCallingService() {
  18.         model = new OpenAiChatModel();
  19.         toolRegistry = new ToolRegistry();
  20.     }
  22.     public String execute(String userMessage) {
  23.         Agent agent = Agent.builder()
  24.                 .chatLanguageModel(model)
  25.                 .toolRegistry(toolRegistry)
  26.                 .build();
  28.         return agent.execute(userMessage);
  29.     }
  31.     @Tool(name = "search", description = "搜索信息")
  32.     public String search(String query) {
  33.         // 实现搜索逻辑，例如调用外部搜索API
  34.         return "搜索结果：" + query;
  35.     }
  37.     @Tool(name = "weather", description = "获取天气信息")
  38.     public String getWeather(String location) {
  39.         // 实现获取天气信息的逻辑
  40.         return "天气信息：" + location;
  41.     }
  42. }
复制代码
（五）RAG（Retrieval-Augmented Generation）

1. 焦点概念

RAG是一种结合检索和生成的技术，通过检索相关文档来加强模子的生成本领。
2. 应用场景



  • 问答体系：结合知识库提供准确答案。
  • 文档辅助写作：根据文档内容生成相关内容。
3. 案例代码

  1. import dev.langchain4j.chain.RetrievalAugmentedGenerationChain;
  2. import dev.langchain4j.data.document.Document;
  3. import dev.langchain4j.data.document.DocumentLoader;
  4. import dev.langchain4j.data.document.FileDocumentLoader;
  5. import dev.langchain4j.data.segment.TextSegmenter;
  6. import dev.langchain4j.data.segment.TextSegmenterFactory;
  7. import dev.langchain4j.model.chat.ChatLanguageModel;
  8. import dev.langchain4j.model.openai.OpenAiChatModel;
  9. import dev.langchain4j.retrieval.Retriever;
  10. import dev.langchain4j.retrieval.vectorstore.VectorStoreRetriever;
  11. import dev.langchain4j.vectorstore.VectorStore;
  12. import dev.langchain4j.vectorstore.VectorStoreFactory;
  14. @Service
  15. public class RagService {
  16.     private final ChatLanguageModel model;
  17.     private final Retriever retriever;
  19.     public RagService() {
  20.         model = new OpenAiChatModel();
  21.         VectorStore vectorStore = VectorStoreFactory.create();
  22.         retriever = new VectorStoreRetriever(vectorStore);
  23.     }
  25.     public String rag(String userMessage) {
  26.         RetrievalAugmentedGenerationChain chain = RetrievalAugmentedGenerationChain.builder()
  27.                 .chatLanguageModel(model)
  28.                 .retriever(retriever)
  29.                 .build();
  30.         return chain.execute(userMessage);
  31.     }
  33.     public void loadDocuments() {
  34.         DocumentLoader documentLoader = new FileDocumentLoader("path/to/documents");
  35.         List<Document> documents = documentLoader.load();
  36.         TextSegmenter segmenter = TextSegmenterFactory.create();
  37.         List<TextSegment> segments = segmenter.segment(documents);
  38.         retriever.add(segments);
  39.     }
  40. }
复制代码
（六）工具调用

1. 焦点概念

工具调用允许模子调用外部工具来完成任务，例如调用API、执行下令等。
2. 应用场景



  • 调用API：例如调用天气API获取天气信息。
  • 执行下令：例如调用体系下令执行操作。
3. 案例代码

  1. import dev.langchain4j.agent.Agent;
  2. import dev.langchain4j.agent.AgentToolCall;
  3. import dev.langchain4j.agent.AgentToolCallResult;
  4. import dev.langchain4j.agent.ToolCall;
  5. import dev.langchain4j.agent.ToolCallResult;
  6. import dev.langchain4j.agent.tool.Tool;
  7. import dev.langchain4j.agent.tool.ToolRegistry;
  8. import dev.langchain4j.model.chat.ChatLanguageModel;
  9. import dev.langchain4j.model.openai.OpenAiChatModel;
  10. import org.springframework.stereotype.Service;
  12. @Service
  13. public class ToolCallingService {
  14.     private final ChatLanguageModel model;
  15.     private final ToolRegistry toolRegistry;
  17.     public ToolCallingService() {
  18.         model = new OpenAiChatModel();
  19.         toolRegistry = new ToolRegistry();
  20.     }
  22.     public String execute(String userMessage) {
  23.         Agent agent = Agent.builder()
  24.                 .chatLanguageModel(model)
  25.                 .toolRegistry(toolRegistry)
  26.                 .build();
  28.         return agent.execute(userMessage);
  29.     }
  31.     @Tool(name = "search", description = "搜索信息")
  32.     public String search(String query) {
  33.         // 实现搜索逻辑，例如调用外部搜索API
  34.         return "搜索结果：" + query;
  35.     }
  37.     @Tool(name = "weather", description = "获取天气信息")
  38.     public String getWeather(String location) {
  39.         // 实现获取天气信息的逻辑
  40.         return "天气信息：" + location;
  41.     }
  42. }
复制代码
（七）自界说模子

1. 焦点概念

自界说模子允许开发者根据需求实现自己的语言模子，例如利用当地模子或自界说逻辑。
2. 应用场景



  • 利用当地模子：例如利用当地的Transformer模子。
  • 自界说逻辑：例如实现特定的文本生成逻辑。
3. 案例代码

  1. import dev.langchain4j.model.chat.ChatLanguageModel;
  2. import dev.langchain4j.model.chat.ChatMessage;
  3. import dev.langchain4j.model.chat.ChatResponse;
  4. import org.springframework.stereotype.Service;
  6. @Service
  7. public class CustomModelService {
  8.     private final ChatLanguageModel customModel;
  10.     public CustomModelService() {
  11.         customModel = new CustomChatModel();
  12.     }
  14.     public String generate(String prompt) {
  15.         return customModel.generate(prompt);
  16.     }
  18.     public static class CustomChatModel implements ChatLanguageModel {
  19.         @Override
  20.         public ChatResponse generate(List<ChatMessage> messages) {
  21.             // 实现自定义逻辑
  22.             String response = "自定义模型生成的响应";
  23.             return ChatResponse.builder()
  24.                     .message(AiMessage.from(response))
  25.                     .build();
  26.         }
  27.     }
  28. }
复制代码
（八）自界说工具

1. 焦点概念

自界说工具允许开发者根据需求实现自己的工具，例如调用外部API或执行特定操作。
2. 应用场景



  • 调用外部API：例如调用天气API获取天气信息。
  • 执行特定操作：例如调用体系下令执行操作。
3. 案例代码

  1. import dev.langchain4j.agent.Agent;
  2. import dev.langchain4j.agent.AgentToolCall;
  3. import dev.langchain4j.agent.AgentToolCallResult;
  4. import dev.langchain4j.agent.ToolCall;
  5. import dev.langchain4j.agent.ToolCallResult;
  6. import dev.langchain4j.agent.tool.Tool;
  7. import dev.langchain4j.agent.tool.ToolRegistry;
  8. import dev.langchain4j.model.chat.ChatLanguageModel;
  9. import dev.langchain4j.model.openai.OpenAiChatModel;
  10. import org.springframework.stereotype.Service;
  12. @Service
  13. public class CustomToolService {
  14.     private final ChatLanguageModel model;
  15.     private final ToolRegistry toolRegistry;
  17.     public CustomToolService() {
  18.         model = new OpenAiChatModel();
  19.         toolRegistry = new ToolRegistry();
  20.     }
  22.     public String execute(String userMessage) {
  23.         Agent agent = Agent.builder()
  24.                 .chatLanguageModel(model)
  25.                 .toolRegistry(toolRegistry)
  26.                 .build();
  28.         return agent.execute(userMessage);
  29.     }
  31.     @Tool(name = "customTool", description = "自定义工具")
  32.     public String customTool(String input) {
  33.         // 实现自定义逻辑
  34.         return "自定义工具的响应：" + input;
  35.     }
  36. }
复制代码
（九）自界说链

1. 焦点概念

自界说链允许开发者根据需求实现自己的链，例如将多个任务串联起来。
2. 应用场景



  • 串联多个任务：例如先辈行文本生成，再进行情感分析。
  • 实现复杂逻辑：例如根据条件选择差别的任务。
3. 案例代码

  1. import dev.langchain4j.chain.Chain;
  2. import dev.langchain4j.model.chat.ChatLanguageModel;
  3. import dev.langchain4j.model.openai.OpenAiChatModel;
  4. import org.springframework.stereotype.Service;
  6. @Service
  7. public class CustomChainService {
  8.     private final ChatLanguageModel model;
  10.     public CustomChainService() {
  11.         model = new OpenAiChatModel();
  12.     }
  14.     public String execute(String userMessage) {
  15.         CustomChain chain = new CustomChain(model);
  16.         return chain.execute(userMessage);
  17.     }
  19.     public static class CustomChain implements Chain {
  20.         private final ChatLanguageModel model;
  22.         public CustomChain(ChatLanguageModel model) {
  23.             this.model = model;
  24.         }
  26.         @Override
  27.         public String execute(String input) {
  28.             // 实现自定义逻辑
  29.             String response = model.generate(input);
  30.             // 进行后续处理
  31.             return response;
  32.         }
  33.     }
  34. }
复制代码
四、实战案例

（一）案例背景

假设我们正在开发一个智能客服体系，需要实现以下功能：

  • 用户可以与客服机器人进行对话。
  • 客服机器人可以或许根据用户的问题提供准确的答案。
  • 客服机器人可以或许调用外部API获取实时信息，例如天气信息。
（二）项目结构

  1. src/main/java/com/example/aiassist
  2. ├── controller
  3. │   ├── AiController.java
  4. ├── service
  5. │   ├── ChatService.java
  6. │   ├── FunctionCallingService.java
  7. │   ├── RagService.java
  8. │   ├── ToolCallingService.java
  9. ├── model
  10. │   ├── CustomChatModel.java
  11. │   ├── CustomTool.java
  12. ├── config
  13. │   ├── AppConfig.java
复制代码
（三）代码实现

1. 控制器

  1. import org.springframework.beans.factory.annotation.Autowired;
  2. import org.springframework.web.bind.annotation.*;
  4. @RestController
  5. @RequestMapping("/api/ai")
  6. public class AiController {
  7.     private final ChatService chatService;
  8.     private final FunctionCallingService functionCallingService;
  9.     private final RagService ragService;
  10.     private final ToolCallingService toolCallingService;
  12.     @Autowired
  13.     public AiController(ChatService chatService, FunctionCallingService functionCallingService, RagService ragService, ToolCallingService toolCallingService) {
  14.         this.chatService = chatService;
  15.         this.functionCallingService = functionCallingService;
  16.         this.ragService = ragService;
  17.         this.toolCallingService = toolCallingService;
  18.     }
  20.     @PostMapping("/chat")
  21.     public String chat(@RequestBody String userMessage) {
  22.         return chatService.chat(userMessage);
  23.     }
  25.     @PostMapping("/function-calling")
  26.     public String functionCalling(@RequestBody String userMessage) {
  27.         return functionCallingService.execute(userMessage);
  28.     }
  30.     @PostMapping("/rag")
  31.     public String rag(@RequestBody String userMessage) {
  32.         return ragService.rag(userMessage);
  33.     }
  35.     @PostMapping("/tool-calling")
  36.     public String toolCalling(@RequestBody String userMessage) {
  37.         return toolCallingService.execute(userMessage);
  38.     }
  39. }
复制代码
2. 服务层

  1. import dev.langchain4j.agent.Agent;
  2. import dev.langchain4j.agent.AgentToolCall;
  3. import dev.langchain4j.agent.AgentToolCallResult;
  4. import dev.langchain4j.agent.ToolCall;
  5. import dev.langchain4j.agent.ToolCallResult;
  6. import dev.langchain4j.agent.tool.Tool;
  7. import dev.langchain4j.agent.tool.ToolRegistry;
  8. import dev.langchain4j.chain.ConversationalRetrievalChain;
  9. import dev.langchain4j.chain.RetrievalAugmentedGenerationChain;
  10. import dev.langchain4j.data.document.Document;
  11. import dev.langchain4j.data.document.DocumentLoader;
  12. import dev.langchain4j.data.document.FileDocumentLoader;
  13. import dev.langchain4j.data.segment.TextSegmenter;
  14. import dev.langchain4j.data.segment.TextSegmenterFactory;
  15. import dev.langchain4j.model.chat.ChatLanguageModel;
  16. import dev.langchain4j.model.openai.OpenAiChatModel;
  17. import dev.langchain4j.retrieval.Retriever;
  18. import dev.langchain4j.retrieval.vectorstore.VectorStoreRetriever;
  19. import dev.langchain4j.vectorstore.VectorStore;
  20. import dev.langchain4j.vectorstore.VectorStoreFactory;
  21. import org.springframework.stereotype.Service;
  23. @Service
  24. public class ChatService {
  25.     private final ChatLanguageModel model;
  26.     private final ToolRegistry toolRegistry;
  27.     private final Retriever retriever;
  29.     public ChatService() {
  30.         model = new OpenAiChatModel();
  31.         toolRegistry = new ToolRegistry();
  32.         VectorStore vectorStore = VectorStoreFactory.create();
  33.         retriever = new VectorStoreRetriever(vectorStore);
  34.     }
  36.     public String chat(String userMessage) {
  37.         ConversationalRetrievalChain chain = ConversationalRetrievalChain.builder()
  38.                 .chatLanguageModel(model)
  39.                 .toolRegistry(toolRegistry)
  40.                 .retriever(retriever)
  41.                 .build();
  42.         return chain.execute(userMessage);
  43.     }
  45.     public String functionCalling(String userMessage) {
  46.         Agent agent = Agent.builder()
  47.                 .chatLanguageModel(model)
  48.                 .toolRegistry(toolRegistry)
  49.                 .build();
  50.         return agent.execute(userMessage);
  51.     }
  53.     public String rag(String userMessage) {
  54.         RetrievalAugmentedGenerationChain chain = RetrievalAugmentedGenerationChain.builder()
  55.                 .chatLanguageModel(model)
  56.                 .retriever(retriever)
  57.                 .build();
  58.         return chain.execute(userMessage);
  59.     }
  61.     public String toolCalling(String userMessage) {
  62.         Agent agent = Agent.builder()
  63.                 .chatLanguageModel(model)
  64.                 .toolRegistry(toolRegistry)
  65.                 .build();
  66.         return agent.execute(userMessage);
  67.     }
  69.     @Tool(name = "search", description = "搜索信息")
  70.     public String search(String query) {
  71.         // 实现搜索逻辑
  72.         return "搜索结果：" + query;
  73.     }
  75.     @Tool(name = "weather", description = "获取天气信息")
  76.     public String getWeather(String location) {
  77.         // 实现获取天气信息的逻辑
  78.         return "天气信息：" + location;
  79.     }
  81.     public void loadDocuments() {
  82.         DocumentLoader documentLoader = new FileDocumentLoader("path/to/documents");
  83.         List<Document> documents = documentLoader.load();
  84.         TextSegmenter segmenter = TextSegmenterFactory.create();
  85.         List<TextSegment> segments = segmenter.segment(documents);
  86.         retriever.add(segments);
  87.     }
  88. }
复制代码
3. 自界说模子

  1. import dev.langchain4j.model.chat.ChatLanguageModel;
  2. import dev.langchain4j.model.chat.ChatMessage;
  3. import dev.langchain4j.model.chat.ChatResponse;
  4. import org.springframework.stereotype.Service;
  6. @Service
  7. public class CustomChatModelService {
  8.     private final ChatLanguageModel customModel;
  10.     public CustomChatModelService() {
  11.         customModel = new CustomChatModel();
  12.     }
  14.     public String generate(String prompt) {
  15.         return customModel.generate(prompt);
  16.     }
  18.     public static class CustomChatModel implements ChatLanguageModel {
  19.         @Override
  20.         public ChatResponse generate(List<ChatMessage> messages) {
  21.             // 实现自定义逻辑
  22.             String response = "自定义模型生成的响应";
  23.             return ChatResponse.builder()
  24.                     .message(AiMessage.from(response))
  25.                     .build();
  26.         }
  27.     }
  28. }
复制代码
4. 自界说工具

  1. import dev.langchain4j.agent.Agent;
  2. import dev.langchain4j.agent.AgentToolCall;
  3. import dev.langchain4j.agent.AgentToolCallResult;
  4. import dev.langchain4j.agent.ToolCall;
  5. import dev.langchain4j.agent.ToolCallResult;
  6. import dev.langchain4j.agent.tool.Tool;
  7. import dev.langchain4j.agent.tool.ToolRegistry;
  8. import dev.langchain4j.model.chat.ChatLanguageModel;
  9. import dev.langchain4j.model.openai.OpenAiChatModel;
  10. import org.springframework.stereotype.Service;
  12. @Service
  13. public class CustomToolService {
  14.     private final ChatLanguageModel model;
  15.     private final ToolRegistry toolRegistry;
  17.     public CustomToolService() {
  18.         model = new OpenAiChatModel();
  19.         toolRegistry = new ToolRegistry();
  20.     }
  22.     public String execute(String userMessage) {
  23.         Agent agent = Agent.builder()
  24.                 .chatLanguageModel(model)
  25.                 .toolRegistry(toolRegistry)
  26.                 .build();
  28.         return agent.execute(userMessage);
  29.     }
  31.     @Tool(name = "customTool", description = "自定义工具")
  32.     public String customTool(String input) {
  33.         // 实现自定义逻辑
  34.         return "自定义工具的响应：" + input;
  35.     }
  36. }
复制代码
五、总结

通过本文的详细介绍，我们已经完成了在SpringBoot中整合LangChain4j的全过程。从基础的对话本领、会话记忆，到高级的Function Calling、RAG、工具调用和自界说功能，LangChain4j为Java开发者提供了一个强大且灵活的框架来构建基于AI大模子的应用程序。通过实战案例，我们展示了如何将这些功能应用到实际项目中，资助读者更好地理解和掌握。
在实际开发中，开发者可以根据详细需求灵活选择和组合LangChain4j提供的功能，充实发挥AI大模子的本领，为用户提供更加智能和高效的解决方案。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览
返回列表

快速回复

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

钜形不锈钢水箱

论坛元老
这个人很懒什么都没写!

楼主热帖

标签云

AI 运维 CIO 存储 服务器
微信订阅号
微信服务号
微信客服
小程序
H5
关于我们 商务合作 网站地图
©Copyright 2022-2024 杭州祥升科技有限公司 版权所有 浙ICP备20004199号
快速回复 返回顶部 返回列表