开源模型应用落地-工具使用篇-Spring AI-高阶用法（九） ...

一、媒介

    通过“开源模型应用落地-工具使用篇-Spring AI-Function Call（八）-CSDN博客”文章的学习，已经把握了怎样通过Spring AI集成OpenAI以及怎样进行function call的调用，现在将进一步学习Spring AI更高阶的用法，如：转达汗青上下文对话，调解模型参数等。

---

二、术语

2.1、Spring AI

  是 Spring 生态体系的一个新项目，它简化了 Java 中 AI 应用程序的创建。它提供以下功能：

• 支持所有主要模型提供商，比方 OpenAI、Microsoft、Amazon、Google 和 Huggingface。
  
• 支持的模型范例包罗“聊天”和“文本到图像”，还有更多模型范例正在开发中。
  
• 跨 AI 提供商的可移植 API，用于聊天和嵌入模型。
  
• 支持同步和流 API 选项。
  
• 支持下拉访问模型特定功能。
  
• AI 模型输出到 POJO 的映射。
  

---

三、前置条件

3.1、JDK 17+

    下载地点：Java Downloads | Oracle
    

​
  
3.2、创建Maven项目

    SpringBoot版本为3.2.3
  

1. <parent>
2.     <groupId>org.springframework.boot</groupId>
3.     <artifactId>spring-boot-starter-parent</artifactId>
4.     <version>3.2.3</version>
5.     <relativePath/> <!-- lookup parent from repository -->
6. </parent>

复制代码

3.3、导入Maven依赖包

  

1. <dependency>
2.         <groupId>org.projectlombok</groupId>
3.         <artifactId>lombok</artifactId>
4.         <optional>true</optional>
5. </dependency>
7. <dependency>
8.         <groupId>ch.qos.logback</groupId>
9.         <artifactId>logback-core</artifactId>
10. </dependency>
12. <dependency>
13.         <groupId>ch.qos.logback</groupId>
14.         <artifactId>logback-classic</artifactId>
15. </dependency>
17. <dependency>
18.         <groupId>cn.hutool</groupId>
19.         <artifactId>hutool-core</artifactId>
20.         <version>5.8.24</version>
21. </dependency>
23. <dependency>
24.         <groupId>org.springframework.ai</groupId>
25.         <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
26.         <version>0.8.0</version>
27. </dependency>

复制代码

3.4、 科学上网的软件

---

四、技术实现

4.1、新增配置

1. spring:
2.   ai:
3.     openai:
4.       api-key: sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

复制代码

PS:

•   openai要更换自己的api-key
  
•   模型参数根据实际环境调解
  

 4.2、汗青上下文对话转达

  # 方式一
  使用 UserMessage 和 AssistantMessage 指定上下文

  # 方式二
    使用 ChatMessage 指定上下文

 4.3、 调解模型参数

  # 方式一
  在配置文件中指定
  

  # 方式二
  在代码中指定

---

五、测试

在代码中指定的上下文：

对话次数	用户	AI
第一轮	你好 复制代码	你好！很高兴能为你提供帮助。有什么问题可以问我吗？ 复制代码
第二轮	我家在广州，你呢？ 复制代码	我是一个人工智能助手，没有具体的居住地。不过我可以帮助你解答问题和提供信息。有什么我可以帮你的吗？ 复制代码
第三轮	我家有什么特产

浏览器返回的结果：

idea返回的结果：

  结论：
  AI能识别出我家在广州，并给出广州的特产

---

六、附带说明

6.1、更多的模型参数配置
OpenAI Chat :: Spring AI Reference

​

6.2、完整代码

1. import cn.hutool.core.collection.CollUtil;import cn.hutool.core.map.MapUtil;import jakarta.servlet.http.HttpServletResponse;import lombok.extern.slf4j.Slf4j;import org.apache.commons.lang3.StringUtils;import org.springframework.ai.chat.Generation;import org.springframework.ai.chat.messages.*;import org.springframework.ai.chat.prompt.ChatOptions;import org.springframework.ai.chat.prompt.Prompt;import org.springframework.ai.chat.prompt.SystemPromptTemplate;import org.springframework.ai.openai.OpenAiChatClient;import org.springframework.ai.openai.OpenAiChatOptions;import org.springframework.beans.factory.annotation.Autowired;import org.springframework.web.bind.annotation.RequestMapping;import org.springframework.web.bind.annotation.RestController;import org.springframework.web.servlet.mvc.method.annotation.SseEmitter;import java.util.List;@Slf4j@RestController@RequestMapping("/api")public class OpenaiTestController {    @Autowired    private OpenAiChatClient openAiChatClient;    @RequestMapping("/history")    public SseEmitter history(HttpServletResponse response) {        response.setContentType("text/event-stream");        response.setCharacterEncoding("UTF-8");        SseEmitter emitter = new SseEmitter();        String systemPrompt = "{prompt}";        SystemPromptTemplate systemPromptTemplate = new SystemPromptTemplate(systemPrompt);        String userPrompt = "我家有什么特产？";        Message userMessage = new UserMessage(userPrompt);        Message systemMessage = systemPromptTemplate.createMessage(MapUtil.of("prompt", "you are a helpful AI assistant"));        UserMessage userChatMessage1 = new UserMessage("你好");        AssistantMessage assistantChatMessage1 = new AssistantMessage("你好！很高兴能为你提供帮助。有什么问题可以问我吗？");        UserMessage userChatMessage2 = new UserMessage("我家在广州，你呢？");        AssistantMessage assistantChatMessage2 = new AssistantMessage("我是一个人工智能助手，没有具体的居住地。不过我可以帮助你解答问题和提供信息。有什么我可以帮你的吗？");//        ChatMessage userChatMessage2 = new ChatMessage(MessageType.USER, "你好");//        ChatMessage assistantChatMessage2 = new ChatMessage(MessageType.ASSISTANT, "你好！很高兴能为你提供帮助。有什么问题可以问我吗？");////        ChatMessage userChatMessage2 = new ChatMessage(MessageType.USER, "我家在广州，你呢？");//        ChatMessage assistantChatMessage2 = new ChatMessage(MessageType.ASSISTANT, "我是一个人工智能助手，没有具体的居住地。不过我可以帮助你解答问题和提供信息。有什么我可以帮你的吗？");        OpenAiChatOptions openAiChatOptions = OpenAiChatOptions.builder()                .withModel("gpt-3.5-turbo")                .withTemperature(0.7f)                .withMaxTokens(4096)                .withN(1)                .withTopP(0.9f)                .build();        Prompt prompt = new Prompt(List.of(userChatMessage1, assistantChatMessage1, userChatMessage2, assistantChatMessage2, userMessage, systemMessage), openAiChatOptions);        log.info(prompt.toString());        openAiChatClient.stream(prompt).subscribe(x -> {            try {                log.info("response: {}", x);                List<Generation> generations = x.getResults();                if (CollUtil.isNotEmpty(generations)) {                    for (Generation generation : generations) {                        AssistantMessage assistantMessage = generation.getOutput();                        String content = assistantMessage.getContent();                        if (StringUtils.isNotEmpty(content)) {                            emitter.send(content);                        } else {                            if (StringUtils.equals(content, "null"))                                emitter.complete(); // Complete the SSE connection                        }                    }                }            } catch (Exception e) {                emitter.complete();                log.error("流式返回结果异常", e);            }        });        return emitter;    }}

复制代码

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。