Spring AI 争先体验，5 分钟玩转 Java AI 应用开发

Spring AI 是 Spring 官方社区项目，旨在简化 Java AI 应用程序开发，让 Java 开发者像利用 Spring 开发平凡应用一样开发 AI 应用。
Spring Cloud Alibaba AI 以 Spring AI 为基础，并在此基础上提供阿里云通义系列大模型全面适配，让用户在 5 分钟内开发基于通义大模型的 Java AI 应用。

Spring AI x 通义千问 Demo 已上线至 sca.aliyun.com
Spring AI 简介

据 Spring AI 官网形貌，该项目的灵感来自著名的 Python 项目，如 LangChain 和 LlamaIndex，但 Spring AI 并不是这些项目的直接复制。Spring AI 相信下一波 Generative AI 生成式应用程序将不仅面向 Python 开发职员，而且将在许多编程语言中广泛应用。
Spring AI 的核心是提供抽象，作为开发 Java AI 应用程序的基础，提供以下功能：

• 提供多种大模型服务对接本领，包罗业界大多数主流大模型服务等；
  
• 支持灵活的 Prompt Template 和模型输出解析 Output Parsing 本领;
  
• 支持多模态的生成式 AI 本领，如对话，文生图、文生语音等；
  
• 提供通用的可移植的 API 以访问各类模型服务和 Embedding 服务，支持同步和流式调用，同时也支持通报特定模型的定制参数；
  
• 支持 RAG 本领的基础组件，包罗 DocumentLoader、TextSpillter、EmobeddingClient、VectorStore 等；
  
• 支持 AI Spring Boot Starter 实现配置主动装配。
  

Spring Cloud Alibaba AI 简介

Spring Cloud Alibaba AI 目前基于 Spring AI 0.8.1[1]版本 API 完成通义系列大模型的接入。通义接入是基于阿里云灵积模型服务[2]，灵积模型服务创建在“模型即服务”（Model-as-a-Service，MaaS）的理念基础之上，围绕 AI 各范畴模型，通过尺度化的API提供包罗模型推理、模型微调练习在内的多种模型服务。
在当前最新版本中，Spring Cloud Alibaba AI 主要完成了几种常见生成式模型的适配，包罗对话、文生图、文生语音等，开发者可以利用 Spring Cloud Alibaba AI 开发基于通义的聊天、图片或语音生成 AI 应用，框架还提供 OutParser、Prompt Template、Stuff 等实用本领。
以下是当前官方提供的 Spring Cloud Alibaba AI 应用开发示例，访问 http://sca.aliyun.com 可查看。

• 聊天对话应用
  
• 文生图应用
  
• 文生语音应用
  
• 模型输出解析OutputParser（实现从 String 到主动 POJO 映射）
  
• 利用 Prompt Template
  
• 让 AI 模型接入外部数据（Prompt Stuff）
  

体验第一个 Spring AI 应用开发

本项目演示怎样利用 spring-cloud-starter-alibaba-ai 完成一个在线聊天 AI 应用，底层利用通义千问提供的模型服务。可在此查看完备示例源码[3]。
开发聊天对话应用

1. 在项目 pom.xml 中加入 2023.0.1.0 版本 Spring Cloud Alibaba 依赖：

1. <dependencyManagement>
2.   <dependencies>
3.     <dependency>
4.       <groupId>com.alibaba.cloud</groupId>
5.       <artifactId>spring-cloud-alibaba-dependencies</artifactId>
6.       <version>2023.0.1.0</version>
7.       <type>pom</type>
8.       <scope>import</scope>
9.      </dependency>
10.    </dependencies>
11. </dependencyManagement>
13. <dependencies>
14.   <dependency>
15.       <groupId>com.alibaba.cloud</groupId>
16.       <artifactId>spring-cloud-starter-alibaba-ai</artifactId>
17.   </dependency>
18. </dependencies>

复制代码

2. 在 application.yml 配置文件中加入以下配置：

1. spring:
2.   cloud:
3.     ai:
4.       tongyi:
5.         chat:
6.           options:
7.             # Replace the following key with a valid API-KEY.
8.             api-key: sk-a3d73b1709bf4a178c28ed7c8b3b5axx

复制代码

3. 编写聊天服务实现类，由 Spring AI 主动注入 ChatClient、StreamingChatClient，ChatClient 屏蔽底层通义大模型交互细节。

1. @Service
2. public class TongYiSimpleServiceImpl extends AbstractTongYiServiceImpl {
4.   private final ChatClient chatClient;
6.   private final StreamingChatClient streamingChatClient;
8.   @Autowired
9.   public TongYiSimpleServiceImpl(ChatClient chatClient, StreamingChatClient streamingChatClient) {
10.     this.chatClient = chatClient;
11.     this.streamingChatClient = streamingChatClient;
12.   }
13. }

复制代码

4. 提供具体聊天逻辑实现

1. @Service
2. public class TongYiSimpleServiceImpl extends AbstractTongYiServiceImpl {
4.   // ......
6.   @Override
7.   public String completion(String message) {
9.     Prompt prompt = new Prompt(new UserMessage(message));
11.     return chatClient.call(prompt).getResult().getOutput().getContent();
12.   }
14.   @Override
15.   public Map<String, String> streamCompletion(String message) {
17.     StringBuilder fullContent = new StringBuilder();
19.     streamingChatClient.stream(new Prompt(message))
20.         .flatMap(chatResponse -> Flux.fromIterable(chatResponse.getResults()))
21.         .map(content -> content.getOutput().getContent())
22.         .doOnNext(fullContent::append)
23.         .last()
24.         .map(lastContent -> Map.of(message, fullContent.toString()))
25.         .block();
27.     log.info(fullContent.toString());
29.     return Map.of(message, fullContent.toString());
30.   }
32. }

复制代码

5. 编写 Spring 入口类并启动应用

1. @SpringBootApplication
2. public class TongYiApplication {
3.   public static void main(String[] args) {
4.     SpringApplication.run(TongYiApplication.class);
5.   }
6. }

复制代码

至此，便完成了最简单的聊天 AI 应用开发，与平凡的 Spring Boot 应用开发步骤完全一致！
验证应用结果

启动应用后，可通过如下两种方式验证应用结果。
方式一
浏览器地址栏输入：http://localhost:8080/ai/example
返回如下相应：

1. {
2.     "Tell me a joke": "Sure, here's a classic one for you:\n\nWhy was the math book sad?\n\nBecause it had too many problems.\n\nI hope that made you smile! If you're looking for more, just let me know."
3. }

复制代码

方式二
进入 resources/static 目次下，利用浏览器打开 index.html 文件，输入问题，即可获得输出相应（确保 api-key 有效）：

申请通义API-KEY

为使示例可以或许正常接入通义大模型，需要在阿里云开通 DashScope 灵积模型服务，申请有效的 API-KEY 并更新到应用配置文件。具体操作步骤可参见如下文档：https://help.aliyun.com/zh/dashscope/developer-reference/activate-dashscope-and-create-an-api-key
未来规划

当前版本 Spring Cloud Alibaba AI 主要完成了几种常见生成式模型适配，包罗对话、文生图、文生语音等。接下来的版本中，我们将继续完成 VectorStore、Embedding、ETL Pipeline 等更多适配，简化 RAG 等更多 AI 应用开发场景。

相干链接：
[1] Spring AI 0.8.1
https://docs.spring.io/spring-ai/reference/0.8-SNAPSHOT/index.html
[2] 灵积模型服务
https://help.aliyun.com/zh/dashscope/
[3] 完备示例源码
https://github.com/alibaba/spring-cloud-alibaba/tree/2023.x/spring-cloud-alibaba-examples/spring-cloud-ai-example/src/main/java/com/alibaba/cloud/ai/example/tongyi/service/impl/helloworld
原文链接
本文为阿里云原创内容，未经答应不得转载。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。