ToB企服应用市场:ToB评测及商务社交产业平台

标题: Spring AI 更新：支持OpenAI的结构化输出，增强对JSON相应的支持 [打印本页]
作者: 老婆出轨    时间: 2024-8-10 08:28
标题: Spring AI 更新：支持OpenAI的结构化输出，增强对JSON相应的支持
就在昨晚，Spring AI发了个比较重要的更新。由于最近OpenAI推出了结构化输出的功能，可确保 AI 生成的相应严格遵守预定义的 JSON 模式。此功能显着提高了人工智能生成内容在现实应用中的可靠性和可用性。Spring AI 紧随厥后，现在也可以对OpenAI的结构化输出完美支持了。
下图展示了本次扩展的实现结构，如果对于当前实现还不够满意，需要扩展的可以根据此图来着手理解分析进行下一步扩展工作。

使用样例

通过Spring AI，开发者可以很方便的来构建针对 OpenAI 结构化输出的请求息争析：
  1. String jsonSchema = """
  2.   {
  3.       "type": "object",
  4.       "properties": {
  5.           "steps": {
  6.               "type": "array",
  7.               "items": {
  8.                   "type": "object",
  9.                   "properties": {
  10.                       "explanation": { "type": "string" },
  11.                       "output": { "type": "string" }
  12.                   },
  13.                   "required": ["explanation", "output"],
  14.                   "additionalProperties": false
  15.               }
  16.           },
  17.           "final_answer": { "type": "string" }
  18.       },
  19.       "required": ["steps", "final_answer"],
  20.       "additionalProperties": false
  21.   }
  22.   """;
  24. Prompt prompt = new Prompt("how can I solve 8x + 7 = -23",
  25. OpenAiChatOptions.builder()
  26.     .withModel(ChatModel.GPT_4_O_MINI)
  27.     .withResponseFormat(new ResponseFormat(ResponseFormat.Type.JSON_SCHEMA, jsonSchema))
  28.     .build());
  30. ChatResponse response = this.openAiChatModel.call(prompt);
复制代码
通过 OpenAiChatOptions中指定ResponseFormat来让OpenAI返回JSON格式。
Spring AI还提供了BeanOutputConverter来实现将JSON出转换成Java Bean，比如下面这样：
  1. record MathReasoning(
  2.   @JsonProperty(required = true, value = "steps") Steps steps,
  3.   @JsonProperty(required = true, value = "final_answer") String finalAnswer) {
  5.   record Steps(
  6.     @JsonProperty(required = true, value = "items") Items[] items) {
  8.     record Items(
  9.       @JsonProperty(required = true, value = "explanation") String explanation,
  10.       @JsonProperty(required = true, value = "output") String output) {}
  11.   }
  12. }
  14. var outputConverter = new BeanOutputConverter<>(MathReasoning.class);
  16. var jsonSchema = outputConverter.getJsonSchema();
  18. Prompt prompt = new Prompt("how can I solve 8x + 7 = -23",
  19. OpenAiChatOptions.builder()
  20.     .withModel(ChatModel.GPT_4_O_MINI)
  21.     .withResponseFormat(new ResponseFormat(ResponseFormat.Type.JSON_SCHEMA, jsonSchema))
  22.     .build());
  24. ChatResponse response = this.openAiChatModel.call(prompt);
  25. String content = response.getResult().getOutput().getContent();
  27. MathReasoning mathReasoning = outputConverter.convert(content);
复制代码
如果你整合了Spring AI针对OpenAI的Spring Boot Starter模块，那么也可以通过下面的方式来自动配置默认的JSON返回格式：
  1. spring.ai.openai.api-key=YOUR_API_KEY
  2. spring.ai.openai.chat.options.model=gpt-4o-mini
  4. spring.ai.openai.chat.options.response-format.type=JSON_SCHEMA
  5. spring.ai.openai.chat.options.response-format.name=MySchemaName
  6. spring.ai.openai.chat.options.response-format.schema={"type":"object","properties":{"steps":{"type":"array","items":{"type":"object","properties":{"explanation":{"type":"string"},"output":{"type":"string"}},"required":["explanation","output"],"additionalProperties":false}},"final_answer":{"type":"string"}},"required":["steps","final_answer"],"additionalProperties":false}
  7. spring.ai.openai.chat.options.response-format.strict=true
复制代码
本日的分享就到这里，感谢阅读！码字不易，点赞、关注、收藏支持一下！随便转载，标注下出处链接即可。
如果您学习过程中如遇困难？可以加入我们超高质量的Spring技术交换群，参与交换与讨论，更好的学习与进步！更多Spring Boot教程可以点击直达！，欢迎收藏与转发支持！
欢迎关注我的公众号：程序猿DD。第一时间了解前沿行业消息、分享深度技术干货、获取优质学习资源

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。



欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/) Powered by Discuz! X3.4