怎样申请文心一言&文心千帆大模型API调用资格、获取access_token,并使用Sp ...

打印 上一主题 下一主题

主题 531|帖子 531|积分 1593

前段时间,百度文心一言&文心千帆大模型开放了API调用的测试,接下来,教各人申请测试资格并接入文心千帆大模型的API。

一、文心一言&文心千帆的测试资格申请

1. 确保拥有一个百度智能云的账号

右上角点击注册,内容如实填写并完成实名认证。

 注册与认证详细内容不再赘述。
2. 文心千帆大模型资格申请

进入文心一言&文心千帆大模型介绍页,点击申请体验

会进入填写问卷页,没有什么本事,如实填写问卷信息即可,记得每一项要尽量详细,然后点击提交,接下来等候即可。
已经申请通过的会表现我这个页面。

 不出不测的话,接下来一天两天内你会收到如下短信

收到信息代表你申请通过,并且会赠送一张20的券,可根据文档自行使用。
3.(可选,非必要)文心千帆控制台


 

在这里你可以进行模型的体验与参数调治,详细功能请各位自行摸索。
二、获取文心千帆的access_token

众所都周知,百度的文心千帆大模型是通过access_key进行鉴权的,所以我们要调用API必须要申请一个access_key。
1.创建应用,获取API Key与Secret Key

 进入文心千帆大模型控制台,点击创建应用。

填写你要创建的应用信息,最下面还有个应用介绍,如实填写就好。

 创建乐成后,左侧选择应用列表,内里可以看到刚刚创建的应用,内里包罗了AppID、API Key、Secret Key(需点击表现),这些请务必不要泄露。

 我们需要API Key、Secret Key
2. 获取access_token

方法一:欣赏器发送请求

复制这两个Key,并替换下面链接的 [API Key] 与 [Secret Key] 
   https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id=[API Key]&client_secret=[Secret Key]
  比方:
   https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id=ad456sa4d5fhr5kfh&client_secret=df45d14g5xsdtsc
  欣赏器访问这个链接,你会得到一个json报文
我们需要关心的是这两个键值对, expires_in 与 access_token 
expires_in:Access Token的有效期(秒为单位,默认有效期30天)
access_token:要获取的Access Token;

方法二:百度在线调试工具

在线调试工具

左侧输入 API Key 与 Secret Key ,点击调试即可,参数与方法一一致。

方法三:编写发送请求

在线调试工具
这内里有每种语言的例程,可以直接复制修改。

三、接入文心一言API

官方文档
官方文档提供了四个模型,其中ErnieBot就是我们认识的文心一言,我们以这个为例,其他的与之类似或相同。
作为Java程序员,我就分别以一个 Java 程序和 SpringBoot 应用为例介绍怎么接入。

方法一:原生接入(不推荐)

按照官方文档,使用Hutool的HttpUtils工具类大概是其他的Http客户端接入,这样可以获得最大的自由度,但是即为麻烦,并且流式返回处理较为复杂,需使用Flux响应式来做,比较麻烦,我用一个原生Java程序演示一下:
  1. public static void main(String[] args) {
  2.         String url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions";
  3.         String accessToken = "你的access_token";
  4.         HashMap<String, String> msg = new HashMap<>();
  5.         msg.put("role", "user");
  6.         msg.put("content", "请介绍一下你自己");
  7.         ArrayList<HashMap> messages = new ArrayList<>();
  8.         messages.add(msg);
  9.         HashMap<String, Object> requestBody = new HashMap<>();
  10.         requestBody.put("messages", messages);
  11.         String response = HttpUtil.post(url + "?access_token=" + accessToken, JSONUtil.toJsonStr(requestBody));
  12.         System.out.println(response);
  13.     }
复制代码
输出内容:
  1. {
  2.     "id": "as-mibg24yygj",
  3.     "object": "chat.completion",
  4.     "created": 1690270732,
  5.     "result": "您好,我是文心一言,英文名是ERNIE Bot。我能够与人对话互动,回答问题,协助创作,高效便捷地帮助人们获取信息、知识和灵感。",
  6.     "is_truncated": false,
  7.     "need_clear_history": false,
  8.     "usage": {
  9.         "prompt_tokens": 8,
  10.         "completion_tokens": 49,
  11.         "total_tokens": 57
  12.     }
  13. }
复制代码

 方法二:使用现成的spring-boot-starter


项目开源地点:https://github.com/gemingjia/gear-wenxinworkshop-starter

1. 创建一个 SpringBoot 应用程序(建议选择JDK17)。 
2. 引入maven坐标:
  1. <dependency>
  2.   <groupId>io.github.gemingjia</groupId>
  3.   <artifactId>gear-wenxinworkshop-starter</artifactId>
  4.   <version>0.0.6</version>
  5. </dependency>
复制代码
3. 新建一个Controller
  1. @RestController
  2. public class ChatController {
  3.     // 要调用的模型的客户端
  4.     @Resource
  5.     private ErnieBotClient ernieBotClient;
  6.     // 单次对话
  7.     @PostMapping("/chat")
  8.     public BaseResponse<String> chatSingle(String msg) {
  9.         ChatResponse response = ernieBotClient.chatSingle(msg);
  10.         return BaseResponse.success(response.getResult());
  11.     }
  12.     // 连续对话
  13.     @PostMapping("/chats")
  14.     public BaseResponse<String> chatCont(String msg) {
  15.         String chatUID = "test-user-1001";
  16.         ChatResponse response = ernieBotClient.chatCont(msg, chatUID);
  17.         return BaseResponse.success(response.getResult());
  18.     }
  19.     // 流式返回,单次对话
  20.     @PostMapping(value = "/stream/chat", produces = MediaType.TEXT_EVENT_STREAM_VALUE)
  21.     public Flux<ChatResponse> chatSingleStream(String msg) {
  22.         Flux<ChatResponse> chatResponseFlux = ernieBotClient.chatSingleOfStream(msg);
  23.         return chatResponseFlux;
  24.     }
  25.     // 流式返回,连续对话
  26.     @PostMapping(value = "/stream/chats", produces = MediaType.TEXT_EVENT_STREAM_VALUE)
  27.     public Flux<ChatResponse> chatContStream(String msg, String msgUid) {
  28.         Flux<ChatResponse> chatResponseFlux = ernieBotClient.chatContOfStream(msg, msgUid);
  29.         return chatResponseFlux;
  30.     }
  31. }
复制代码
  1. @Data
  2. public class BaseResponse<T> implements Serializable {
  3.     private int code;
  4.     private T data;
  5.     private String message;
  6.     public static <T> BaseResponse<T> success(T data) {
  7.         BaseResponse<T> resp = new BaseResponse<>();
  8.         resp.setData(data);
  9.         resp.setCode(HttpStatus.OK.value());
  10.         return resp;
  11.     }
  12.    
  13.     public static <T> BaseResponse<T> error(int errorCode, String message) {
  14.         BaseResponse<T> resp = new BaseResponse<>();
  15.         resp.setCode(errorCode);
  16.         resp.setMessage(message);
  17.         return resp;
  18.     }
  19. }
复制代码
4. 运行起来,发送请求试一下

这是ErnieBot模型的演示,此外starter还提供了ErnieBotClient、ErnieBotTurboClient、Bloomz7BClient 三中模型的客户端,可自行选择使用。

如果这个starter资助您节省了一部分的时间,还请点个star哦~
 项目开源地点&文档:https://github.com/gemingjia/gear-wenxinworkshop-starter

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

王海鱼

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表