flutter+dart+dio对接ai聊天接口，并处置惩罚stream流式相应数据，实现ai逐字回 - ToB企服应用市场:ToB评测及商务社交产业平台

POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions

复制代码

curl --location 'https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions' \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"model": "qwen-plus",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant."
},
{
"role": "user",
"content": "你是谁？"
}
],
"stream":true
}'

复制代码

final dio = Dio(BaseOptions(
// 请求连接超时时间
connectTimeout: const Duration(seconds: 10),
// 因为是流式响应，同时ai的回复响应速度也较久，固响应超时时间设置长些，此处设置为180秒
receiveTimeout: const Duration(seconds: 180),
// 设置请求头，其中的api-key要设置为你自己的
headers: {
'Authorization': 'Bearer 这里写你的api-key',
},
// 设置请求头
contentType: 'application/json; charset=utf-8',
// 设置响应类型为流式响应
responseType: ResponseType.stream,
));

复制代码

final rs = await dio.get(
url,
options: Options(responseType: ResponseType.stream), // 设置接收类型为 `stream`
);
print(rs.data.stream); // 响应流

复制代码

// 发起post请求
var result = await dio.post(
// 请求的url地址，这里使用的是阿里云的H5对接请求api地址
'https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions',
data: {
// 请求的模型名称，这些都可以在阿里百练的文档中找到
'model': 'qwen-plus',
// 请求的参数
'messages': [
{
'role': 'user',
'content': '你好',
}
],
// 是否流式响应
'stream': true,
},
/*开启流式响应
options: Options(
responseType: ResponseType.stream,
)
*/
);

复制代码

data: {"choices":[{"delta":{"content":"","role":"assistant"},"index":0,"logprobs":null,"finish_reason":null}],"object":"chat.completion.chunk","usage":null,"created":1715931028,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-3bb05cf5cd819fbca5f0b8d67a025022"}
data: {"choices":[{"finish_reason":null,"delta":{"content":"我是"},"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1715931028,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-3bb05cf5cd819fbca5f0b8d67a025022"}
data: {"choices":[{"delta":{"content":"来自"},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1715931028,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-3bb05cf5cd819fbca5f0b8d67a025022"}
data: {"choices":[{"delta":{"content":"阿里"},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1715931028,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-3bb05cf5cd819fbca5f0b8d67a025022"}
data: {"choices":[{"delta":{"content":"云的大规模语言模型"},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1715931028,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-3bb05cf5cd819fbca5f0b8d67a025022"}
data: {"choices":[{"delta":{"content":"，我叫通义千问。"},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1715931028,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-3bb05cf5cd819fbca5f0b8d67a025022"}
data: {"choices":[{"delta":{"content":""},"finish_reason":"stop","index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1715931028,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-3bb05cf5cd819fbca5f0b8d67a025022"}
data: [DONE]

复制代码

// 用于每个阶段的对话结果
final StringBuffer buffer = StringBuffer();
// 处理流式响应
await for (var data in result.data.stream) {
// 将字节数据解码为字符串
final bytes = data as List<int>;
final decodedData = utf8.decode(bytes);
// 移除 JSON 数据前的额外字符
// 这里因为qwen模型的响应数据每次都以data:开头，后面跟着一个json字符串，所以需要先移除data:
List<String> jsonData = decodedData.split('data: ');
// 移除空字符串
jsonData = jsonData.where((element) => element.isNotEmpty).toList();
// 遍历每个阶段
for (var element in jsonData) {
// 判断是否结束，如果结束则直接返回
if (element == '[DONE]') {
break;
}
try {
// 解析 JSON 数据
final json = jsonDecode(element);
// 获取当前阶段的对话结果，根据qwen模型的对接文档，这里的content就是当前阶段的对话结果，finish_reason表示当前阶段是否结束
final content = json['choices'][0]['delta']['content'] as String;
final finishReason = json['choices'][0]['finish_reason'] ?? '';
if (content.isNotEmpty) {
// 将每次的 content 添加到缓冲区中
buffer.write(content);
// 输出对话结果
print(buffer.toString());
}
if (finishReason == 'stop') {
// 如果 finish_reason 为 stop，则输出完整的对话完成结果
print(buffer.toString());
break;
}
} catch (e) {
print('Error parsing JSON: $e');
// 如果解析失败，可以尝试其他方式处理数据
// 例如，检查是否有其他非标准前缀，并进行相应的处理
}
}
}

复制代码

import 'package:dio/dio.dart';import 'dart:convert';void main() async { // 创建Dio实例 final dio = Dio(BaseOptions(
// 请求连接超时时间
connectTimeout: const Duration(seconds: 10),
// 因为是流式响应，同时ai的回复响应速度也较久，固响应超时时间设置长些，此处设置为180秒
receiveTimeout: const Duration(seconds: 180),
// 设置请求头，其中的api-key要设置为你自己的
headers: {
'Authorization': 'Bearer 这里写你的api-key',
},
// 设置请求头
contentType: 'application/json; charset=utf-8',
// 设置响应类型为流式响应
responseType: ResponseType.stream,
));
// 发起post哀求 var asStream = await dio.post( // 哀求的url地点，这里利用的是阿里云的H5对接哀求api地点 'https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions', data: { // 哀求的模子名称，这些都可以在阿里百练的文档中找到 'model': 'qwen-plus', // 哀求的参数 'messages': [ { 'role': 'user', 'content': '你好', } ], // 是否流式相应 'stream': true, }, ); // 处置惩罚流式相应 await processStreamResponse(asStream.data.stream);}/// 处置惩罚流式相应Future<void> processStreamResponse(Stream stream) async { // 用于每个阶段的对话结果 final StringBuffer buffer = StringBuffer(); // 处置惩罚流式相应 await for (var data in stream) { // 将字节数据解码为字符串 final bytes = data as List<int>; final decodedData = utf8.decode(bytes); // 移除 JSON 数据前的额外字符 // 这里因为qwen模子的相应数据每次都以data:开头，后面跟着一个json字符串，以是必要先移除data: List<String> jsonData = decodedData.split('data: '); // 移除空字符串 jsonData = jsonData.where((element) => element.isNotEmpty).toList(); // 遍历每个阶段 for (var element in jsonData) { // 判定是否竣事，假如竣事则直接返回 if (element == '[DONE]') { break; } try { // 分析 JSON 数据 final json = jsonDecode(element); // 获取当前阶段的对话结果，根据qwen模子的对接文档，这里的content就是当前阶段的对话结果，finish_reason表现当前阶段是否竣事 final content = json['choices'][0]['delta']['content'] as String; final finishReason = json['choices'][0]['finish_reason'] ?? ''; if (content.isNotEmpty) { // 将每次的 content 添加到缓冲区中 buffer.write(content); // 输出对话结果 print(buffer.toString()); } if (finishReason == 'stop') { // 假如 finish_reason 为 stop，则输出完整的对话完成结果 print(buffer.toString()); break; } } catch (e) { print('Error parsing JSON: $e'); // 假如分析失败，可以实验其他方式处置惩罚数据 // 比方，查抄是否有其他非尺度前缀，并举行相应的处置惩罚 } } }}

复制代码

你好
你好！
你好！很高兴
你好！很高兴能
你好！很高兴能为你服务。有什么
你好！很高兴能为你服务。有什么可以帮助你的吗？
你好！很高兴能为你服务。有什么可以帮助你的吗？

复制代码