论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
应用中心
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
qidao123.com技术社区-IT企服评测·应用市场
»
论坛
›
开源技术
›
开源技术
›
国内首个「混淆推理模型」Qwen3深夜开源,盘点它的N种对 ...
国内首个「混淆推理模型」Qwen3深夜开源,盘点它的N种对接方式! ...
泉缘泉
论坛元老
|
7 天前
|
显示全部楼层
|
阅读模式
楼主
主题
1934
|
帖子
1934
|
积分
5812
今日凌晨,通义千问团队正式开源了 Qwen3 大模型,并且一口气发布了 8 个型号,其中包括 0.6B、1.7B、4B、8B、14B、32B 以及 30B-A3B 和 235B-A22B,利用者可以根据自己的业务情况,选择符合的版本进利用用。
更让人惊喜的是,最新的 Qwen3 系列模型具备
双模推理能力(深入思考/快速响应)、支持 119 种语言及方言,并强化了 Agent 功能与代码实行能力
,全面满足复杂问题处理与环球化应用需求。
PS:Qwen3 也是国内首个「混淆推理模型」,「快思考」与「慢思考」集成进同一个模型,对简朴需求可低算力「秒回」答案,对复杂问题可多步调「深度思考」,大大节省算力消耗。
Qwen3 旗舰模型 Qwen3-235B-A22B 在代码、数学、通用能力等基准测试中,与 DeepSeek-R1、o1、o3-mini、Grok-3 和 Gemini-2.5-Pro 等顶级模型相比,体现出极具竞争力的效果。此外,小型 MoE 模型 Qwen3-30B-A3B 的激活参数数量是 QwQ-32B 的 10%,体现更胜一筹,乃至像 Qwen3-4B 这样的小模型也能对抗 Qwen2.5-72B-Instruct 的性能,以下是测试报告:
对接 Qwen3
常见对接大模型的方案有以下几种:
官方对接方式
:例如,调用阿里百炼平台对接 Qwen3。
当地模型对接方式
:安装 Ollama 摆设 Qwen3,对接 Ollama 实现调用。
三方平台对接方式
:利用千帆或火山引擎等三方平台,对接调用 Qwen3。
但目前由于 Qwen3 刚刚发布,以是只能利用前两种对接方式,停止发稿时,三方平台还未上线 Qwen3,但也够用了。
详细实现
接下来我们就以官方的调用方式,来实现一下 Qwen3 的详细代码对接吧,这里提供 Spring AI 和 LangChain4j 两种对接实现。
Spring AI 对接 Qwen3
1.添加依赖
Spring AI 并没有内置阿里云百炼平台,但百炼平台支持 OpenAI 协议,因此我们可以利用 OpenAI 对接百炼平台,因此我们只需要添加 OpenAI 依赖即可。
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-starter-model-openai</artifactId>
</dependency>
复制代码
2.设置设置信息
spring:
ai:
openai:
base-url: https://dashscope.aliyuncs.com/compatible-mode/
api-key: ${ALIYUN-AK}
chat:
options:
model: qwen3-235b-a22b
复制代码
其中:
base-url 填写百炼平台地址。
api-key 为预备阶段在百炼平台申请的 AK 凭证。
model 设置为 qwen3-235b-a22b 模型。
支持的模型列表参考官方文档:https://help.aliyun.com/zh/model-studio/models?spm=a2c4g.11186623.0.0.78d848237YTeH1#cefdf0875dorc
3.编写调用代码
import org.springframework.ai.openai.OpenAiChatModel;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
@RestController
@RequestMapping("/ds")
public class TestController {
private final OpenAiChatModel chatModel;
@Autowired
public TestController(OpenAiChatModel chatModel) {
this.chatModel = chatModel;
}
@RequestMapping("/chat")
public String chat(@RequestParam("msg") String msg) {
String result = chatModel.call(msg);
System.out.println("返回结果:" + result);
return result;
}
}
复制代码
LangChain4j 对接 Qwen3
LangChain4j 内置集成了阿里云百炼平台,以是可以直接对接。
1.添加依赖
<dependency>
<groupId>dev.langchain4j</groupId>
<artifactId>langchain4j-community-dashscope-spring-boot-starter</artifactId>
</dependency>
复制代码
可以为“langchain4j-community-xxx”其添加统一版本管理:
<dependencyManagement>
<dependencies>
<dependency>
<groupId>dev.langchain4j</groupId>
<artifactId>langchain4j-community-bom</artifactId>
<version>1.0.0-beta3</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>
复制代码
2.设置设置信息
留意这里需要设置“chat-model”节点,官方文档有问题
,如果不设置 chat-model 则不能主动注入百炼模型:
langchain4j:
community:
dashscope:
base-url: https://dashscope.aliyuncs.com/compatible-mode/
chat-model:
api-key: ${ALIYUN-AK}
model-name: qwen-plus
复制代码
支持的模型列表:https://help.aliyun.com/zh/model-studio/models
3.编写调用代码
import dev.langchain4j.model.chat.ChatLanguageModel;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
@RestController
@RequestMapping("/qw")
public class QwenController {
@Autowired
private ChatLanguageModel qwenChatModel;
@RequestMapping("/chat")
public String chat(String question) {
return qwenChatModel.chat(question);
}
}
复制代码
小结
固然,以上对接方式是全量输出(得到效果之后一次性返回),生产级别我们通常要利用流式输出,并且需要实现连续(上下文)对话,以及汗青对话信息持久化等功能,文章篇幅有限,这里就不逐一实现了,各人可以下来自己试试。
本文已收录到我的技术小站 www.javacn.site,其中包罗的内容有:Spring AI、LangChain4j、MCP、Function Call、RAG、向量数据库、Prompt、多模态、向量数据库、嵌入模型等内容。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
回复
使用道具
举报
0 个回复
倒序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
发新帖
回复
泉缘泉
论坛元老
这个人很懒什么都没写!
楼主热帖
华为一镜到底主题__荣耀30系列安装教程 ...
日志模块
「Docker入门指北」容器很难理解?带你 ...
数据资产为王,如何解析企业数字化转型 ...
信创环境下分布式文件存储MinIO集群部 ...
28基于java的简单酒店数据管理 ...
xss-labs靶场
Vulnhub之M87靶机详细测试过程(不同提 ...
从入门到一位合格的爬虫师,这几点很重 ...
前端后端的爱恨情仇
标签云
渠道
国产数据库
集成商
AI
运维
CIO
存储
服务器
浏览过的版块
人工智能
DevOps与敏捷开发
QMS
云原生
备份
分布式数据库
物联网
快速回复
返回顶部
返回列表