配景
DeepSeek R1 联网对话功能确实很强大,不过总是会碰到下面的"服务器繁忙,请稍后再试"的提示。
这篇文章手把手教各人如何搭建独属本身的R1满血版本(671B)联网搜索的对话服务。
搭建Deepseek R1推理节点服务
注册后实名并进入火山引擎火山方舟控制台,点击左侧菜单的模型推理->在线推理,并且在页面上点击【创建推理接入点【。
填入必要的基本信息,模型选择DeeSeek-R1(第一次进入需要开通)。
点击【确认接入】。
在列表中就能看到创建的推理节点,并且得到模型id(ep-xxxxxx)。
进入节点的详情,选择 API调用 入口,点击【选择API Key 并复制】。
选择一个或者创建API Key (首次进入必须要新建)。
截止到现在,你就能通过
- 服务调用地址: https://ark.cn-beijing.volces.com/api/v3
- API Key
- 模型id
连接这个推理节点服务,不过当前不能支持互联网搜索。
推理节点关联应用,支持互联网搜索
在推理的节点详情,选择关联应用。点击【立即创建】。
通过零代码创建,并且选择单聊。
选择配置的推理接入点,以及打开联网内容插件,开通并选择“搜索引擎-互联网公开域内容(联网资源)”。并且可以根据个人搜索需要进行高级配置。
页面上另有一些提示词和开场白的配置,根据个人喜好来,然后点击右上角的【发布】,然后在当前页面可以体验R1满血版+联网服务了。
虽然能通过这个页面体验,但是每次使用并不是很方便,我们可以在本地配置一个客户端,比如 ChatBox或者Cherry Studio等等。
不过在此之前,我们先准备api连接信息。
- 服务调用地址: https://ark.cn-beijing.volces.com/api/v3/bots
- API Key:同上
- 模型id:此处点击节点关联应用详情,复制bot-开头的Id
Chatbox 配置
通过ChatBox 官方下载地址,下载适合的版本,并安装。
安装乐成后打开,然后点击左下角的设置,选择 【添加自界说提供方】。
填写api连接信息并【保存】。
- API域名处填写服务调用地址
- API密钥处填写API Key
- 模型处模型id
回到对话框,选择对应的模型进行对话聊天。
至此,本地环境就能与满血版本R1 + 联网搜索的服务进行对话聊天。
需要额外留意:
- 火山云目前赠予了一些推理节点的token数以及联网搜索的次数,凌驾将按照用量收费,请通过控制台观察免费额度使用环境。
- 如果本地对话客户端选择的是Cherry Studio,那么配置API域名请多加一个/,即https://ark.cn-beijing.volces.com/api/v3/bots/。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。 |