DeepSeek R1 linux云部署

打印 上一主题 下一主题

主题 937|帖子 937|积分 2811

云平台:AutoDL
模型加载工具:Ollama
参考:https://github.com/ollama/ollama/blob/main/docs/linux.md
下载Ollama

服务器上下载ollama比较慢,因此我利用浏览器先下载到当地电脑上。
https://ollama.com/download/ollama-linux-amd64.tgz复制到浏览器进行下载
下载好以后,利用FileZilla等工具上传到云服务器上,这里我上传到autodl-tmp文件夹下。
打开一个terminal,解压下载的文件包:
  1. tar -C /usr -xzf ollama-linux-amd64.tgz
复制代码
启用ollama

  1. ollama serve
复制代码
再打开一个terminal,查抄一下ollama是否启用

  1. ollama -v
复制代码
这里可以看到ollama版本,阐明启用成功。

拉取模型

这里以deepseek-r1:32b为例进行拉取
  1. ollama pull deepseek-r1:32b
复制代码

下载过程中可能有掉速,Ctrl+C掉以后再重新ollama pull可以继承下载。
下载完成以后可以检察一下模型列表:
  1. ollama list
复制代码

运行模型:
  1. ollama run deepseek-r1:32b
复制代码
测试了一个很常见的,却有很多模型答错的问题:9.11和9.9比巨细

这个模型的链式推理很有人味儿,很有吸引力,这可能就是这个模型受很多人关注和歌颂的原因吧

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

冬雨财经

金牌会员
这个人很懒什么都没写!
快速回复 返回顶部 返回列表