Ubuntu部署Deepseek-R1模型(8b)

打印 上一主题 下一主题

主题 928|帖子 928|积分 2784

安装ubuntu体系

本机电脑体系ubuntu-20.04
#升级软件
  1. sudo apt-get update
复制代码
#安装curl
  1. sudo apt-get install curl
复制代码
通过以上两条指令,完成了curl下令的安装。
安装ollama
打开Ollama官网

选择Linux,

给出如上图方框所示的一条指令
  1. curl -fsSL https://ollama.com/install.sh | sh
复制代码
这条指令就是把ollama拖下来并实行安装。

ollama的下载速度很快,安装也很快。
然后运行
  1. ollama -v
复制代码
表现正常即表示安装成功,如:

下载deepseek-r1镜像
依然是在ollama的官网上,选择"Models",选择deepseek。

我的电脑是INVIDIA显卡,点击进来可以看得到各个版本的信息
1.5B的模型大概1.1G,
8B的模型大概4.9G,复制指令黏贴到下令行里,就可以主动开始下载了
这里测试8B模型
  1. ollama run deepseek-r1:8b
复制代码


测试


docker安装

我这里已经安装完毕,查看版本
  1. docker --version
复制代码

安装open-webui

open-webui是一个UI页面,支持ollama等多种工具的可视化。
  1. sudo docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main
复制代码


打开个浏览器,输入地址127.0.0.1:3000访问

任意配置个账号密码,邮箱和密码背面是需要用来登录利用的,然后点击创建管理员账号。 回车后需要轻微等一等加载
  1. sudo vim /etc/systemd/system/ollama.service
复制代码
添加
  1. Environment="OLLAMA_HOST=0.0.0.0"
复制代码
网页表现

  1. sudo systemctl daemon-reload
  2. sudo systemctl restart ollama
复制代码
网页测试




参考:
https://blog.csdn.net/tizi666666/article/details/145414886

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

梦见你的名字

金牌会员
这个人很懒什么都没写!
快速回复 返回顶部 返回列表