windows deepseek R1与deepseek janus pro当地部署 开源生信

打印 上一主题 下一主题

主题 1073|帖子 1073|积分 3219

deepseek R1

deepseek R1包罗大小不一的模型如下
https://ollama.com/library/deepseek-r1

我的GPU是16G显存,下载14b模型。
流程如下: (科学上网)
1. 下载Ollama,从官网下载。(安装完成后,在CMD下利用ollama --version,测试安装成功)
2. ollama run deepseek-r1:14b
3. 安装docker
4. docker 安装 Open Web UI

  1. docker run -d -p 3000:8080 \
  2.   --add-host=host.docker.internal:host-gateway \
  3.   -v open-webui:/app/backend/data \
  4.   --name open-webui \
  5.   --restart always \
  6.   ghcr.io/open-webui/open-webui:main
复制代码
5. 打开docker 可以看到open web UI正在运行, 点击小红框内的3000:8000,自动打开浏览器


测试一下:

deepseek janus pro

有两个功能,辨认图像信息。 另一个是文生图。

  • conda create -n janus python=3.10 -y # (后续conda activate janus激活情况)
  • git clone https://github.com/deepseek-ai/Janus.git
  • cd Janus
  • pip install -e .

  1. pip install gradio
  2. pip uninstall torch torchvision torchaudio -y
  3. pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
复制代码
#安装符合版本的torch, cuda版本,torch版本对应上。
GPU版本:
6. python demo/app_januspro.py --device cuda (此处会下载7B模型,可以通过更改次文件,换成1B模型测试,大概需要科学上网)
.
7. http://127.0.0.1:7860
界面如下

结果如下:
从网络上下载一份病例,可以比较准确的辨认出问题。

再将这些信息导入deepseek R1满血版。结合图转文字,和deepseek R1。

文本转图片
受限于GPU大小,利用1B的模型,并没有天生抱负的图片。 满血版当地部署需要A100 80G版本

关注微信公众号《开源生信》

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

笑看天下无敌手

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表