windows deepseek R1与deepseek janus pro当地部署 开源生信

deepseek R1

deepseek R1包罗大小不一的模型如下
https://ollama.com/library/deepseek-r1

我的GPU是16G显存，下载14b模型。
流程如下： （科学上网）
1. 下载Ollama，从官网下载。（安装完成后，在CMD下利用ollama --version，测试安装成功）
2. ollama run deepseek-r1:14b
3. 安装docker
4. docker 安装 Open Web UI

1. docker run -d -p 3000:8080 \
2.   --add-host=host.docker.internal:host-gateway \
3.   -v open-webui:/app/backend/data \
4.   --name open-webui \
5.   --restart always \
6.   ghcr.io/open-webui/open-webui:main

复制代码

5. 打开docker 可以看到open web UI正在运行， 点击小红框内的3000:8000，自动打开浏览器

测试一下：

deepseek janus pro

有两个功能，辨认图像信息。 另一个是文生图。

• conda create -n janus python=3.10 -y # (后续conda activate janus激活情况)
  
• git clone https://github.com/deepseek-ai/Janus.git
  
• cd Janus
  
• pip install -e .
  
• 
  

1. pip install gradio
2. pip uninstall torch torchvision torchaudio -y
3. pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

复制代码

#安装符合版本的torch， cuda版本，torch版本对应上。
GPU版本:
6. python demo/app_januspro.py --device cuda （此处会下载7B模型，可以通过更改次文件，换成1B模型测试，大概需要科学上网）

.
7. http://127.0.0.1:7860
界面如下

结果如下：
从网络上下载一份病例，可以比较准确的辨认出问题。

再将这些信息导入deepseek R1满血版。结合图转文字，和deepseek R1。

文本转图片：
受限于GPU大小，利用1B的模型，并没有天生抱负的图片。 满血版当地部署需要A100 80G版本

关注微信公众号《开源生信》

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。