windows deepseek R1与deepseek janus pro当地部署 开源生信
deepseek R1deepseek R1包罗大小不一的模型如下
https://ollama.com/library/deepseek-r1
https://i-blog.csdnimg.cn/direct/0ae2b2bafbdb4fe79cb1eb1257a66fc8.png
我的GPU是16G显存，下载14b模型。
流程如下： （科学上网）
1. 下载Ollama，从官网下载。（安装完成后，在CMD下利用ollama --version，测试安装成功）
2. ollama run deepseek-r1:14b
3. 安装docker
4. docker 安装 Open Web UI
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-v open-webui:/app/backend/data \
--name open-webui \
--restart always \
ghcr.io/open-webui/open-webui:main
5. 打开docker 可以看到open web UI正在运行， 点击小红框内的3000:8000，自动打开浏览器
https://i-blog.csdnimg.cn/direct/178b5b3ad6d74406b7942fb4763e3289.png
https://i-blog.csdnimg.cn/direct/3fc1f363aa6e403d970d146681110f99.png
测试一下：
https://i-blog.csdnimg.cn/direct/8ab29e11947e4e33835dbcf4d8474038.png
deepseek janus pro
有两个功能，辨认图像信息。 另一个是文生图。
[*]conda create -n janus python=3.10 -y # (后续conda activate janus激活情况)
[*]git clone https://github.com/deepseek-ai/Janus.git
[*]cd Janus
[*]pip install -e .
[*]
pip install gradio
pip uninstall torch torchvision torchaudio -y
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
#安装符合版本的torch， cuda版本，torch版本对应上。
GPU版本:
6. python demo/app_januspro.py --device cuda （此处会下载7B模型，可以通过更改次文件，换成1B模型测试，大概需要科学上网）
https://i-blog.csdnimg.cn/direct/b83a624a3cae42f0bf9c0c44db7eb969.png.
7. http://127.0.0.1:7860
界面如下
https://i-blog.csdnimg.cn/direct/c6cc2c83b39f40a095f355799148217f.png
结果如下：
从网络上下载一份病例，可以比较准确的辨认出问题。
https://i-blog.csdnimg.cn/direct/466ffe0957134879bbb4265195c9374b.png
再将这些信息导入deepseek R1满血版。结合图转文字，和deepseek R1。
https://i-blog.csdnimg.cn/direct/c3c802e79a7f44768096cc42fa9c4763.png
文本转图片：
受限于GPU大小，利用1B的模型，并没有天生抱负的图片。 满血版当地部署需要A100 80G版本
https://i-blog.csdnimg.cn/direct/333eee4c311346b7bb786f58ecdcfb27.png
关注微信公众号《开源生信》
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]