守听 发表于 2024-11-17 21:14:06

Windows安装docker,启动ollama运行open-webui利用AIGC大模型写周杰伦歌词

Windows安装docker,启动ollama运行open-webui利用AIGC大模型写周杰伦歌词


1、下载docker的Windows版本。
docker下载地址:
https://docs.docker.com/desktop/install/windows-install/https://csdnimg.cn/release/blog_editor_html/release2.3.6/ckeditor/plugins/CsdnLink/icons/icon-default.png?t=N7T8https://docs.docker.com/desktop/install/windows-install/

2、设置 - 体系 - 可选功能 - 更多Windows功能 - 启用或关闭Windows功能。勾选下面三项:
   Windows虚拟机监控程序平台
适用于Linux的Windows子体系
虚拟机平台
点击确定。然后,重启电脑。
3、然后点击安装第1步下载好的docker安装文件。
4、打开docker,点击左边的 Images,在弹出头板 Search : Ollama ,然后直接pull即可。
5、Ollama pull完成后,在docker下面的Terminal运行命令:
特殊注意:这里需要先启动Ollama
(a)启动Ollama(CPU only)
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
ollama运行指令说明:https://hub.docker.com/r/ollama/ollamahttps://csdnimg.cn/release/blog_editor_html/release2.3.6/ckeditor/plugins/CsdnLink/icons/icon-default.png?t=N7T8https://hub.docker.com/r/ollama/ollama

(b)接着启动open-webui
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
6、然后,在浏览器打开 http://localhost:3000 即可利用open-webui。
假如需要docker关闭/制止open-webui,命令:
docker stop open-webui
7、刚开始open-webui模型是空的
https://i-blog.csdnimg.cn/direct/3433cda0a1d946a885ee1192f5f962cf.png
没有,需要pull拉取模型。

在模型库 https://ollama.com/library 里面找一个大模型下载,设置里面pull:
https://i-blog.csdnimg.cn/direct/7ba536f3fb994c6697be9c0e68b5141b.png

大概
https://i-blog.csdnimg.cn/direct/c8150ba4bba049fcae9823eca98a84d5.png
gemma2:2b 假如pull大模型失败,不妨在docker里面把open-webui和ollama都制止再启动,然后再试试pull。

8、拉取模型后,选取一个模型,就可以与智能体对话了。
https://i-blog.csdnimg.cn/direct/02ed9e959c654aaab2bf59cac06057e1.png




webui-user.bat启动stable-diffusion-webui报错:RuntimeError: Torch is not able to use GPU,AIGC,Python-CSDN博客文章浏览阅读62次。webui-user.bat启动stable-diffusion-webui报错:RuntimeError: Torch is not able to use GPU,AIGC,Python。https://g.csdnimg.cn/static/logo/favicon32.icohttps://blog.csdn.net/zhangphil/article/details/141814348

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: Windows安装docker,启动ollama运行open-webui利用AIGC大模型写周杰伦歌词