如何在本机或服务器上摆设运行DeepSeek R1模型

打印 上一主题 下一主题

主题 1623|帖子 1623|积分 4869

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

x
如何在centos服务器大概ubuntu服务器上摆设大模型,deepseek R1模型。

一、服务器安装摆设DeepSeek R1
1、安装ollama并设置deepseek模型
        1)ollama安装命令:
                curl -fsSL https://ollama.com/install.sh | sh
                安装完成后,验证是否安装乐成
                ollama -v
                如果显示Ollama的版本信息,则表现安装乐成。
        2)下载并摆设DeepSeek模型
                使用Ollama下载DeepSeek模型。比方,下载DeepSeek-R1模型:
                        ollama run deepseek-r1:[选择合适的版本,如7b或1.5b等]
                下载1.5b的命令示例:ollama run deepseek-r1:1.5b
下载完成后,可以通过命令行与DeepSeek模型举行交互。也可以通过postman等工具举行交互。如果需要摆设一个Web界面来与模型举行对话,可以思量使用Open WebUI等工具。
打开欣赏器,输入服务器的公网IP地点和所映射的端口号(如http://[公网IP]:[宿主机端口]),即可访问DeepSeek的Web界面。
在Web界面中,可以输入问题或指令与DeepSeek模型举行对话。

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

张国伟

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表