张国伟 发表于 2025-2-14 15:38:00

如何在本机或服务器上摆设运行DeepSeek R1模型

如何在centos服务器大概ubuntu服务器上摆设大模型,deepseek R1模型。
https://i-blog.csdnimg.cn/direct/666b073a86a84a3cb17e76fe69efb930.jpeg
一、服务器安装摆设DeepSeek R1
1、安装ollama并设置deepseek模型
        1)ollama安装命令:
                curl -fsSL https://ollama.com/install.sh | sh
                安装完成后,验证是否安装乐成
                ollama -v
                如果显示Ollama的版本信息,则表现安装乐成。
        2)下载并摆设DeepSeek模型
                使用Ollama下载DeepSeek模型。比方,下载DeepSeek-R1模型:
                        ollama run deepseek-r1:[选择合适的版本,如7b或1.5b等]
                下载1.5b的命令示例:ollama run deepseek-r1:1.5b
下载完成后,可以通过命令行与DeepSeek模型举行交互。也可以通过postman等工具举行交互。如果需要摆设一个Web界面来与模型举行对话,可以思量使用Open WebUI等工具。
打开欣赏器,输入服务器的公网IP地点和所映射的端口号(如http://[公网IP]:[宿主机端口]),即可访问DeepSeek的Web界面。
在Web界面中,可以输入问题或指令与DeepSeek模型举行对话。

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: 如何在本机或服务器上摆设运行DeepSeek R1模型