学习本地摆设DeepSeek的过程(基于ollama)

[复制链接]
发表于 2025-10-10 04:50:32 | 显示全部楼层 |阅读模式
  DeepSeek除了支持在线调用服务接口外,还支持本地摆设后调用本地服务,如许的长处是不须要api key,且资源独占,还能训练个人知识库。本文学习并记载本地摆设DeepSeek的过程。
  参考文献3中列出了差异模子对于电脑硬件的要求,本人电脑设置一样寻常,只能摆设1.5b版本的模子。
  百度本地摆设DeepSeek的方式,如今找到的重要是两种:
  1)安装python、PyTorch、克隆DeepSeek堆栈、下载模子等(参考文献6);
  2)基于ollama摆设模子,利用chatbox调用本地服务(参考文献1-2中也提到可以安装别的前端步伐)。
  第二种方式如今见到的最多,本文就先学习并记载基于ollama和chatbox的DeepSeek本地摆设过程。

  在ollama官网(参考文献4)中按电脑利用体系范例下载并摆设相应版本的ollama步伐,网上发起按其默认安装路径安装,否则还须要手工调解环境变量,下载及安装过程中下所示。



  安装完成后,在下令行中输入下面的下令查察安装状态。

  接下来下载DeepSeek模子,在ollama的官网中可以看到DeepSeek每种模子的下载下令,然后在下令行中运行对应下令即可下载并运行,模子文件默认下载到C:\Users\{用户名}\.ollama\models\blobs路径下。
  1. ollama run deepseek-r1:1.5b
复制代码
  同时运行上面的下令也能在下令行中与DeepSeek本地模子对话,如下图所示:

  接下来摆设chatbox,在官网(参考文献5)中下载并安装chatbox,如下图所示:



  安装完成后,运行chatbox开始设置本地服务路径,选择下图中圈红出的“利用本身的API Key或本地模子”。

  在选择并设置AI模子窗口中选择Ollama API

  末了弹出的设置窗口中选择本地模子及设置API地点(利用默认地点即可)。

  末了就可以在Chatbox中开始对话了,如下图所示。但说实话1.5b的模子结果一样寻常,不清楚是设置的不对照旧怎么回事,提问静夜思的作者大概让其仿照静夜思作诗,返回的结果不尽人意。

参考文献:
[1]https://blog.csdn.net/qq_20890935/article/details/145563763
[2]https://baijiahao.baidu.com/s?id=1822832446478919985&wfr=spider&for=pc
[3]https://www.callmysoft.com/support/5446.html
[4]https://ollama.com/
[5]https://chatboxai.app/zh
[6]https://baijiahao.baidu.com/s?id=1823651450604281706&wfr=spider&for=pc

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
回复

使用道具 举报

登录后关闭弹窗

登录参与点评抽奖  加入IT实名职场社区
去登录
快速回复 返回顶部 返回列表