ollama修改模型参数 num_ctx【Linux】
以qwen2为例1、获取配置文件
ollama show --modelfile qwen2 > Modelfile
此时目录下多了一个Modelfile文件
2、修改Modelfile文件内容
PARAMETER num_ctx 32768
原始文件内容如下：
https://i-blog.csdnimg.cn/direct/07ed689983e941a88621f89d50d436bc.png
修改后的文件内容
https://i-blog.csdnimg.cn/direct/4f8025b9ade5451596a8827424675c9b.png
方法一：直接打开文件修改
方法二：使用文本编辑器
/home/zheng/Ollama/qwen/Modelfile这个是我Modelfile文件的路径
[*]使用 nano 编辑器：nano 是一个非常简单易用的文本编辑器，适合不熟悉复杂命令的用户
nano /home/zheng/Ollama/qwen/Modelfile
进入 nano 之后，你可以直接编辑文件内容，完成后按 Ctrl + O 保存，按 Enter 确认，然后按 Ctrl + X 退出。
[*]使用 vim 编辑器：vim 是一个功能强大的编辑器，但需要一些基础操纵指令
vim /home/zheng/Ollama/qwen/Modelfile
进入 vim 后，按 i 进入插入模式进行编辑。
编辑完成后按 Esc 退出插入模式。
输入 :wq 保存并退出。
3、根据这个配置文件生成新的qwen2:ctx32k模型：
cd /home/zhengerhan/Ollama/qwen
ollama create -f Modelfile qwen2:ctx32k
4、完成啦！可以查看新模型的参数
ollama show qwen2:ctx32k
https://i-blog.csdnimg.cn/direct/f7f7459145464edbba421b06e318049a.png
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]