ollama修改模型参数 num_ctx【Linux】

以qwen2为例
1、获取配置文件

1. ollama show --modelfile qwen2 > Modelfile

复制代码

此时目录下多了一个Modelfile文件
2、修改Modelfile文件内容

1. PARAMETER num_ctx 32768

复制代码

原始文件内容如下：

修改后的文件内容

方法一：直接打开文件修改
方法二：使用文本编辑器
/home/zheng/Ollama/qwen/Modelfile这个是我Modelfile文件的路径

• 使用 nano 编辑器：nano 是一个非常简单易用的文本编辑器，适合不熟悉复杂命令的用户
  

1. nano /home/zheng/Ollama/qwen/Modelfile

复制代码

进入 nano 之后，你可以直接编辑文件内容，完成后按 Ctrl + O 保存，按 Enter 确认，然后按 Ctrl + X 退出。

• 使用 vim 编辑器：vim 是一个功能强大的编辑器，但需要一些基础操纵指令
  

1. vim /home/zheng/Ollama/qwen/Modelfile

复制代码

进入 vim 后，按 i 进入插入模式进行编辑。
编辑完成后按 Esc 退出插入模式。
输入 :wq 保存并退出。
3、根据这个配置文件生成新的qwen2:ctx32k模型：

1. cd /home/zhengerhan/Ollama/qwen

复制代码

1. ollama create -f Modelfile qwen2:ctx32k

复制代码

4、完成啦！可以查看新模型的参数

1. ollama show qwen2:ctx32k

复制代码

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。