ollama修改模型参数 num_ctx【Linux】
以qwen2为例
1、获取配置文件
ollama show --modelfile qwen2 > Modelfile
此时目录下多了一个Modelfile文件
2、修改Modelfile文件内容
PARAMETER num_ctx 32768
原始文件内容如下:
修改后的文件内容
方法一:直接打开文件修改
方法二:使用文本编辑器
/home/zheng/Ollama/qwen/Modelfile
这个是我Modelfile文件的路径
- 使用 nano 编辑器:nano 是一个非常简单易用的文本编辑器,适合不熟悉复杂命令的用户
nano /home/zheng/Ollama/qwen/Modelfile
进入 nano 之后,你可以直接编辑文件内容,完成后按 Ctrl + O
保存,按 Enter
确认,然后按 Ctrl + X
退出。
- 使用 vim 编辑器:vim 是一个功能强大的编辑器,但需要一些基础操作指令
vim /home/zheng/Ollama/qwen/Modelfile
进入 vim 后,按 i
进入插入模式进行编辑。
编辑完成后按 Esc
退出插入模式。
输入 :wq
保存并退出。
3、根据这个配置文件生成新的qwen2:ctx32k模型:
cd /home/zhengerhan/Ollama/qwen
ollama create -f Modelfile qwen2:ctx32k
4、完成啦!可以查看新模型的参数
ollama show qwen2:ctx32k