Vim设置AI Copilot提升编码效率
https://i-blog.csdnimg.cn/direct/b1997ee0fef54c118262518b27798031.png市面上已经有成熟的AI编码助手，先有Github的Copilot，后有国内各个厂家提供的助手，以及现在本事更强大的cursor等。只是目前市面的编码助手，只支持VSCode和JetBrains，对一些Vim高度依赖的开发者很不友爱。恰恰找到了一款Vim插件，支持本地离线AI模型进行编码提效。
首先需要安装Vim插件，以Mac代码为例，下载llama.vim到bundle中：
cd ~/.vim/bundle
git clone https://github.com/ggml-org/llama.vim
设置Plugin 'llama.vim' 到 .vimrc的 vundle#begin() 区域：
set rtp+=~/.vim/bundle/Vundle.vim
call vundle#begin()
Plugin 'VundleVim/Vundle.vim'
Plugin 'ggml-org/llama.vim'
call vundle#end()
接着安装llama.cpp：
brew install llama.cpp
https://i-blog.csdnimg.cn/direct/6f44132f13ca4c9d901cf57a7346501c.png
接下来安装离线模型，下面是建议的设置，详细取决于我们的VRAM数量：
[*]高出 16GB VRAM:llama-server \
-hf ggml-org/Qwen2.5-Coder-7B-Q8_0-GGUF \
--port 8012 -ngl 99 -fa -ub 1024 -b 1024 \
--ctx-size 0 --cache-reuse 256
[*]小于 16GB VRAM:llama-server \
-hf ggml-org/Qwen2.5-Coder-3B-Q8_0-GGUF \
--port 8012 -ngl 99 -fa -ub 1024 -b 1024 \
--ctx-size 0 --cache-reuse 256
[*]小于 8GB VRAM:llama-server \
-hf ggml-org/Qwen2.5-Coder-1.5B-Q8_0-GGUF \
--port 8012 -ngl 99 -fa -ub 1024 -b 1024 \
--ctx-size 0 --cache-reuse 256
这里我们选择千问2.5，7B 版本：
https://i-blog.csdnimg.cn/direct/3780ffca9c0841a8ae1807e7399c7633.png
https://i-blog.csdnimg.cn/direct/30d59887f5ad4d43b6e0c4e75504eaac.png
接下来就可以快乐的使用代码天生辅助了：
https://i-blog.csdnimg.cn/direct/92fd92989be84a659980ec0cec85306e.png
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]