马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。
您需要 登录 才可以下载或查看，没有账号？立即注册
x
前言：如果你是一名编程爱好者或者开发者，你肯定盼望拥有一个强大的助手来帮助你在编码过程中提高效率和准确性吧？今天我要给各人先容的这个项目绝对会让你眼前一亮——那就是如何在你的本地机器上部署Text generation Web UI，而且搭建Code Llama大语言模型。不但如此，我们还会通过Cpolar内网穿透工具实现公网远程访问，让你随时随地都能享受高效的代码生成体验。
想象一下，你正在家里写代码，突然必要一个复杂的算法或者一段优化过的函数，这时候只必要在Web界面上输入你的需求，几秒钟后就能得到高质量的代码片断。是不是很酷？不但如此，Code Llama还能帮助初学者快速上手编程，降低学习门槛，让编码变得更加轻松舒畅。
那么问题来了：如何实现这一切呢？别担心，接下来我会一步步带你完成整个过程。从安装Text generation Web UI到设置Cpolar内网穿透工具，每一步都详细讲解，确保你能够顺遂搭建并使用这个强大的开发助手。无论你是编程老手还是新手小白，都能轻松上手。
目录
1. 本地部署Text generation Web UI
2. 安装CodeLlama大模型
3. 实现公网远程使用Code Llama
4. 固定Text generation Web UI公网地址
1. 本地部署Text generation Web UI
本篇文章测试环境：Windows10专业版
起首我们必要在本地部署Text generation Web UI，是一个基于Gradio的LLM Web UI开源项目，可以使用其快速搭建部署各种大模型环境。
github地址：https://github.com/facebookresearch/codellama
点击download,一键下载文件到本地
解压文件夹，然后打开文件，双击运行start_windows进行主动下载
安装过程中会有一次确认，根据自己的显卡和体系选择就可以了，这里我选择A（英伟达显卡）
安装完成后，可以看到本地地址是：http://127.0.0.1:7680，Ctrl+c终止它。
2. 安装CodeLlama大模型
接下来要下载CodeLlama模型，在Hugging face上直接下载转换好的模型
Hugging face格式模型 https://huggingface.co/codellama
选择Base Model
然后依次下载下方红框中的文件
下载好后，然后选中这九个文件剪切，回到 `text-generation-webui` 目录中，进入 `models` 目录中，新建要给文件夹，名为 `codellama-7b`
把刚才9个文件，都粘贴到这个新文件夹中
然后回到`text-generation-webui` 目录中，双击打开 `start_windows`
然后打开一个浏览器，输入localhost:7680，可以看到进入到了Text generation Web UI中
点击上方model切换到模型设置页面，在模型下拉列表这里选择 codellama-7b
然后点击Load加载模型，接下来可以测试提出问题
然后把右侧上方的代码使用vscode测试一下，是否能得出效果
可以看到，显示出了正确效果，现在我们在本机部署了 Text generation Web UI，而且还添加了code llama大模型，如果想团队协作多人使用，或者在异地其他装备使用的话就必要结合Cpolar内网穿透实现公网访问，免去了复杂得本地部署过程，只必要一个公网地址直接就可以进入到Text generation Web UI中。
接下来教各人如何安装Cpolar而且将 Text generation Web UI实现公网访问。
3. 实现公网远程使用Code Llama
下面是安装cpolar步骤：
> Cpolar官网地址: [https://www.cpolar.com](https://www.cpolar.com/)
点击进入cpolar官网，点击`免费使用`注册一个账号，并下载最新版本的Cpolar
登录成功后，点击下载Cpolar到本地并安装（一路默认安装即可）本教程选择下载Windows版本。
Cpolar安装成功后，在浏览器上访问[http://localhost:9200](http://localhost:9200/)，使用cpolar账号登录,登录后即可看到Cpolar web 设置界面,结下来在web 管理界面设置即可。
接下来设置一下 text-generation-webui 的公网地址，
登录后，点击左侧仪表盘的隧道管理——创建隧道，
起首创建一个 LobeChat 的公网http地址隧道
- 隧道名称：可自定义命名，注意不要与已有的隧道名称重复
- 协议：选择http
- 本地地址：7860 (本地访问的地址)
- 域名范例：免费随机域名
- 地区：选择China Top
点击`创建`
隧道创建成功后，点击左侧的状态——在线隧道列表,检察所生成的公网地址，有两种访问方式，一种是http 和https
我们接下来使用http公网地址访问，可以看到我们访问到了 Text generation Web UI 界面，这样一个公网地址访问就创建好了。
**小结**
如果我们必要恒久进行团队协作的话，由于刚才创建的是随机的地址，24小时会发生变革。另外它的网址是由随机字符生成，不轻易影象。如果想把域名变成固定的二级子域名，而且不想每次都重新创建隧道来访问Text generation Web UI，我们可以选择创建一个固定的http地址来办理这个问题。
4. 固定Text generation Web UI公网地址
由于以上使用cpolar所创建的隧道使用的是随机公网地址，24小时内会随机变革，倒霉于恒久远程访问。因此我们可以为其设置二级子域名，该地址为固定地址，不会随机变革。
登录cpolar官网，点击左侧的预留，选择保存二级子域名，地区选择china vip top，然后设置一个二级子域名名称，填写备注信息，点击保存。
保存成功后复制保存的二级子域名地址：
登录cpolar web UI管理界面，点击左侧仪表盘的隧道管理——隧道列表，找到所要设置的隧道，点击右侧的`编辑`。
修改隧道信息，将保存成功的二级子域名设置到隧道中
- 域名范例：选择二级子域名
- Sub Domain：填写保存成功的二级子域名
- 地区: China VIP
点击`更新`
更新完成后，打开在线隧道列表，此时可以看到随机的公网地址已经发生变革，地址名称也变成了保存和固定的二级子域名名称。
最后，我们使用固定的公网地址访问Text generation Web UI界面可以看到访问成功，一个永世不会变革的远程访问方式即设置好了。
信赖你如今已经在本地成功部署了Text generation Web UI，而且设置好了Code Llama大语言模型。更重要的是，借助Cpolar内网穿透工具，你已经实现了公网远程访问的功能。这样一来，无论你在办公室、家里还是咖啡馆，都能随时随地享受到高效的代码生成体验，为你的开发工作带来更多的便利和兴趣！
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。 |
