无论你是编程界的资深玩家,大概只是个初出茅庐的新手小白,详细都希望拥有一个超级智能的AI助手,在你必要的时候为你提供最牛的代码片断。今天,我们就将带你走进怎样在本地搭建Text generation Web UI,并安装Code Llama大语言模子的世界。更令人兴奋的是,我们还将使用Cpolar内网穿透工具实现长途访问,让你无论身处何地都能享受到无缝编程的乐趣。
想象一下这样的场景:你正在家里的沙发上享受周末时光,突然灵感一现,必要快速实现一个算法大概优化某个函数。这时候,只需轻轻一点,你的私家代码助手就能为你提供完美的解决方案。这不但让专业开发者的工作效率飙升,还能帮助新手更快地把握编程技巧,让学习过程变得轻松又舒畅。
1. 本地摆设Text generation Web UI
本篇文章测试环境:Windows10专业版
起首我们必要在本地摆设Text generation Web UI,是一个基于Gradio的LLM Web UI开源项目,可以使用其快速搭建摆设各种大模子环境。
github地址:https://github.com/facebookresearch/codellama
点击download,一键下载文件到本地
然后打开一个浏览器,输入localhost:7680,可以看到进入到了Text generation Web UI中
点击上方model切换到模子配置页面,在模子下拉列表这里选择 codellama-7b
然后点击Load加载模子,接下来可以测试提出标题
然后把右侧上方的代码使用vscode测试一下,是否能得出效果
可以看到,显示出了精确效果,目前我们在本机摆设了 Text generation Web UI,并且还添加了code llama大模子,假如想团队协作多人使用,大概在异地其他装备使用的话就必要联合Cpolar内网穿透实现公网访问,免去了复杂得本地摆设过程,只必要一个公网地址直接就可以进入到Text generation Web UI中。
接下来教各人怎样安装Cpolar并且将 Text generation Web UI实现公网访问。
3. 实现公网长途使用Code Llama
我们接下来使用http公网地址访问,可以看到我们访问到了 Text generation Web UI 界面,这样一个公网地址访问就创建好了。
小结
假如我们必要长期举行团队协作的话,由于刚才创建的是随机的地址,24小时会发生变化。另外它的网址是由随机字符天生,不轻易影象。假如想把域名变成固定的二级子域名,并且不想每次都重新创建隧道来访问Text generation Web UI,我们可以选择创建一个固定的http地址来解决这个标题。
4. 固定Text generation Web UI公网地址
末了,我们使用固定的公网地址访问Text generation Web UI界面可以看到访问成功,一个永久不会变化的长途访问方式即设置好了。
现在,你已经成功在本地搭建了Text generation Web UI,并且配置好了Code Llama大语言模子。最紧张的是,通过Cpolar内网穿透工具,无论你在办公室、家里还是咖啡馆里,都能随时享受到高效的代码天生体验。从此,编程不再是枯燥的任务,而是充满乐趣的创造过程!有了这个私家代码神助攻,你不但可以轻松应对各种复杂的开发任务,还能在朋友们眼前炫耀一番,成为他们眼中的技术大牛!