前言
本文将分享怎样在群晖NAS上当地部署并运行一个基于大语言模子Llama 2的个人谈天机器人，并团结内网穿透工具实现公网远程访问。由于当地部署对装备配置有一定要求，发起使用高性能的服务器以获得更好的体验。
现在，大多数大语言模子产品都是基于在线服务的。如果希望在当地自行部署一个大语言模子，应该怎样操作呢？接下来，我们将先容一款可以在当地运行的大语言模子——Llama 2。
Llama 2是一款开源的大语言模子，其训练数据量已达到7B级别，在上下文长度为4K的单轮和多轮对话中表现优异。要成功部署和运行Llama 2，必要借助一个名为Ollama的框架。
Ollama是一个强大的框架，旨在简化在Docker容器中部署大型语言模子（LLM）的过程。它通过提供简单的安装指令，使用户能够轻松在当地运行大型开源语言模子。
利用Ollama框架，可以方便地运行Llama 2大语言模子。同时，为了与模子举行交互，还必要部署一个Web交互界面——Chatbot-Ollama。
Chatbot-Ollama是基于Ollama框架的谈天机器人前端应用。它利用Ollama提供的接口和功能，将大型语言模子集成到谈天机器人中，使其能够与用户举行互动，并提供多种谈天服务。
通过将Chatbot-Ollama接入当地Ollama框架运行的Llama 2大语言模子，我们可以轻松创建一个当地谈天机器人。然而，Chatbot-Ollama的当地部署仅限于当地访问，无法提供远程访问。因此，我们还必要安装内网穿透工具cpolar，以便让当地谈天机器人能够被远程访问。
1. 拉取相干的Docker镜像
运行Llama 2必要借助Ollama镜像,对语言模子举行交互必要用到Chatbot-Ollama前端界面,所以我们必要拉取这两个docker镜像,本例群晖版本由于无法直接在群晖控制面板docker界面搜刮下载镜像,所以采用下令行方式举行镜像下载,起首开启群晖ssh连接,然后使用工具通过ssh连接上群晖,分别实行下面docker下令 拉取
*拉取Ollama镜像下令
- sudo docker pull ollama/ollama:latest
- sudo docker pull ghcr.io/ivanfioravanti/chatbot-ollama:main
2. 运行Ollama 镜像
选中镜像,点击运行进入配置界面,名称无需设置,默认即可,然后点击下一步
输入外部访问的端口,和容器内部端口一致,填写11434即可,然后点击下一步
然后点击完成即可运行ollama
运行后,打开容器界面,可以看到运行的服务,下面开始下载运行Llama 2模子,点击选中ollama容器,点击操作
然后打开终端机,进入终端下令界面
然后选择左边新增一个bash下令界面
然后在bash下令界面,实行ollama run llama2下令,接着等候下载即可,最后出现success,表示下载运行Llama 2模子成功,下载完成后可以关闭掉窗口.这样ollama 容器启动,并运行Llama 2模子就成功了,下面运行chatbot-ollama镜像,配置前端交互界面
3. 运行Chatbot Ollama镜像
选中我们下载的镜像,点击运行,开始举行设置
名称可以默认,直接点击下一步
设置对外端口,本例设置3001,详细可以本身自定义,这个端口也是我们浏览器上web访问的端口
然后设置一个环境变量,该变量就是连接我们上面运行Ollama框架服务的地址,我们设置当地地址:http://群晖局域网IP:11434即可,设置完成点击下一步,然后直接点击完成即可,chatbot Ollama镜像就运行成功了,接下来我们举行当地访问.
4. 当地访问
上面我们运行设置chatbot ollama 的对外端口是3001(详细以本身设置的为准),下面我们在浏览器访问群晖3001端口,既可看到我们的web交互 界面,同时,上面表现了使用的llama2模子,下面输入笔墨即可对话,这样一个当地部署的机器人就完成了,对话的相应速度取决于装备的配置,尽量使用高配置的服务器运行部署哦,当地完成后,我们接下来设置远程也可以访问,下面安装cpolar工具,实现无公网IP也可以远程访问我们的谈天机器人界面!
5. 群晖安装Cpolar
点击下面Cpolar群晖套件下载地址,下载相应版本的群晖Cpolar套件
https://www.cpolar.com/synology-cpolar-suite,
打开群晖套件中心，点击右上角的手动安装按钮。
选择我们当地下载好的cpolar套件安装包,然后点击下一步
点击同意按钮,然后点击下一步
最后点击完成即可。
安装完成后,在外部浏览器,我们通过群晖的局域网ip地址加9200端口访问Cpolar的Web管理界面,然后输入Cpolar邮箱账号与密码举行登录，如无账号可去官网注册：
cpolar官网地址：https://www.cpolar.com/
6. 配置公网地址
点击左侧仪表盘的隧道管理——创建隧道，创建一个chatbot的公网地址隧道!
- 隧道名称：可自定义定名，留意不要与已有的隧道名称重复
- 协议：选择http
- 当地地址：3001 (当地访问的端口)
- 域名类型：免费选择随机域名
- 地区：选择China
点击创建
隧道创建成功后，点击左侧的状态——在线隧道列表,查看所天生的公网访问地址，有两种访问方式,一种是http 和https,下面我们使用天生的http地址访问
7. 公网访问
使用上面cpolar天生的http地址,在浏览器访问,同样可以看到谈天机器人主界面,公网地址访问成功,无需公网IP,无需云服务器,即可把我们当地谈天机器人发布到公网举行访问!
小结
为了更好地演示，我们在前述过程中使用了cpolar天生的隧道，其公网地址是随机天生的。
这种随机地址的上风在于建立速度快，可以立刻使用。然而，它的缺点是网址由随机字符天生，不太容易影象（例如：3ad5da5.r10.cpolar.top）。别的，这个地址在24小时内会发生随机厘革，更适合于暂时使用。
我一样平常会使用固定二级子域名，缘故原由是我希望将网址发送给同事或客户时，它是一个固定、易记的公网地址（例如：chatbot.cpolar.cn），这样更显正式，便于流交协作。
8. 固定公网地址
由于以上使用Cpolar所创建的隧道使用的是随机公网地址，24小时内会随机厘革，倒霉于恒长远程访问。因此我们可以为其配置二级子域名，该地址为固定地址，不会随机厘革。
登录cpolar官网，点击左侧的预留，选择保存二级子域名，设置一个二级子域名名称，点击保存,保存成功后复制保存的二级子域名名称
保存成功后复制保存成功的二级子域名的名称
返回登录Cpolar web UI管理界面，点击左侧仪表盘的隧道管理——隧道列表，找到所要配置的隧道，点击右侧的编辑
修改隧道信息，将保存成功的二级子域名配置到隧道中
- 域名类型：选择二级子域名
- Sub Domain：填写保存成功的二级子域名
点击更新(留意,点击一次更新即可,不必要重复提交)
更新完成后,打开在线隧道列表,此时可以看到公网地址已经发生厘革,地址名称也变成了固定的二级子域名的名称域名
最后,我们使用固定的公网http地址访问,可以看到同样访问成功,这样一个固定且永世不变的公网地址就设置好了!
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。 |
