【Linux】阿里云服务器搭建gradio实例

0 前言

  因为课程原因，需要做一个大模子相关的大作业，想到之前买的阿里云服务器，便想在服务器基于大模子API部署一个聊天呆板人 。 因为是新手，专程做个记录，供初学者参考。
1 团体布局

  聊天呆板人主要就是前端的交互界面和配景的大模子处理两个部分。其中前端的交互界面是基于 gradio 库来实现的（官网：https://www.gradio.app/）；后端大模子是基于 langchain 这个一站式部署的库实现的（官网：https://www.langchain.com.cn/，API用的是国内大模子的免费API。接下来将分别介绍。
2 Python开放情况搭建

  在开始介绍之前，还需要搭建一个Python情况。
  阿里云服务器系统（CentOS 7.3）默认的python版本是3.6，实测在使用gradio时出现许多题目，所以建议安装高版本的Python，这里选择的是Python 3.10.14。
起首从官网下载安装包
由于gradio库需要使用到ssl，加上python 3.10支持的ssl版本要大于1.1.1，所以这里先安装SSL
2.1 SSL安装

到SSL的GitHub下载源码。
https://github.com/openssl/openssl/releases/tag/OpenSSL_1_1_1w

先解决依靠

1. yum install zlib-devel bzip2-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel gcc make libffi-devel

复制代码

解压openssl并编译安装

1. # 解压
2. tar -zxvf openssl-1.1.1w.tar.gz
3. # 进入到安装目录
4. cd openssl-1.1.1w/
5. # 配置安装路径
6. ./config --prefix=/usr/local/openssl --openssldir=/usr/local/openssl enable-shared
7. # 编译
8. make # -j 4
9. # 安装
10. make install

复制代码

安装好之后，还需要将openssl的可执行文件和库文件添加到系统能辨认的位置，如许后续编译运行对此有依靠的软件步伐就能正常执行。

1. # 先把原先老版本的openssl重命名一下备份
2. mv /usr/bin/openssl /usr/bin/openssl_backup
3. # 执行文件和库文件软链接，注意前面是实际位置，后面是链接存放的位置
4. ln -s /usr/local/openssl/bin/openssl /usr/bin/openssl
5. ln -s /usr/local/openssl/lib/libssl.so.1.1 /usr/lib/libssl.so.1.1
6. ln -s /usr/local/openssl/lib/libcrypto.so.1.1 /usr/lib/libcrypto.so.1.1

复制代码

  如果加上软链接还提示找不到的话，可以将软链接放到lib64文件夹下，二者都是存放共享库，但是一个是32位步伐调用，一个是64位步伐调用。
  安装好之后测试一下openssl的版本：

1. openssl version

复制代码

2.2 python安装

接下来开始安装python
和上面一样，先解决一下依靠

1. yum -y install gcc make
3. yum install libffi-devel
5. yum -y install zlib zlib-devel
7. yum -y install bzip2 bzip2-devel
8. yum -y install ncurses ncurses-devel
9. yum -y install readline readline-devel
10. yum -y install openssl openssl-devel
11. yum -y install openssl-static
12. yum -y install xz lzma xz-devel
13. yum -y install sqlite sqlite-devel
14. yum -y install gdbm gdbm-devel
15. yum -y install tk tk-devel
16. yum -y install mesa-libGL.x86_64

复制代码

这些依靠不肯定都要安装，可以先往后走，遇到报错再来安装
然后再到官网下载源码包，

解压python并编译安装

1. # 解压
2. tar -zxvf Python-3.10.14.tgz
3. # 进入到安装目录
4. cd Python-3.10.14/
5. # 配置安装路径和openssl路径
6. ./configure
7. -C --with-openssl=/usr/local/openssl --with-openssl-rpath=auto --prefix=/usr/local/python310
8. # 编译
9. make # -j 4
10. # 安装
11. make install

复制代码

安装好之后，还需要将python的可执行文件的链接放到系统的情况变量中，如许就不消每次运行python还要找一波路径。

1. # 可以直接覆盖原来的python3，也可以像下面一样指定一个别名
2. ln -s /usr/local/python3/bin/python3.10 /usr/bin/python310
3. # pip这个可以不需要，因为实际使用时可以用python -m pip，或者虚拟环境中直接使用
4. ln -s /usr/local/python3/bin/pip3.10 /usr/bin/pip3
5. # 配置文件，根据自己的需要选择
6. ln -s /usr/local/python3/bin/python3.10-config /usr/bin/python3-config

复制代码

验证一下ssl是否安装成功

1. # 先在终端输入python310
2. python310
4. # 再导入一下ssl模块
5. import ssl

复制代码

如果不报错，就分析ssl安装成功。
   参考链接
  3 开发

搭建好python情况之后，接下来就可以正常开发了。
3.1 工具使用

起首是使用的工具，还是首推VS Code，使用内部的Remote Development插件套装，可以实现本地开发云端步伐，操作和本地基本一致，完全没有入门门槛，比力简朴，不再赘述。
3.2 gradio

工具确定了，接下来就是实际撸代码了。
gradio是主角之一。它可以快捷地实现一个前端，快到什么水平呢，基本几行代码就能实现一个前端交互界面，非常适合一些呆板学习等人工智能应用的快速可视化。
这里枚举一些参考资料
ChatInterface：https://www.gradio.app/docs/gradio/chatinterface
几行代码实现一个聊天交互界面。
gradio快速创建一个目的辨认的应用：
https://blog.csdn.net/weixin_44162814/article/details/138153029
3.3 langchain

langchain是一个一站式部署大模子的库，内部实现了许多国内外大模子的接口，比如OpenAI，智普AI等，除了官方文档，也可以参考一下这个文档：
https://github.com/aihes/LangChain-Tutorials-and-Examples
4 nginx部署

4.1 下载安装

先下载

1. wget -c https://nginx.org/download/nginx-1.14.0.tar.gz

复制代码

版本可以根据自己需要选择，现在官网最新版似乎是1.27.0：

解压并进入目录

1. tar -zxvf nginx-1.14.0.tar.gz
2. cd nginx-1.14.0

复制代码

使用nginx的默认配置

1. ./configure

复制代码

最后再编译安装

1. make
2. make install

复制代码

现在安装好之后，由于还没有添加到情况变量中，所以还不能直接在终端运行nginx，也不能用which去查找，可以使用whereis去查找

1. > whereis nginx
2. nginx: /usr/local/nginx

复制代码

这里输出的是安装目录，执行文件在安装目录下的sbin文件夹，所以运行nginx时，需要：

1. /usr/local/nginx/sbin/nginx

复制代码

这个相当于是一个服务，运行起来之后就不会关闭。
如果需要关闭可以参考以下操作

1. # 先用ps指令查找对应的进程
2. ps -ef | grep nginx
3. kill <pid>  # 对应进程的PID值

复制代码

关闭之后，如果想要重新运行，可以：

1. /usr/local/nginx/sbin/nginx
2. -s reopen

复制代码

正常运行之后，欣赏器访问服务器链接（80端口），应该可以看到一个欢迎界面：

nginx就是如许运行，比力简朴。复杂的地方在于这个配置的题目
可以使用vim编辑nginx的配置文件

1. vim /usr/local/nginx/conf/nginx.conf

复制代码

具体的配置部分明白继续看下一节。
   参考链接
  4.2 配置访问gradio

前面介绍gradio可以看到，运行代码之后，会出现一个本地链接和端口。
如果有在Windows上运行gradio的可能会有如许的疑惑：这不是跟flask一样，运行完成之后直接点击链接就能访问吗？那如果在服务器上面，只需要输入服务器对应公网IP不就行了？一开始我也是如许想的，但是在查找教程过程中，无意看到一句话：gradio只能提供内部访问，外部访问需要使用nginx如许的反向署理服务器。
在开始之前，先简朴介绍一下nginx的配置文件的布局

• 全局块：配置全局的指令，对整个Nginx服务器起作用。
  
• events块：配置与连接相关的指令，如工作历程数和连接超时时间等。
  
• http块：配置HTTP服务器的指令，如监听端口、虚拟主机和HTTP模块等。
  
• server块：配置虚拟主机的指令，可以配置多个server块来支持多个域名或IP地址。
  
• location块：配置URL路径的指令，可以在server块或http块中使用。
  

其中，我们主要需要配置的就是location块，即实现将默认访问80端口的哀求导向gradio的本地链接。
   参考链接
  幸亏gradio官网也提供的相应的教程：https://www.gradio.app/guides/running-gradio-on-your-web-server-with-nginx
不消到处去找博客视频之类的了
   团体思路参考这个链接，具体的配置方式还是看上面谁人官网教程。
  5 服务编写

  为了避免每次都要用python运行步伐，可以考虑将这一指令写成服务的形式。
创建一个新的service文件，通常以.service作为后缀名。在终端中使用以下命令创建一个新的服务文件：
sudo vi /etc/systemd/system/myservice.service
在打开的编辑器中，输入以下内容：

1. [Unit]
2. Description=My Service
3. After=network.target
5. [Service]
6. ExecStart=/path/to/your/service_executable
7. Type=simple
8. Restart=always
9. RestartSec=3
10. User=your_username
12. [Install]
13. WantedBy=default.target

复制代码

其中，
Description是对服务的描述；
After指定服务应该在哪些目的之后启动；
ExecStart指定要运行的服务可执行文件的路径；
Type指定服务的类型，这里简朴地使用simple；
Restart指定服务在失败后应该如何重启，这里选择always；
RestartSec指定服务在重启之前应该等待的时间，这里选择3秒；
User指定服务应该以哪个用户的身份运行；
WantedBy指定在哪个目的之前安装此服务。
保存并关闭文件。
更新systemctl并启动新服务。在终端中运行以下命令：

1. sudo systemctl daemon-reload
2. sudo systemctl start myservice.service

复制代码

验证服务是否成功启动。可以使用以下命令查抄服务的状态：

1. sudo systemctl status myservice.service

复制代码

如果服务已成功启动，将在终端中看到服务的状态信息。
设置服务开机自启动。运行以下命令来启用服务自启动：

1. sudo systemctl enable myservice.service

复制代码

现在，服务将在系统启动时自动启动。
如许就创建了一个CentOS 7的service。根据实际情况，需要修改[Unit]和[Service]部分的内容以顺应您的具体服务需求。
   参考链接
  6 扩展：安装软件步骤总结

  从上面安装的几个软件来看，其实Linux端安装软件还是有规律可循的，主要就是那么几步：configure，make，make install
   参考链接：link1，link2

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。