前言
- 学习视频:尚硅谷Nginx教程(亿级流量nginx架构设计)
- 本内容仅用于个人学习条记,如有扰乱,接洽删
- 学习文档:
- 云原生系列 - Nginx(底子篇)
- 云原生系列 - Nginx(高级篇)
一、扩容
通过扩容提升整体吞吐量
1、单机垂直扩容:硬件资源增长
- 云服务资源增加
- 整机:IBM、浪潮、DELL、HP等
- CPU/主板:更新到主流
- 网卡:10G/40G网卡
- 磁盘:SAS(SCSI) HDD(机械)、HHD(混合)、SATA SSD、PCI-e SSD、 MVMe SSD
- SSD
- 多副本机制
- 系统盘/热点数据/数据库存储
- HDD
- 冷数据存储
复制代码 2、水平扩展:集群化
2.1、会话管理
2.1.1、Nginx高级负载均衡
- ip_hash:
实用于中小型的项目,问题:
- ip 集中
- 后端转发的服务器宕机,关键数据的丢失,session)
- upstream httpds {
- ip_hash;
- server 192.168.119.128;
- server 192.168.119.129;
- }
- server {
- listen 80;
- server_name localhost;
- location / {
- proxy_pass http://httpds;
- # root html;
- }
-
-
- location ~*/(css|img|js) {
-
- root /usr/local/nginx/html;
- }
复制代码
- hash $cookie_jsessionid;
- 登录体系,会下发一个文件->客户端
- 客户端携带这个 cookie 去访问服务
- tomcat,java 才会下发 jsessionid,如果是其他服务,没有携带这个字段,所以没法进行hash
- upstream httpds {
- hash $cookie_jsessionid;
- server 192.168.119.128;
- server 192.168.119.129;
- }
- server {
- listen 80;
- server_name localhost;
- location / {
- proxy_pass http://httpds;
- # root html;
- }
-
-
- location ~*/(css|img|js) {
-
- root /usr/local/nginx/html;
- }
复制代码
- hash $request_uri;
- 某些终端装备不支持 cookie 的情况
- 资源不平均分配
- upstream httpds {
- hash $request_uri;
- server 192.168.119.128;
- server 192.168.119.129;
- }
- server {
- listen 80;
- server_name localhost;
- location / {
- proxy_pass http://httpds;
- # root html;
- }
-
-
- location ~*/(css|img|js) {
-
- root /usr/local/nginx/html;
- }
复制代码
- 使用lua逻辑定向分发:
- Redis + SpringSession
2.1.2、使用sticky模块完成对Nginx的负载均衡
使用参考
http://nginx.org/en/docs/http/ngx_http_upstream_module.html#sticky
tengine中有session_sticky模块我们通过第三方的方式安装在开源版本中
sticky是第三方模块,需要重新编译Nginx,他可以对Nginx这种静态文件服务器使用基于cookie的负载均衡
- 下载模块
项目官网
https://bitbucket.org/nginx-goodies/nginx-sticky-module-ng/src/master/
另外一个版本
https://github.com/bymaximus/nginx-sticky-module-ng
下载
https://bitbucket.org/nginx-goodies/nginx-sticky-module-ng/get/1.2.6.zip
- 上传解压
- 重新编译Nginx
依赖openssl-devel
进到源码目录重新编译
- ./configure --prefix=/usr/local/nginx --add-module=/root/nginx-goodies-nginx-sticky-module-ng-c78b7dd79d0d
复制代码 执行make
如遇报错修改源码
打开 ngx_http_sticky_misc.c文件
在12行添加
- #include <openssl/sha.h>
- #include <openssl/md5.h>
复制代码 备份之前的程序
- mv /usr/local/nginx/sbin/nginx /usr/local/nginx/sbin/nginx.old
复制代码 把编译好的Nginx程序替换到原来的目录里,编译(make)好的文件一般都存放于/usr/local/nginx/objs目录下
- cp objs/nginx /usr/local/nginx/sbin/
复制代码 升级检测
查抄程序中是否包含新模块
配置方法
- upstream httpget {
- sticky name=route expires=6h;
- server 192.168.119.128;
- server 192.168.119.129;
- }
复制代码 2.2、KeepAlive
在http协议header中可以看到当前毗连状态
2.2.1、测试工具charles
下载地址
https://www.charlesproxy.com/assets/release/4.6.2/charles-proxy-4.6.2-win64.msi?k=fc1457e312
官网
https://www.charlesproxy.com
1)、什么时间使用?
明显的预知用户会在当前毗连上有下一步操作
复用毗连,有效淘汰握手次数,尤其是https建立一次毗连开销会更大
2)、什么时间不用?
访问内联资源一般用缓存,不需要keepalive
长时间的tcp毗连容易导致体系资源无效占用
3)、对客户端使用keepalive
- keepalive_time
限定keepalive保持毗连的最大时间
1.19.10新功能
- keepalive_timeout
用于设置Nginx服务器与客户端保持毗连的超时时间
用于踢出不运动毗连
keepalive_timeout = 0 即关闭
- send_timeout 10; 10秒
- send_timeout 10 10; 同时下发一个header 告诉欣赏器
- send_timeout
两次向客户端写操作之间的隔断 如果大于这个时间则关闭毗连 默认60s
此处有坑,留意耗时的同步操作有大概会抛弃用户毗连
该设置表现Nginx服务器与客户端毗连后,某次会话中服务器等待客户端响应超过10s,就会自动关闭毗连。
- keepalive_request
默认1000
单个毗连中可处理的请求数
- keepalive_disable
不对某些欣赏器建立长毗连
默认msie6
- http {
- include mime.types;
- default_type application/octet-stream;
- sendfile on;
- keepalive_timeout 65 65; #超过这个时间 没有活动,会让keepalive失效
- keepalive_time 1h; # 一个tcp连接总时长,超过之后 强制失效
-
- send_timeout 60;# 默认60s 此处有坑!! 系统中 若有耗时操作,超过 send_timeout 强制断开连接。 注意:准备过程中,不是传输过程
- keepalive_requests 1000; #一个tcp复用中 可以并发接收的请求个数
复制代码 2.3、对上游服务器使用keepalive
起首需要配置使用http1.1协议。以便建立更高效的传输,默认使用http1.0,在http1.0中需要配置header才气
在Upstream中所配置的上游服务器默认都是用短毗连,即每次请求都会在完成之后断开
2.3.1、相干配置
1)、upstream中配置
配置
- keepalive 100;
向上游服务器的保存毗连数
- keepalive_timeout
毗连保存时间
- keepalive_requests
一个tcp复用中 可以并发接收的请求个数
2)、server中配置
- proxy_http_version 1.1;
配置http版本号
默认使用http1.0协议,需要在request中增长”Connection: keep-alive“ header才气够支持,而HTTP1.1默认支持。
- proxy_set_header Connection “”;
扫除close信息
2.4、AB安装
参数分析:
- -n 即requests,用于指定压力测试总共的执行次数。
- -c 即concurrency,用于指定的并发数。
- -t 即timelimit,等待响应的最大时间(单位:秒)。
- -b 即windowsize,TCP发送/接收的缓冲大小(单位:字节)。
- -p 即postfile,发送POST请求时需要上传的文件,此外还必须设置-T参数。
- -u 即putfile,发送PUT请求时需要上传的文件,此外还必须设置-T参数。
- -T 即content-type,用于设置Content-Type请求头信息,例如:application/x-www-form-urlencoded,默认值为text/plain。
- -v 即verbosity,指定打印帮助信息的冗余级别。
- -w 以HTML表格情势打印效果。
- -i 使用HEAD请求代替GET请求。
- -x 插入字符串作为table标签的属性。
- -y 插入字符串作为tr标签的属性。
- -z 插入字符串作为td标签的属性。
- -C 添加cookie信息,例如:“Apache=1234”(可以重复该参数选项以添加多个)。
- -H 添加恣意的请求头,例如:“Accept-Encoding: gzip”,请求头将会添加在现有的多个请求头之后(可以重复该参数选项以添加多个)。
- -A 添加一个基本的网络认证信息,用户名和暗码之间用英文冒号隔开。
- -P 添加一个基本的署理认证信息,用户名和暗码之间用英文冒号隔开。
- -X 指定使用的和端标语,例如:“126.10.10.3:88”。
- -V 打印版本号并退出。
- -k 使用HTTP的KeepAlive特性。
- -d 不显示百分比。
- -S 不显示预估和告诫信息。
- -g 输出效果信息到gnuplot格式的文件中。
- -e 输出效果信息到CSV格式的文件中。
- -r 指定接收到错误信息时不退出程序。
- -h 显示用法信息,实在就是ab -help。
2.4.1、直连nginx
- Server Software: nginx/1.21.6
- Server Hostname: 192.168.44.102
- Server Port: 80
- Document Path: /
- Document Length: 16 bytes
- Concurrency Level: 30
- Time taken for tests: 13.035 seconds
- Complete requests: 100000
- Failed requests: 0
- Write errors: 0
- Total transferred: 25700000 bytes
- HTML transferred: 1600000 bytes
- Requests per second: 7671.48 [#/sec] (mean)
- Time per request: 3.911 [ms] (mean)
- Time per request: 0.130 [ms] (mean, across all concurrent requests)
- Transfer rate: 1925.36 [Kbytes/sec] received
- Connection Times (ms)
- min mean[+/-sd] median max
- Connect: 0 0 0.4 0 12
- Processing: 1 3 1.0 3 14
- Waiting: 0 3 0.9 3 14
- Total: 2 4 0.9 4 14
- Percentage of the requests served within a certain time (ms)
- 50% 4
- 66% 4
- 75% 4
- 80% 4
- 90% 5
- 95% 5
- 98% 6
- 99% 7
- 100% 14 (longest request)
复制代码 2.4.2、反向署理
- Server Software: nginx/1.21.6
- Server Hostname: 192.168.44.101
- Server Port: 80
- Document Path: /
- Document Length: 16 bytes
- Concurrency Level: 30
- Time taken for tests: 25.968 seconds
- Complete requests: 100000
- Failed requests: 0
- Write errors: 0
- Total transferred: 25700000 bytes
- HTML transferred: 1600000 bytes
- Requests per second: 3850.85 [#/sec] (mean)
- Time per request: 7.790 [ms] (mean)
- Time per request: 0.260 [ms] (mean, across all concurrent requests)
- Transfer rate: 966.47 [Kbytes/sec] received
- Connection Times (ms)
- min mean[+/-sd] median max
- Connect: 0 0 0.2 0 13
- Processing: 3 8 1.4 7 22
- Waiting: 1 7 1.4 7 22
- Total: 3 8 1.4 7 22
- Percentage of the requests served within a certain time (ms)
- 50% 7
- 66% 8
- 75% 8
- 80% 8
- 90% 9
- 95% 10
- 98% 12
- 99% 13
- 100% 22 (longest request)
复制代码 2.4.3、直连Tomcat
- Server Software:
- Server Hostname: 192.168.44.105
- Server Port: 8080
- Document Path: /
- Document Length: 7834 bytes
- Concurrency Level: 30
- Time taken for tests: 31.033 seconds
- Complete requests: 100000
- Failed requests: 0
- Write errors: 0
- Total transferred: 804300000 bytes
- HTML transferred: 783400000 bytes
- Requests per second: 3222.38 [#/sec] (mean)
- Time per request: 9.310 [ms] (mean)
- Time per request: 0.310 [ms] (mean, across all concurrent requests)
- Transfer rate: 25310.16 [Kbytes/sec] received
- Connection Times (ms)
- min mean[+/-sd] median max
- Connect: 0 0 0.3 0 15
- Processing: 0 9 7.8 7 209
- Waiting: 0 9 7.2 7 209
- Total: 0 9 7.8 7 209
- Percentage of the requests served within a certain time (ms)
- 50% 7
- 66% 9
- 75% 11
- 80% 13
- 90% 18
- 95% 22
- 98% 27
- 99% 36
- 100% 209 (longest request)
复制代码 1)、nginx反向署理Tomcat + keepalive
- Server Software: nginx/1.21.6
- Server Hostname: 192.168.44.101
- Server Port: 80
- Document Path: /
- Document Length: 7834 bytes
- Concurrency Level: 30
- Time taken for tests: 23.379 seconds
- Complete requests: 100000
- Failed requests: 0
- Write errors: 0
- Total transferred: 806500000 bytes
- HTML transferred: 783400000 bytes
- Requests per second: 4277.41 [#/sec] (mean)
- Time per request: 7.014 [ms] (mean)
- Time per request: 0.234 [ms] (mean, across all concurrent requests)
- Transfer rate: 33688.77 [Kbytes/sec] received
- Connection Times (ms)
- min mean[+/-sd] median max
- Connect: 0 0 0.2 0 9
- Processing: 1 7 4.2 6 143
- Waiting: 1 7 4.2 6 143
- Total: 1 7 4.2 6 143
- Percentage of the requests served within a certain time (ms)
- 50% 6
- 66% 7
- 75% 7
- 80% 7
- 90% 8
- 95% 10
- 98% 13
- 99% 16
- 100% 143 (longest request)
复制代码 2)、nginx反向署理Tomcat
- Server Software: nginx/1.21.6
- Server Hostname: 192.168.44.101
- Server Port: 80
- Document Path: /
- Document Length: 7834 bytes
- Concurrency Level: 30
- Time taken for tests: 33.814 seconds
- Complete requests: 100000
- Failed requests: 0
- Write errors: 0
- Total transferred: 806500000 bytes
- HTML transferred: 783400000 bytes
- Requests per second: 2957.32 [#/sec] (mean)
- Time per request: 10.144 [ms] (mean)
- Time per request: 0.338 [ms] (mean, across all concurrent requests)
- Transfer rate: 23291.74 [Kbytes/sec] received
- Connection Times (ms)
- min mean[+/-sd] median max
- Connect: 0 0 0.2 0 9
- Processing: 1 10 5.5 9 229
- Waiting: 1 10 5.5 9 229
- Total: 1 10 5.5 9 229
- Percentage of the requests served within a certain time (ms)
- 50% 9
- 66% 10
- 75% 11
- 80% 11
- 90% 13
- 95% 14
- 98% 17
- 99% 19
- 100% 229 (longest request)
复制代码 2.5、UpStream工作流程
proxy_pass 向上游服务器请求数据共有6个阶段
- 初始化
- 与上游服务器建立毗连
- 向上游服务器发送请求
- 处理响应头
- 处理响应体
- 竣事
set_header
设置header
proxy_connect_timeout
与上游服务器毗连超时时间、快速失败
proxy_send_timeout
界说nginx向后端服务发送请求的隔断时间(不是耗时)。默认60秒,超过这个时间会关闭毗连
proxy_read_timeout
后端服务给nginx响应的时间,规定时间内后端服务没有给nginx响应,毗连会被关闭,nginx返回504 Gateway Time-out。默认60秒
2.5.1、缓冲区
proxy_requset_buffering
是否完全读到请求体之后再向上游服务器发送请求
proxy_buffering
是否缓冲上游服务器数据
proxy_buffers 32 64k;
缓冲区大小 32个 64k大小内存缓冲块
proxy_buffer_size
header缓冲区大小
- proxy_requset_buffering on;
- proxy_buffering on;
- proxy_buffer_size 64k;
- proxy_buffers 32 128k;
- proxy_busy_buffers_size 8k;
- proxy_max_temp_file_size 1024m;
复制代码 proxy_temp_file_write_size 8k
当启用从署理服务器到临时文件的响应的缓冲时,一次限定写入临时文件的数据的大小。 默认情况下,大小由proxy_buffer_size和proxy_buffers指令设置的两个缓冲区限定。 临时文件的最大大小由proxy_max_temp_file_size指令设置。
proxy_max_temp_file_size 1024m;
临时文件最大值
proxy_temp_path
- proxy_temp_path /spool/nginx/proxy_temp 1 2;
复制代码 a temporary file might look like this:
- /spool/nginx/proxy_temp/7/45/00000123457
复制代码 2.5.2、对客户端的限定
可配置位置
client_body_buffer_size
对客户端请求中的body缓冲区大小
默认32位8k 64位16k
如果请求体大于配置,则写入临时文件
client_header_buffer_size
设置读取客户端请求体的缓冲区大小。 如果请求体大于缓冲区,则将整个请求体或仅将其部分写入临时文件。 默认32位8K。 64位平台16K。
client_max_body_size 1000M;
默认1m,如果一个请求的大小超过配置的值,会返回413 (request Entity Too Large)错误给客户端
将size设置为0将禁用对客户端请求正文大小的查抄。
client_body_timeout
指定客户端与服务端建立毗连后发送 request body 的超时时间。如果客户端在指定时间内没有发送任何内容,Nginx 返回 HTTP 408(Request Timed Out)
client_header_timeout
客户端向服务端发送一个完整的 request header 的超时时间。如果客户端在指定时间内没有发送一个完整的 request header,Nginx 返回 HTTP 408(Request Timed Out)。
client_body_temp_path path [level1 [level2 [level3`]]]
在磁盘上客户端的body临时缓冲区位置
client_body_in_file_only on;
把body写入磁盘文件,请求竣事也不会删除
client_body_in_single_buffer
尽量缓冲body的时间在内存中使用一连单一缓冲区,在二次开发时使用$request_body读取数据时性能会有所进步
client_header_buffer_size
设置读取客户端请求头的缓冲区大小
如果一个请求行大概一个请求头字段不能放入这个缓冲区,那么就会使用large_client_header_buffers
large_client_header_buffers
默认8k
2.6、反向署理中的容错机制
2.6.1、参考文档
https://docs.nginx.com/nginx/admin-guide/load-balancer/http-load-balancer/
http://nginx.org/en/docs/stream/ngx_stream_proxy_module.html#proxy_bind
proxy_timeout
2.6.2、重试机制
proxy_next_upstream
作用:
当后端服务器返回指定的错误时,将请求传递到其他服务器。
error与服务器建立毗连,向其传递请求或读取响应头时发生错误;
timeout在与服务器建立毗连,向其传递请求或读取响应头时发生超时;
invalid_header服务器返回空的或无效的响应;
http_500服务器返回代码为500的响应;
http_502服务器返回代码为502的响应;
http_503服务器返回代码为503的响应;
http_504服务器返回代码504的响应;
http_403服务器返回代码为403的响应;
http_404服务器返回代码为404的响应;
http_429服务器返回代码为429的响应;
不相识这个机制,在一样平常开发web服务的时间,就大概会踩坑。
比如有这么一个场景:一个用于导入数据的web页面,上传一个excel,通过读取、处理excel,向数据库中插入数据,处理时间较长(如1分钟),且为同步操作(即处理完成后才返回效果)。暂且岂论这种方式的好坏,若nginx配置的响应等待时间(proxy_read_timeout)为30秒,就会触发超时重试,将请求又打到另一台。如果处理中没有考虑到重复数据的场景,就会发生数据多次重复插入!(当然,这种场景,内网可以通过呆板名访问该服务器进行操作,就可以绕过nginx了,不外外网就没办法了。)
2.7、获取客户端真实IP
2.7.1、X-Real-IP
额外模块,不保举使用
2.7.2、setHeader
- proxy_set_header X-Forwarded-For $remote_addr;
复制代码 2.8、Gzip
作用域 http, server, location
- gzip on;
开关,默认关闭
- gzip_buffers 32 4k|16 8k
缓冲区大小
- gzip_comp_level 1;
压缩等级 1-9,数字越大压缩比越高
- gzip_http_version 1.1;
使用gzip的最小版本
- gzip_min_length
设置将被gzip压缩的响应的最小长度。 长度仅由“Content-Length”响应报头字段确定。
- gzip_proxied 多选
off 为不做限定
作为反向署理时,针对上游服务器返回的头信息进行压缩
expired - 启用压缩,如果header头中包含 “Expires” 头信息
no-cache - 启用压缩,如果header头中包含 “Cache-Control:no-cache” 头信息
no-store - 启用压缩,如果header头中包含 “Cache-Control:no-store” 头信息
private - 启用压缩,如果header头中包含 “Cache-Control:private” 头信息
no_last_modified - 启用压缩,如果header头中不包含 “Last-Modified” 头信息
no_etag - 启用压缩 ,如果header头中不包含 “ETag” 头信息
auth - 启用压缩 , 如果header头中包含 “Authorization” 头信息
any - 无条件启用压缩
- gzip_vary on;
增长一个header,适配老的欣赏器 Vary: Accept-Encoding
- gzip_types
哪些mime范例的文件进行压缩
- gzip_disable
禁止某些欣赏器使用gzip
完整实例
- gzip on;
- gzip_buffers 16 8k;
- gzip_comp_level 6;
- gzip_http_version 1.1;
- gzip_min_length 256;
- gzip_proxied any;
- gzip_vary on;
- gzip_types text/plain application/x-javascript text/css application/xml;
- gzip_types
- text/xml application/xml application/atom+xml application/rss+xml application/xhtml+xml image/svg+xml
- text/javascript application/javascript application/x-javascript
- text/x-json application/json application/x-web-app-manifest+json
- text/css text/plain text/x-component
- font/opentype application/x-font-ttf application/vnd.ms-fontobject
- image/x-icon;
- gzip_disable "MSIE [1-6]\.(?!.*SV1)";
复制代码- HTTP/1.1 200
- Server: nginx/1.21.6
- Date: Wed, 18 May 2022 17:42:35 GMT
- Content-Type: text/html;charset=utf-8
- Content-Length: 7832
- Connection: keep-alive
- Keep-Alive: timeout=65
复制代码 2.9、ngx_http_gunzip_module
帮助不支持gzip的客户端解压本地文件
2.9.1、http_gzip_static_module
需要重新编译nginx
- ./configure --with-http_gzip_static_module
复制代码 2.10、Brotli
安装
- 官网
- https://github.com/google/ngx_brotli
- https://codeload.github.com/google/brotli/tar.gz/refs/tags/v1.0.9
- 下载 两个项目
- 解压缩
模块化编译
- ./configure --with-compat --add-dynamic-module=/root/ngx_brotli-1.0.0rc --prefix=/usr/local/nginx/
复制代码 或
- --add-dynamic-module=brotli目录
复制代码 - make
- 将ngx_http_brotli_filter_module.so ngx_http_brotli_static_module.so拷贝到/usr/local/nginx/modules/
- 复制nginx主程序
- 配置文件中添加
- load_module "/usr/local/nginx/modules/ngx_http_brotli_filter_module.so";
- load_module "/usr/local/nginx/modules/ngx_http_brotli_static_module.so";
复制代码- brotli on;
- brotli_static on;
- brotli_comp_level 6;
- brotli_buffers 16 8k;
- brotli_min_length 20;
- brotli_types text/plain text/css text/javascript application/javascript text/xml application/xml application/xml+rss application/json image/jpeg image/gif image/png;
复制代码 - 测试
默认http协议是没有br的
- curl -H 'Accept-Encoding: gzip' -I http://localhost
复制代码 2.11、合并客户端请求
Concat模块
Tengine
Nginx官方先容
https://www.nginx.com/resources/wiki/modules/concat/
git地址
https://github.com/alibaba/nginx-http-concat
下载源码解压缩编译安装
- 配置
- concat on;
- concat_max_files 30;
复制代码 2.12、资源静态化
- 高并发体系资源静态化方案
- 同等性问题
- 合并文件输出
- 集群文件同步
2.13、SSI合并服务器端文件
官方文档
http://nginx.org/en/docs/http/ngx_http_ssi_module.html
2.13.1、配置
- ssi_min_file_chunk
向磁盘存储并使用sendfile发送,文件大小最小值
- ssi_last_modified
是否保存lastmodified
- ssi_silent_errors
不显示逻辑错误
- ssi_value_length
限定脚本参数最大长度
- ssi_types
默认text/html;如果需要其他mime范例 需要设置
- include file
- <!--# include file="footer.html" -->
复制代码 静态文件直接引用
- include virtual
可以指向location,而不一定是具体文件
- include wait
阻塞请求
- include set
在virtual底子上设置变量
- set
设置临时变量
- block
可以声明一个ssi的命令块,里面可以包裹其他命令
- config errmsg
在模板中配置报错情况
- config timefmt
日期格式化
- echo
直接输出变量
- var变量名称
- encoding 是否使用特殊编码格式
- default 变量没有值的时间使用默认值
- if
逻辑判断
- rsync
https://www.samba.org/ftp/rsync/rsync.html
remote synchronize是一个远程数据同步工具,可通过 LAN/WAN 快速同步多台主机之间的文件。也可以使用 rsync 同步本地硬盘中的不同目录。
rsync 是用于替代 rcp 的一个工具,rsync 使用所谓的 rsync算法 进行数据同步,这种算法只传送两个文件的不同部分,而不是每次都整份传送,因此速度相当快。
rsync 基于inotify 开发
Rsync有三种模式:
- 本地模式(雷同于cp命令)
- 远程模式(雷同于scp命令)
- 保卫历程(socket历程:是rsync的重要功能)
- rsync 常用选项
选项含义-a包含-rtplgoD-r同步目录时要加上,雷同cp时的-r选项-v同步时显示一些信息,让我们知道同步的过程-l保存软毗连-L加上该选项后,同步软链接时会把源文件给同步-p保持文件的权限属性-o保持文件的属主-g保持文件的属组-D保持装备文件信息-t保持文件的时间属性–delete删除DEST中SRC没有的文件–exclude过滤指定文件,如–exclude “logs”会把文件名包含logs的文件大概目录过滤掉,不同步-P显示同步过程,比如速率,比-v更加具体-u加上该选项后,如果DEST中的文件比SRC新,则不同步-z传输时压缩
- 安装
两端安装
- 暗码文件
创建文件/etc/rsync.password
内容
修改权限
- chmod 600 /etc/rsync.password
复制代码 修改配置
- auth users = sgg
- secrets file = /etc/rsyncd.pwd
复制代码 - 开机启动
在/etc/rc.local文件中添加
- 修改权限
echo “sgg:111” >> /etc/rsyncd.passwd
- 查看远程目录
rsync --list-only 192.168.119.128::www/
- 拉取数据到指定目录
rsync -avz rsync://192.168.44.104:873/www
rsync -avz 192.168.44.104::www/ /root/w
- 使用SSH方式
rsync -avzP /usr/local/nginx/html/ root@192.168.44.105:/www/
- 客户端免密
客户端只放暗码
- echo "111" >> /etc/rsyncd.passwd
复制代码 此时在客户端已经可以配合脚本实现定时同步了
- 怎样实现推送?
修改配置
- rsync -avz --password-file=/etc/rsyncd.passwd.client /usr/local/nginx/html/ rsync://sgg@192.168.44.105:/www
复制代码 --delete 删除目的目录比源目录多余文件
- 实时推送
推送端安装inotify
依赖
- wget http://github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz
- ./configure --prefix=/usr/local/inotify
- make && make install
复制代码 监控目录
- /usr/local/inotify/bin/inotifywait -mrq --timefmt '%Y-%m-%d %H:%M:%S' --format '%T %w%f %e' -e close_write,modify,delete,create,attrib,move //usr/local/nginx/html/
复制代码 - 简朴自动化脚本
- #!/bin/bash
- /usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f %e' -e close_write,modify,delete,create,attrib,move //usr/local/nginx/html/ | while read file
- do
-
- rsync -az --delete --password-file=/etc/rsyncd.passwd.client /usr/local/nginx/html/ sgg@192.168.44.102::ftp/
- done
复制代码 - inotify常用参数
参数分析含义-r–recursive#递归查询目录-q–quiet#打印很少的信息,仅仅打印监控事件信息-m–monitor#始终保持事件监听状态–excludei#排除文件或目录时,不区分大小写–timefmt#指定事件输出格式–format#打印使用指定的输出雷同格式字符串-e–event[ -e|–event … ]accessmodifyattribcloseopenmove_tomove createdeleteumount#通过此参数可以指定要监控的事件 #文件或目录被读取#文件或目录的内容被修改#文件或目录属性被改变#文件或目录封闭,无论读/写模式#文件或目录被打开#文件或目录被移动至另外一个目录#文件或目录被移动另一个目录或从另一个目录移动至当前目录#文件或目录被创建在当前目录#文件或目录被删除#文件体系被卸载
3、多级缓存
3.1、静态资源缓存
3.2、欣赏器缓存
3.2.1、什么时间可以用缓存?
- 不常改变的内容
- 过期时间
- 针对post/get请求都可以
- 存储位置
- 磁盘使用空间限定
观察京东缓存及加载速度
- deskcache
字面明白是从内存中,实在也是字面的含义,这个资源是直接从内存中拿到的,不会请求服务器一般已经加载过该资源且缓存在了内存当中,当关闭该页面时,此资源就被内存释放掉了,再次重新打开相同页面时不会出现from memory cache的情况
- memorycache
是从磁盘当中取出的,也是在已经在之前的某个时间加载过该资源,不会请求服务器但是此资源不会随着该页面的关闭而释放掉,因为是存在硬盘当中的,下次打开仍会from disk cache
3.2.2、Age
是CDN添加的属性表如今CDN中缓存了多少秒
3.2.3、via
用来标识CDN缓存履历了哪些服务器,缓存是否掷中,使用的协议
3.3、Nginx默认缓存
Nginx版本不同会默认配置
3.4、强制缓存与协商缓存
强制缓存:直接从本机读取,不请求服务器
协商缓存:发送请求header中携带Last-Modified,服务器大概会返回304 Not Modified
3.5、欣赏器强制缓存
3.5.1、cache-control
http1.1的规范,使用max-age表现文件可以在欣赏器中缓存的时间以秒为单位
标记范例功能public响应头响应的数据可以被缓存,客户端和署理层都可以缓存private响应头可私有缓存,客户端可以缓存,署理层不能缓存(CDN,proxy_pass)no-cache请求头可以使用本地缓存,但是必须发送请求到服务器回源验证no-store请求和响应应禁用缓存max-age请求和响应文件可以在欣赏器中缓存的时间以秒为单位s-maxage请求和响应用户署理层缓存,CDN下发,当客户端数据过期时会重新校验max-stale请求和响应缓存最大使用时间,如果缓存过期,但还在这个时间范围内则可以使用缓存数据min-fresh请求和响应缓存最小使用时间,must-revalidate请求和响应当缓存过期后,必须回源重新请求资源。比no-cache更严酷。因为HTTP 规范是答应客户端在某些特殊情况下直接使用过期缓存的,比如校验请求发送失败的时间。那么带有must-revalidate的缓存必须校验,其他条件全部失效。proxy-revalidate请求和响应和must-revalidate雷同,只对CDN这种署理服务器有效,客户端碰到此头,需要回源验证stale-while-revalidate响应表如今指定时间内可以先使用本地缓存,后台进行异步校验stale-if-error响应在指定时间内,重新验证时返回状态码为5XX的时间,可以用本地缓存only-if-cached响应那么只使用缓存内容,如果没有缓存 则504 getway timeout 在欣赏器和服务器端验证文件是否过期的时间,欣赏器在二次请求的时间会携带IF-Modified-Since属性
3.5.2、Expires
过期时间
- expires 30s; #缓存30秒
- expires 30m; #缓存30分钟
- expires 2h; #缓存2小时
- expires 30d; #缓存30天
复制代码 3.6、协商缓存
3.6.1、last-modified
3.6.2、etag
http1.1支持
在HTTP协议中If-Modified-Since和If-None-Match分别对应Last-Modified和ETag
Entity Tag 的缩写,中文译过来就是实体标签的意思.
HTTP中并没有指定怎样生成ETag,哈希是比力抱负的选择。
在盘算Etag的时间,会产生CPU的淹灭,所以也可以用时间戳,但这样直接使用Last-Modified即可。
ETag 用来校验用户请求的资源是否有变化,作用和lastmodified很像,区别是lastmodified准确到秒,ETag可以用hash算法来生成更准确的比对内容。
当用户初次请求资源的时间返回给用户数据和200状态码并生成ETag,再次请求的时间服务器比对ETag,没有发生变化的话返回304
Cache-Control直接是通过不请求来实现,而ETag是会发请求的,只不外服务器根据请求的东西的内容有无变化来判断是否返回请求的资源
3.7、总结:
3.7.1、cache-control expires 强制缓存
页面初次打开,直接读取缓存数据,刷新,会向服务器发起请求
3.7.2、etag lastmodify 协商缓存
没发生变化 返回304 不发送数据
3.7.3、ast-modified 与ssi的冲突
3.7.4、欣赏器缓存原则
- 多级集群负载时last-modified必须保持同等
- 另有一些场景下我们盼望禁用欣赏器缓存。比如轮训api上报数据数据
- 欣赏器缓存很难彻底禁用,各人的做法是加版本号,随机数等方法。
- 只缓存200响应头的数据,像3XX这类跳转的页面不需要缓存。
- 对于js,css这类可以缓存很久的数据,可以通过加版本号的方式更新内容
- 不需要强同等性的数据,可以缓存几秒
- 异步加载的接口数据,可以使用ETag来校验。
- 在服务器添加Server头,有利于排查错误
- 分为手机APP和Client以及是否遵循http协议
- 在没有联网的状态下可以展示数据
- 流量消耗过多
- 提前下发 避免秒杀时同时下发数据造成流量短时间暴增
- 兜底数据 在服务器瓦解和网络不可用的时间展示
- 临时缓存 退出即清理
- 固定缓存 展示框架这种,大概很长时间不会更新,可用随客户端下发
- 首页有的时间可以看做是框架 应该禁用缓存,以包管加载的资源都是最新的
- 父子毗连 页面跳转时有一部分内容不需要重新加载,可用从父菜单带过来
- 预加载 某些逻辑可用判定用户接下来的操作,那么可用异步加载那些资源
- 漂亮的加载过程 异步加载 先展示框架,然后异步加载内容,避免主线程阻塞
3.8、GEOip
3.8.1、下载数据库
官网需注册登录
下载数据库
maxmind.com
3.8.2、安装依赖
官方git
https://github.com/maxmind/libmaxminddb
下载后执行编译安装之后
- echo /usr/local/lib >> /etc/ld.so.conf.d/local.conf
- ldconfig
复制代码 3.8.3、Nginx模块
https://github.com/leev/ngx_http_geoip2_module
更完整的配置可参考官方文档
http://nginx.org/en/docs/http/ngx_http_geoip_module.html#geoip_proxy
3.8.4、Nginx配置
- geoip2 /root/GeoLite2-ASN_20220524/GeoLite2-ASN.mmdb {
- $geoip2_country_code country iso_code;
- }
- add_header country $geoip2_country_code;
复制代码 3.9、正向署理与反向署理缓存
3.9.1、正向署理配置
- proxy_pass $scheme://$host$request_uri;
- resolver 8.8.8.8;
复制代码 3.9.2、署理https请求
需要第三方模块
https://github.com/chobits/ngx_http_proxy_connect_module
配置
- server {
- listen 3128;
- # dns resolver used by forward proxying
- resolver 8.8.8.8;
- # forward proxy for CONNECT request
- proxy_connect;
- proxy_connect_allow 443 563;
- proxy_connect_connect_timeout 10s;
- proxy_connect_read_timeout 10s;
- proxy_connect_send_timeout 10s;
- # forward proxy for non-CONNECT request
- location / {
- proxy_pass http://$host;
- proxy_set_header Host $host;
- }
- }
复制代码 3.10、proxy缓存
官网解释
http://nginx.org/en/docs/http/ngx_http_proxy_module.html#proxy_cache
3.10.1、配置
- http模块:
- proxy_cache_path /ngx_tmp levels=1:2 keys_zone=test_cache:100m inactive=1d max_size=10g ;
- location模块:
- add_header Nginx-Cache "$upstream_cache_status";
- proxy_cache test_cache;
- proxy_cache_valid 168h;
复制代码 proxy_cache_use_stale
默认off
在什么时间可以使用过期缓存
可选error | timeout | invalid_header | updating | http_500 | http_502 | http_503 | http_504 | http_403 | http_404 | http_429 | off
proxy_cache_background_update
默认off
运行开启子请求更新过期的内容。同时会把过期的内容返回给客户端
proxy_no_cache proxy_cache_bypass
指定什么时间不使用缓存而直接请求上游服务器
- proxy_no_cache $cookie_nocache $arg_nocache$arg_comment;
- proxy_no_cache $http_pragma $http_authorization;
复制代码 如果这些变量如果存在的话不为空大概不等于0,则不使用缓存
proxy_cache_convert_head
默认 on
是否把head请求转换成get请求后再发送给上游服务器 以便缓存body里的内容
如果关闭 需要在 cache key 中添加 $request_method 以便区分缓存内容
proxy_cache_lock
默认off
缓存更新锁
proxy_cache_lock_age
默认5s
缓存锁超时时间
3.10.2、断点续传缓存 range
当有完整的content-length之后即可断点续传
在反向署理服务器中需向后传递header
- proxy_set_header Range $http_range;
复制代码 proxy_cache_key中增长range
proxy_cache_max_range_offset
range最大值,超过之后不做缓存,默认情况下 不需要对单文件较大的资源做缓存
proxy_cache_methods
默认 head get
proxy_cache_min_uses
默认1
被请求多少次之后才做缓存
proxy_cache_path
path 指定存储目录
以cache_key取md5值
目录层级数及目录名称位数
取mdb5后几位
TMPFS
默认创建缓存文件时,先向缓冲区创建临时文件,再移动到缓存目录
是否使用缓冲区
指定时间内未被访问过的缓存将被删除
3.10.3、缓存清理
purger
需要第三方模块支持
https://github.com/FRiCKLE/ngx_cache_purge
配置
- location ~ /purge(/.*) {
- proxy_cache_purge test_cache $1;
- }
- 自定义cachekey
- proxy_cache_key $uri;
复制代码 proxy_cache_key
默认$scheme$proxy_host$request_uri
缓存的key
proxy_cache_revalidate
如果缓存过期了,向上游服务器发送“If-Modified-Since” and “If-None-Match来验证是否改变,如果没有就不需要重新下载资源了
proxy_cache_valid
可以针对不容http状态码设置缓存过期时间
不设置状态码会默认200, 301, 302
- proxy_cache_valid 200 302 10m;
- proxy_cache_valid 301 1h;
- proxy_cache_valid any 1m;
复制代码 any指其他恣意状态码
二、高效
1、Nginx内存缓存
strace
一般应用为静态文件元数据信息缓存
sendfile执行过程
- epoll_wait(8, [{EPOLLIN, {u32=1904243152, u64=140709327827408}}, {EPOLLIN, {u32=1904242704, u64=140709327826960}}], 512, 25215) = 2
- recvfrom(10, "GET / HTTP/1.1\r\nHost: 192.168.44"..., 1024, 0, NULL, NULL) = 475
- stat("/usr/local/nginx//html/index.html", {st_mode=S_IFREG|0644, st_size=1429, ...}) = 0
- open("/usr/local/nginx//html/index.html", O_RDONLY|O_NONBLOCK) = 11
- fstat(11, {st_mode=S_IFREG|0644, st_size=1429, ...}) = 0
- writev(10, [{iov_base="HTTP/1.1 200 OK\r\nServer: nginx/1"..., iov_len=263}], 1) = 263
- sendfile(10, 11, [0] => [1429], 1429) = 1429
- write(4, "192.168.44.1 - - [27/May/2022:14"..., 193) = 193
- close(11)
复制代码 open_file_cache
- open_file_cache max=500 inactive=60s
- open_file_cache_min_uses 1;
- open_file_cache_valid 60s;
- open_file_cache_errors on
复制代码 max缓存最大数目,超过数目后会使用LRU镌汰
inactive 指定时间内未被访问过的缓存将被删除
pen_file_cache_min_uses
被访问到多少次后会开始缓存
open_file_cache_valid
隔断多长时间去查抄文件是否有变化
open_file_cache_errors
对错误信息是否缓存
2、Nginx外置缓存缓存
http://nginx.org/en/docs/http/ngx_http_memcached_module.html
2.1、error_page
指定状态码
- error_page 404 =302 http://www.atguigu.com;
复制代码 默认指向location
2.2、匿名location
2.3、nginx + memcached
2.3.1、memcached安装
yum -y install memcached
默认配置文件在
/etc/sysconfig/memcached
查看状态
- memcached-tool 127.0.0.1:11211 stats
复制代码 2.3.2、nginx配置
- upstream backend {
-
- # server 192.168.44.102 weight=8 down;
- server 192.168.44.104:8080;
- }
- location / {
- set $memcached_key "$uri?$args";
- memcached_pass 127.0.0.1:11211;
- add_header X-Cache-Satus HIT;
- add_header Content-Type 'text/html; charset=utf-8'; # 强制响应数据格式为html
- # root html;
- }
复制代码 2.4、nginx + redis
2.4.1、Redis安装
7.0下载地址
https://codeload.github.com/redis/redis/tar.gz/refs/tags/7.0.0
安装
- 依赖
- yum install -y tcl-devel
- 解压
- make
- make install
复制代码 2.4.2、redis2-nginx-module
redis2-nginx-module是一个支持 Redis 2.0 协议的 Nginx upstream 模块,它可以让 Nginx 以非阻塞方式直接防问远方的 Redis 服务,同时支持 TCP 协议和 Unix Domain Socket 模式,并且可以启用强盛的 Redis 毗连池功能。
https://www.nginx.com/resources/wiki/modules/redis2/
https://github.com/openresty/redis2-nginx-module
redis快速安装
- yum install epel-release
- yum install -y redis
复制代码 redis2-nginx-module 安装
- test
- location = /foo {
- default_type text/html;
- redis2_query auth 123123;
- set $value 'first';
- redis2_query set one $value;
- redis2_pass 192.168.199.161:6379;
- }
复制代码 - get
- location = /get {
- default_type text/html;
- redis2_pass 192.168.199.161:6379;
- redis2_query auth 123123;
- set_unescape_uri $key $arg_key; # this requires ngx_set_misc
- redis2_query get $key;
- }
复制代码 - set
- # GET /set?key=one&val=first%20value
- location = /set {
- default_type text/html;
- redis2_pass 192.168.199.161:6379;
- redis2_query auth 123123;
-
- set_unescape_uri $key $arg_key; # this requires ngx_set_misc
- set_unescape_uri $val $arg_val; # this requires ngx_set_misc
- redis2_query set $key $val;
- }
复制代码 - pipeline
- set $value 'first';
- redis2_query set one $value;
- redis2_query get one;
- redis2_query set one two;
- redis2_query get one;
- redis2_query del key1;
复制代码 - list
- redis2_query lpush key1 C;
- redis2_query lpush key1 B;
- redis2_query lpush key1 A;
- redis2_query lrange key1 0 -1;
复制代码 - 集群
- upstream redis_cluster {
- server 192.168.199.161:6379;
- server 192.168.199.161:6379;
- }
- location = /redis {
- default_type text/html;
- redis2_next_upstream error timeout invalid_response;
- redis2_query get foo;
- redis2_pass redis_cluster;
- }
复制代码 3、Stream模块
http://nginx.org/en/docs/stream/ngx_stream_core_module.html
3.1、限流
3.1.1、QPS限定
官方文档
http://nginx.org/en/docs/http/ngx_http_limit_req_module.html
测试工具
https://jmeter.apache.org/
配置
- limit_req_zone $binary_remote_addr zone=test:10m rate=15r/s;
- limit_req zone=req_zone_wl burst=20 nodelay;
复制代码 3.1.2、日志
3.1.3、ngx_http_log_module
http://nginx.org/en/docs/http/ngx_http_log_module.html
1)、ngx_http_empty_gif_module
http://nginx.org/en/docs/http/ngx_http_empty_gif_module.html
2)、json
- log_format ngxlog json '{"timestamp":"$time_iso8601",'
- '"source":"$server_addr",'
- '"hostname":"$hostname",'
- '"remote_user":"$remote_user",'
- '"ip":"$http_x_forwarded_for",'
- '"client":"$remote_addr",'
- '"request_method":"$request_method",'
- '"scheme":"$scheme",'
- '"domain":"$server_name",'
- '"referer":"$http_referer",'
- '"request":"$request_uri",'
- '"requesturl":"$request",'
- '"args":"$args",'
- '"size":$body_bytes_sent,'
- '"status": $status,'
- '"responsetime":$request_time,'
- '"upstreamtime":"$upstream_response_time",'
- '"upstreamaddr":"$upstream_addr",'
- '"http_user_agent":"$http_user_agent",'
- '"http_cookie":"$http_cookie",'
- '"https":"$https"'
- '}';
复制代码 3)、errorlog
http://nginx.org/en/docs/ngx_core_module.html#error_log
4)、日志分割
3.1.4、重试机制
http://nginx.org/en/docs/http/ngx_http_proxy_module.html#proxy_next_upstream
max_fails
最大失败次数
0为标记一直可用,不查抄健康状态
fail_timeout
失败时间
当fail_timeout时间内失败了max_fails次,标记服务不可用
fail_timeout时间后会再次激活次服务
proxy_next_upstream
proxy_next_upstream_timeout
重试最大超时时间
proxy_next_upstream_tries
重试次数,包罗第一次
proxy_next_upstream_timeout时间内答应proxy_next_upstream_tries次重试
3.1.5、主动健康查抄
tengine版
https://github.com/yaoweibin/nginx_upstream_check_module
nginx贸易版
http://nginx.org/en/docs/http/ngx_http_upstream_hc_module.html
3.1.6、配置
- upstream backend {
- server 192.168.119.128:8080;
- server 192.168.119.129:8080;
- check interval=3000 rise=2 fall=5 timeout=1000 type=http;
- check_http_send "HEAD / HTTP/1.0\r\n\r\n";
- check_http_expect_alive http_2xx http_3xx;
- }
- location /status {
- check_status;
- access_log off;
- }
- location / {
- proxy_pass http://backend;
- root html;
- }
复制代码 4、Openresty
4.1、Lua
Lua 是由巴西里约热内卢天主教大学(Pontifical Catholic University of Rio de Janeiro)里的一个研究小组于1993年开发的一种轻量、小巧的脚本语言,用标准 C 语言编写,其设计目的是为了嵌入应用程序中,从而为应用程序提供灵活的扩展和定制功能。
官网:http://www.lua.org/
4.2、IDE
4.2.1、EmmyLua插件
https://github.com/EmmyLua/IntelliJ-EmmyLua
https://emmylua.github.io/zh_CN/
4.2.2、LDT 基于eclipse
https://www.eclipse.org/ldt/
4.3、Lua底子语法
4.3.1、hello world
4.3.2、保存关键字
and break do else elseif end false for function if in local nil not or repeat return then true until while
注释
- -- 两个减号是行注释
- --[[
- 这是块注释
- 这是块注释.
- --]]
复制代码 4.3.3、变量
1)、数字范例
Lua的数字只有double型,64bits
你可以以如下的方式表现数字
- num = 1024
- num = 3.0
- num = 3.1416
- num = 314.16e-2
- num = 0.31416E1
- num = 0xff
- num = 0x56
复制代码 2)、字符串
可以用单引号,也可以用双引号
也可以使用转义字符‘\n’ (换行), ‘\r’ (回车), ‘\t’ (横向制表), ‘\v’ (纵向制表), ‘\’ (反斜杠), ‘\”‘ (双引号), 以及 ‘\” (单引号)等等
下面的四种方式界说了完全相同的字符串(此中的两个中括号可以用于界说有换行的字符串)
- a = 'alo\n123"'
- a = "alo\n123""
- a = '\97lo\10\04923"'
- a = [[alo
- 123"]]
复制代码 3)、空值
C语言中的NULL在Lua中是nil,比如你访问一个没有声明过的变量,就是nil
4)、布尔范例
只有nil和false是 false
数字0,‘’空字符串(’\0’)都是true
5)、作用域
lua中的变量如果没有特殊分析,满是全局变量,那怕是语句块或是函数里。
变量前加local关键字的是局部变量。
4.3.4、控制语句
1)、while循环
- local i = 0
- local max = 10
- while i <= max do
- print(i)
- i = i +1
- end
复制代码 2)、if-else
- local function main()
- local age = 140
- local sex = 'Male'
-
- if age == 40 and sex =="Male" then
- print(" 男人四十一枝花 ")
- elseif age > 60 and sex ~="Female" then
-
- print("old man!!")
- elseif age < 20 then
- io.write("too young, too simple!\n")
-
- else
- print("Your age is "..age)
- end
- end
- -- 调用
- main()
复制代码 3)、for循环
- sum = 0
- for i = 100, 1, -2 do
- sum = sum + i
- end
复制代码 4.3.5、函数
- function myPower(x,y)
- return y+x
- end
- power2 = myPower(2,3)
- print(power2)
复制代码- function newCounter()
- local i = 0
- return function() -- anonymous function
- i = i + 1
- return i
- end
- end
-
- c1 = newCounter()
- print(c1()) --> 1
- print(c1()) --> 2
- print(c1())
复制代码 4.3.6、返回值
- name, age,bGay = "yiming", 37, false, "yimingl@hotmail.com"
- print(name,age,bGay)
复制代码- function isMyGirl(name)
- return name == 'xiao6' , name
- end
- local bol,name = isMyGirl('xiao6')
- print(name,bol)
复制代码 4.3.6、Table
key,value的键值对 雷同 map
- local function main()
- dog = {name='111',age=18,height=165.5}
- dog.age=35
- print(dog.name,dog.age,dog.height)
- print(dog)
- end
- main()
复制代码 4.3.6、数组
- local function main()
- arr = {"string", 100, "dog",function() print("wangwang!") return 1 end}
- print(arr[4]())
- end
- main()
复制代码 4.3.7、遍历
- arr = {"string", 100, "dog",function() print("wangwang!") return 1 end}
- for k, v in pairs(arr) do
- print(k, v)
- end
复制代码 4.3.8、成员函数
- local function main()
- person = {name='旺财',age = 18}
- function person.eat(food)
- print(person.name .." eating "..food)
- end
- person.eat("骨头")
- end
- main()
复制代码 5、Openresty Nginx + Lua
Nginx是一个主历程配合多个工作历程的工作模式,每个历程由单个线程来处理多个毗连。
在生产环境中,我们往往会把cpu内核直接绑定到工作历程上,从而提升性能。
5.1、安装
5.1.1、预编译安装
以CentOS举例 其他体系参照:http://openresty.org/cn/linux-packages.html
你可以在你的 CentOS 体系中添加 openresty 堆栈,这样就可以便于将来安装或更新我们的软件包(通过 yum update 命令)。运行下面的命令就可以添加我们的堆栈:
- yum install yum-utils
- yum-config-manager --add-repo https://openresty.org/package/centos/openresty.repo
然后就可以像下面这样安装软件包,比如 openresty:
- yum install openresty
如果你想安装命令行工具 resty,那么可以像下面这样安装 openresty-resty 包:
- sudo yum install openresty-resty
5.1.2、源码编译安装
5.1.3、下载
http://openresty.org/cn/download.html
最小版本基于nginx1.21
./configure
然后在进入 openresty-VERSION/ 目录, 然后输入以下命令配置:
./configure
默认, --prefix=/usr/local/openresty 程序会被安装到/usr/local/openresty目录。
依赖 gcc openssl-devel pcre-devel zlib-devel
安装:yum install gcc openssl-devel pcre-devel zlib-devel postgresql-devel
您可以指定各种选项,比如
- ./configure --prefix=/opt/openresty \
- --with-luajit \
- --without-http_redis2_module \
- --with-http_iconv_module \
- --with-http_postgres_module
复制代码 试着使用 ./configure --help 查看更多的选项。
make && make install
5.1.4、服务命令
启动
Service openresty start
制止
Service openresty stop
查抄配置文件是否精确
Nginx -t
重新加载配置文件
Service openresty reload
查看已安装模块和版本号
Nginx -V
5.2、测试lua脚本
在Nginx.conf 中写入
- location /lua {
- default_type text/html;
- content_by_lua '
- ngx.say("<p>Hello, World!</p>")
- ';
- }
复制代码 5.3、lua-nginx-module
- 创建配置文件lua.conf
- server {
- listen 80;
- server_name localhost;
- location /lua {
- default_type text/html;
- content_by_lua_file conf/lua/hello.lua;
- }
- }
复制代码 - 在Nginx.conf下引入lua配置
include lua.conf;
- 创建外部lua脚本
conf/lua/hello.lua
内容:
ngx.say("<p>Hello, World!</p>")
- 获取Nginx uri中的单一变量
- location /nginx_var {
- default_type text/html;
- content_by_lua_block {
- ngx.say(ngx.var.arg_a)
- }
- }
复制代码 - 获取Nginx uri中的所有变量
- local uri_args = ngx.req.get_uri_args()
- for k, v in pairs(uri_args) do
- if type(v) == "table" then
- ngx.say(k, " : ", table.concat(v, ", "), "<br/>")
- else
- ngx.say(k, ": ", v, "<br/>")
- end
- end
复制代码 - 在处理http请求时还可以使用
- set_by_lua
修改nginx变量
- rewrite_by_lua
修改uri
- access_by_lua
访问控制
- header_filter_by_lua
修改响应头
- boy_filter_by_lua
修改响应体
- log_by_lua
日志
- 代码热部署
- 获取Nginx请求头信息
- local headers = ngx.req.get_headers()
- ngx.say("Host : ", headers["Host"], "<br/>")
- ngx.say("user-agent : ", headers["user-agent"], "<br/>")
- ngx.say("user-agent : ", headers.user_agent, "<br/>")
- for k,v in pairs(headers) do
- if type(v) == "table" then
- ngx.say(k, " : ", table.concat(v, ","), "<br/>")
- else
- ngx.say(k, " : ", v, "<br/>")
- end
- end
复制代码 - 获取post请求参数
- ngx.req.read_body()
- ngx.say("post args begin", "<br/>")
- local post_args = ngx.req.get_post_args()
- for k, v in pairs(post_args) do
- if type(v) == "table" then
- ngx.say(k, " : ", table.concat(v, ", "), "<br/>")
- else
- ngx.say(k, ": ", v, "<br/>")
- end
- end
复制代码 - http协议版本
- ngx.say("ngx.req.http_version : ", ngx.req.http_version(), "<br/>")
复制代码 - 请求方法
- ngx.say("ngx.req.get_method : ", ngx.req.get_method(), "<br/>")
复制代码 - 原始的请求头内容
- ngx.say("ngx.req.raw_header : ", ngx.req.raw_header(), "<br/>")
复制代码 - body内容体
- ngx.say("ngx.req.get_body_data() : ", ngx.req.get_body_data(), "<br/>")
复制代码 5.4、Nginx缓存
5.4.1、Nginx全局内存缓存
- lua_shared_dict shared_data 1m;
- local shared_data = ngx.shared.shared_data
- local i = shared_data:get("i")
- if not i then
- i = 1
- shared_data:set("i", i)
- ngx.say("lazy set i ", i, "<br/>")
- end
-
- i = shared_data:incr("i", 1)
- ngx.say("i=", i, "<br/>")
复制代码 5.4.2、lua-resty-lrucache
Lua 实现的一个简朴的 LRU 缓存,得当在 Lua 空间里直接缓存较为复杂的 Lua 数据结构:它相比 ngx_lua 共享内存字典可以省去较昂贵的序列化操作,相比 memcached 这样的外部服务又能省去较昂贵的 socket 操作
https://github.com/openresty/lua-resty-lrucache
引用lua文件
- content_by_lua_block {
- require("my/cache").go()
- }
复制代码 自界说函数
- local _M = {}
- lrucache = require "resty.lrucache"
- c, err = lrucache.new(200) -- allow up to 200 items in the cache
- ngx.say("count=init")
- if not c then
- error("failed to create the cache: " .. (err or "unknown"))
- end
- function _M.go()
- count = c:get("count")
- c:set("count",100)
- ngx.say("count=", count, " --<br/>")
- if not count then
- c:set("count",1)
- ngx.say("lazy set count ", c:get("count"), "<br/>")
- else
- c:set("count",count+1)
-
- ngx.say("count=", count, "<br/>")
- end
- end
- return _M
复制代码 打开lua_code_cache
5.5、lua-resty-redis访问redis
https://github.com/openresty/lua-resty-redis
5.5.1、常用方法
- local res, err = red:get("key")
- local res, err = red:lrange("nokey", 0, 1)
- ngx.say("res:",cjson.encode(res))
复制代码 5.5.2、创建毗连
- red, err = redis:new()
- ok, err = red:connect(host, port, options_table?)
复制代码
- timeout
- keepalive
- red:set_keepalive(max_idle_timeout, pool_size)
复制代码 - close
- pipeline
- red:init_pipeline()
- results, err = red:commit_pipeline()
复制代码 - 认证
- local res, err = red:auth("foobared")
- if not res then
- ngx.say("failed to authenticate: ", err)
- return
- end
复制代码- local redis = require "resty.redis"
- local red = redis:new()
- red:set_timeouts(1000, 1000, 1000) -- 1 sec
- local ok, err = red:connect("127.0.0.1", 6379)
- if not ok then
- ngx.say("failed to connect: ", err)
- return
- end
- ok, err = red:set("dog", "an animal")
- if not ok then
- ngx.say("failed to set dog: ", err)
- return
- end
- ngx.say("set result: ", ok)
- local res, err = red:get("dog")
- if not res then
- ngx.say("failed to get dog: ", err)
- return
- end
- if res == ngx.null then
- ngx.say("dog not found.")
- return
- end
- ngx.say("dog: ", res)
复制代码 - redis-cluster支持
https://github.com/steve0511/resty-redis-cluster
5.6、redis2-nginx-module
redis2-nginx-module是一个支持 Redis 2.0 协议的 Nginx upstream 模块,它可以让 Nginx 以非阻塞方式直接防问远方的 Redis 服务,同时支持 TCP 协议和 Unix Domain Socket 模式,并且可以启用强盛的 Redis 毗连池功能。
- test
- location = /foo {
- default_type text/html;
- redis2_query auth 123123;
- set $value 'first';
- redis2_query set one $value;
- redis2_pass 192.168.199.161:6379;
- }
复制代码 - get
- location = /get {
- default_type text/html;
- redis2_pass 192.168.199.161:6379;
- redis2_query auth 123123;
- set_unescape_uri $key $arg_key; # this requires ngx_set_misc
- redis2_query get $key;
- }
复制代码 - set
- # GET /set?key=one&val=first%20value
- location = /set {
- default_type text/html;
- redis2_pass 192.168.199.161:6379;
- redis2_query auth 123123;
-
- set_unescape_uri $key $arg_key; # this requires ngx_set_misc
- set_unescape_uri $val $arg_val; # this requires ngx_set_misc
- redis2_query set $key $val;
- }
复制代码 - pipeline
- set $value 'first';
- redis2_query set one $value;
- redis2_query get one;
- redis2_query set one two;
- redis2_query get one;
- redis2_query del key1;
复制代码 - list
- redis2_query lpush key1 C;
- redis2_query lpush key1 B;
- redis2_query lpush key1 A;
- redis2_query lrange key1 0 -1;
复制代码 - 集群
- upstream redis_cluster {
- server 192.168.199.161:6379;
- server 192.168.199.161:6379;
- }
- location = /redis {
- default_type text/html;
- redis2_next_upstream error timeout invalid_response;
- redis2_query get foo;
- redis2_pass redis_cluster;
- }
复制代码 5.7、lua-resty-mysql
https://github.com/openresty/lua-resty-mysql
- local mysql = require "resty.mysql"
- local db, err = mysql:new()
- if not db then
- ngx.say("failed to instantiate mysql: ", err)
- return
- end
- db:set_timeout(1000) -- 1 sec
- local ok, err, errcode, sqlstate = db:connect{
- host = "192.168.44.211",
- port = 3306,
- database = "zhangmen",
- user = "root",
- password = "111111",
- charset = "utf8",
- max_packet_size = 1024 * 1024,
- }
- ngx.say("connected to mysql.<br>")
- local res, err, errcode, sqlstate = db:query("drop table if exists cats")
- if not res then
- ngx.say("bad result: ", err, ": ", errcode, ": ", sqlstate, ".")
- return
- end
- res, err, errcode, sqlstate =
- db:query("create table cats "
- .. "(id serial primary key, "
- .. "name varchar(5))")
- if not res then
- ngx.say("bad result: ", err, ": ", errcode, ": ", sqlstate, ".")
- return
- end
- ngx.say("table cats created.")
- res, err, errcode, sqlstate =
- db:query("select * from t_emp")
- if not res then
- ngx.say("bad result: ", err, ": ", errcode, ": ", sqlstate, ".")
- return
- end
- local cjson = require "cjson"
- ngx.say("result: ", cjson.encode(res))
- local ok, err = db:set_keepalive(10000, 100)
- if not ok then
- ngx.say("failed to set keepalive: ", err)
- return
- end
-
复制代码 6、模板实时渲染 lua-resty-template
https://github.com/bungle/lua-resty-template
如果学习过JavaEE中的servlet和JSP的话,应该知道JSP模板最终会被翻译成Servlet来执行;
而lua-resty-template模板引擎可以以为是JSP,其最终会被翻译成Lua代码,然后通过ngx.print输出。
lua-resty-template大体内容有:
l 模板位置:从那边查找模板;
l 变量输出/转义:变量值输出;
l 代码片段:执行代码片段,完成如if/else、for等复杂逻辑,调用对象函数/方法;
l 注释:解释代码片段含义;
l include:包含另一个模板片段;
l 其他:lua-resty-template还提供了不需要剖析片段、简朴布局、可复用的代码块、宏指令等支持。
底子语法
l {(include_file)}:包含另一个模板文件;
l {* var *}:变量输出;
l {{ var }}:变量转义输出;
l {% code %}:代码片段;
l {# comment #}:注释;
l {-raw-}:中心的内容不会剖析,作为纯文本输出;
6.1、lua代码热加载
在http模块中加入
reload后Nginx会提示影响性能,记得在生产环境中关掉。
6.2、测试
6.2.1、初始化
- -- Using template.new
- local template = require "resty.template"
- local view = template.new "view.html"
- view.message = "Hello, World!"
- view:render()
- -- Using template.render
- -- template.render("view.html", { message = "Hel11lo, Worl1d!" })
复制代码 6.2.2、执行函数,得到渲染之后的内容
- local func = template.compile("view.html")
- local content = func(context)
- ngx.say("xx:",content)
复制代码 模板文件存放位置
nginx.conf中配置
- set $template_root /usr/local/openresty/nginx/tmp;
复制代码 6.2.3、resty.template.html
- local template = require("resty.template")
- local html = require "resty.template.html"
- template.render([[
- <ul>
- {% for _, person in ipairs(context) do %}
- {*html.li(person.name)*} --
- {% end %}
- </ul>
- <table>
- {% for _, person in ipairs(context) do %}
- <tr data-sort="{{(person.name or ""):lower()}}">
- {*html.td{ id = person.id }(person.name)*}
- </tr>
- {% end %}
- </table>]], {
- { id = 1, name = "Emma"},
- { id = 2, name = "James" },
- { id = 3, name = "Nicholas" },
- { id = 4 }
- })
复制代码 6.2.4、模板内容
- <!DOCTYPE html>
- <html>
- <body>
- <h1>{{message}}</h1>
- </body>
- </html>
复制代码 6.2.5、多值传入
- template.caching(false)
- local template = require("resty.template")
- local context = {
- name = "lucy",
- age = 50,
- }
- template.render("view.html", context)
复制代码 6.2.6、模板内容
- <!DOCTYPE html>
- <html>
- <body>
- <h1>name:{{name}}</h1>
- <h1>age:{{age}}</h1>
- </body>
- </html>
复制代码 6.2.7、模板管理与缓存
模板缓存:默认开启,开发环境可以手动关闭
template.caching(true)
模板文件需要业务体系更新与维护,当模板文件更新后,可以通过模板版本号或消息通知Openresty清空缓存重载模板到内存中
template.cache = {}
6.2.8、完整页面
- local template = require("resty.template")
- template.caching(false)
- local context = {
- title = "测试",
- name = "lucy",
- description = "<script>alert(1);</script>",
- age = 40,
- hobby = {"电影", "音乐", "阅读"},
- score = {语文 = 90, 数学 = 80, 英语 = 70},
- score2 = {
- {name = "语文", score = 90},
- {name = "数学", score = 80},
- {name = "英语", score = 70},
- }
- }
- template.render("view.html", context)
复制代码 6.2.9、模板
- {(header.html)}
- <body>
- {# 不转义变量输出 #}
- 姓名:{* string.upper(name) *}<br/>
- {# 转义变量输出 #}
- 简介:{{description}}
- 简介:{* description *}<br/>
- {# 可以做一些运算 #}
- 年龄: {* age + 10 *}<br/>
- {# 循环输出 #}
- 爱好:
- {% for i, v in ipairs(hobby) do %}
- {% if v == '电影' then %} - xxoo
-
- {%else%} - {* v *}
- {% end %}
-
- {% end %}<br/>
-
- 成绩:
- {% local i = 1; %}
- {% for k, v in pairs(score) do %}
- {% if i > 1 then %},{% end %}
- {* k *} = {* v *}
- {% i = i + 1 %}
- {% end %}<br/>
- 成绩2:
- {% for i = 1, #score2 do local t = score2[i] %}
- {% if i > 1 then %},{% end %}
- {* t.name *} = {* t.score *}
- {% end %}<br/>
- {# 中间内容不解析 #}
- {-raw-}{(file)}{-raw-}
- {(footer.html)}
复制代码 6.2.10、layout 布局统一风格
使用模板内容嵌套可以实现全站风格同一布局
1)、lua
local template = require "resty.template"
一、
- local layout = template.new "layout.html"
- layout.title = "Testing lua-resty-template"
- layout.view = template.compile "view.html" { message = "Hello, World!" }
- layout:render()
复制代码 二、
- template.render("layout.html", {
- title = "Testing lua-resty-template",
- msg = "type=2",
- view = template.compile "view.html" { message = "Hello, World!" }
- })
复制代码 三、
此方式重名变量值会被覆盖
- local view = template.new("view.html", "layout.html")
- view.title = "Testing lua-resty-template"
- view.msg = "type=3"
- view.message = "Hello, World!"
- view:render()
复制代码 四、
可以区分一下
- local layout = template.new "layout.html"
- layout.title = "Testing lua-resty-template"
- layout.msg = "type=4"
- local view = template.new("view.html", layout)
- view.message = "Hello, World!"
- view:render()
复制代码 2)、layout.html
- <!DOCTYPE html>
- <html>
- <head>
- <title>{{title}}</title>
- </head>
- <h1>layout</h1>
- <body>
- {*view*}
- </body>
- </html>
复制代码 3)、view.html·
msg:{{message}}
4)、多级嵌套
lua
- local view = template.new("view.html", "layout.html")
- view.title = "Testing lua-resty-template"
- view.message = "Hello, World!"
- view:render()
- view.html
- {% layout="section.html" %}
复制代码 section.html
- <div id="section">
- <h1>msg:{{message}}</h1>
- {*view*} - sss
- </div>
复制代码 layout.html
- <!DOCTYPE html>
- <html>
- <head>
- <title>{{title}}</title>
- </head>
- <h1>layout {{msg}}</h1>
- <body>
- {*view*}
- </body>
- </html>
复制代码 6.2.11、Redis缓存+mysql+模板输出
lua
- cjson = require "cjson"
- sql="select * from t_emp"
- local redis = require "resty.redis"
- local red = redis:new()
- red:set_timeouts(1000, 1000, 1000) -- 1 sec
- local ok, err = red:connect("127.0.0.1", 6379)
- if not ok then
- ngx.say("failed to connect: ", err)
- return
- end
-
- local res, err = red:get(sql)
- if not res then
- ngx.say("failed to get sql: ", err)
- return
- end
- if res == ngx.null then
- ngx.say("sql"..sql.." not found.")
- --mysql查询
- local mysql = require "resty.mysql"
- local db, err = mysql:new()
- if not db then
- ngx.say("failed to instantiate mysql: ", err)
- return
- end
- db:set_timeout(1000) -- 1 sec
- local ok, err, errcode, sqlstate = db:connect{
- host = "192.168.44.211",
- port = 3306,
- database = "zhangmen",
- user = "root",
- password = "111111",
- charset = "utf8",
- max_packet_size = 1024 * 1024,
- }
- ngx.say("connected to mysql.<br>")
- res, err, errcode, sqlstate =
- db:query(sql)
- if not res then
- ngx.say("bad result: ", err, ": ", errcode, ": ", sqlstate, ".")
- return
- end
- --ngx.say("result: ", cjson.encode(res))
- ok, err = red:set(sql, cjson.encode(res))
- if not ok then
- ngx.say("failed to set sql: ", err)
- return
- end
- ngx.say("set result: ", ok)
- return
- end
- local template = require("resty.template")
- template.caching(false)
- local context = {
- title = "测试",
- name = "lucy",
- description = "<script>alert(1);</script>",
- age = 40,
- hobby = {"电影", "音乐", "阅读"},
- score = {语文 = 90, 数学 = 80, 英语 = 70},
- score2 = {
- {name = "语文", score = 90},
- {name = "数学", score = 80},
- {name = "英语", score = 70},
- },
- zhangmen=cjson.decode(res)
- }
- template.render("view.html", context)
复制代码 模板
- {(header.html)}
- <body>
- {# 不转义变量输出 #}
- 姓名:{* string.upper(name) *}<br/>
- {# 转义变量输出 #}
- 年龄: {* age + 10 *}<br/>
- {# 循环输出 #}
- 爱好:
- {% for i, v in ipairs(hobby) do %}
- {% if v == '电影' then %} - xxoo
-
- {%else%} - {* v *}
- {% end %}
-
- {% end %}<br/>
-
- 成绩:
- {% local i = 1; %}
- {% for k, v in pairs(score) do %}
- {% if i > 1 then %},{% end %}
- {* k *} = {* v *}
- {% i = i + 1 %}
- {% end %}<br/>
- 成绩2:
- {% for i = 1, #score2 do local t = score2[i] %}
- {% if i > 1 then %},{% end %}
- {* t.name *} = {* t.score *}
- {% end %}<br/>
- {# 中间内容不解析 #}
- {-raw-}{(file)}{-raw-}
- 掌门:
- {* zhangmen *}
- {% for i = 1, #zhangmen do local z = zhangmen[i] %}
- {* z.deptId *},{* z.age *},{* z.name *},{* z.empno *},<br>
- {% end %}<br/>
- {(footer.html)}
复制代码 7、Lua 开源项目
7.1、WAF
https://github.com/unixhot/waf
https://github.com/loveshell/ngx_lua_waf
l 防止 SQL 注入,本地包含,部分溢出,fuzzing 测试,XSS/SSRF 等 Web 攻击
l 防止 Apache Bench 之类压力测试工具的攻击
l 屏蔽常见的扫描黑客工具,扫描器
l 屏蔽图片附件类目录执行权限、防止 webshell 上传
l 支持 IP 白名单和黑名单功能,直接将黑名单的 IP 访问拒绝
l 支持 URL 白名单,将不需要过滤的 URL 进行界说
l 支持 User-Agent 的过滤、支持 CC 攻击防护、限定单个 URL 指定时间的访问次数
l 支持支持 Cookie 过滤,URL 与 URL 参数过滤
l 支持日志记录,将所有拒绝的操作,记录到日志中去
7.2、Kong 基于Openresty的流量网关
https://konghq.com/
https://github.com/kong/kong
Kong 基于 OpenResty,是一个云原生、快速、可扩展、分布式的微服务抽象层(Microservice Abstraction Layer),也叫 API 网关(API Gateway),在 Service Mesh 里也叫 API 中心件(API Middleware)。
Kong 开源于 2015 年,核心代价在于高性能和扩展性。从环球 5000 强的构造统计数据来看,Kong 是如今依然在维护的,在生产环境使用最广泛的 API 网关。
Kong 宣称本身是世界上最盛行的开源微服务 API 网关(The World’s Most Popular Open Source Microservice API Gateway)。
核心优势:
l 可扩展:可以方便的通过添加节点水平扩展,这意味着可以在很低的延迟下支持很大的体系负载。
l 模块化:可以通过添加新的插件来扩展 Kong 的能力,这些插件可以通过 RESTful Admin API 来安装和配置。
l 在任何底子架构上运行:Kong 可以在任何地方都能运行,比如在云或肴杂环境中部署 Kong,单个或环球的数据中心。
7.3、APISIX
7.4、ABTestingGateway
https://github.com/CNSRE/ABTestingGateway
ABTestingGateway 是一个可以动态设置分流策略的网关,关注与灰度发布相干范畴,基于 Nginx 和 ngx-lua 开发,使用 Redis 作为分流策略数据库,可以实现动态调理功能。
ABTestingGateway 是新浪微博内部的动态路由体系 dygateway 的一部分,如今已经开源。在以往的基于 Nginx 实现的灰度体系中,分流逻辑往往通过 rewrite 阶段的 if 和 rewrite 指令等实现,长处是性能较高,缺点是功能受限、容易堕落,以及转发规则固定,只能静态分流。ABTestingGateway 则接纳 ngx-lua,通过启用 lua-shared-dict 和 lua-resty-lock 作为体系缓存和缓存锁,体系得到了较为接近原生 Nginx 转发的性能。
l 支持多种分流方式,如今包罗 iprange、uidrange、uid 尾数和指定uid分流
l 支持多级分流,动态设置分流策略,即时见效,无需重启
l 可扩展性,提供了开发框架,开发者可以灵活添加新的分流方式,实现二次开发
l 高性能,压测数据接近原生 Nginx 转发
l 灰度体系配置写在 Nginx 配置文件中,方便管理员配置
l 实用于多种场景:灰度发布、AB 测试和负载均衡等
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。 |