立山 发表于 4 天前

Linux云计算 |【第二阶段】SECURITY-DAY3

主要内容:

Prometheus监控服务器、Prometheus被监控端、Grafana监控可视化

   补充:Zabbix监控软件不自带LNMP和DB数据库,需要自行手动安装配置;Prometheus监控软件自带WEB页面和DB数据库;Prometheus数据库为时序数据库,Zabbix数据库为关系型数据库;

一、Prometheus概述

Prometheus 是一个开源的体系监控和警报工具包,最初由 SoundCloud 开发,并于2012年首次发布。Prometheus 在2016年加入云原生计算基金会(CNCF),成为继 Kubernetes 之后的第二个托管项目。Prometheus 以其强盛的数据模子、灵活的查询语言和高效的存储机制而闻名,已成为云原生和容器化情况中的监控尺度之一。

主要功能:
   数据模子:


[*]Prometheus 接纳时间序列数据模子,存储多维度的度量指标。
[*]每个时间序列由指标名称和一组键值对(标签)唯一标识。
查询语言:


[*]Prometheus 提供了一种名为 PromQL(Prometheus Query Language)的强盛查询语言,用于实时查询和分析时间序列数据。
[*]PromQL 支持复杂的查询、聚合和数据转换操作。
数据收集:


[*]Prometheus 通过拉取(pull)模子从目的体系收集数据,目的体系通常通过 HTTP 接口暴露度量指标。
[*]支持通过中间署理(如 Pushgateway)处理推送(push)模子。
告警管理:


[*]Prometheus 提供了一个独立的告警管理组件,称为 Alertmanager,用于处理、去重、分组和路由告警。
[*]Alertmanager 支持多种通知方式,包括电子邮件、Slack、PagerDuty 等。
可视化:


[*]Prometheus 自带一个简朴的图形界面,用于根本的数据查察和查询。
[*]通常与 Grafana 集成,提供更强盛的可视化和仪表板功能。
存储:


[*]Prometheus 将数据存储在本地磁盘上,接纳自界说的存储引擎,高效地处理大量时间序列数据。
[*]支持通过远程存储接口与外部存储体系集成。

Prometheus架构图:
https://i-blog.csdnimg.cn/direct/b910c42797ae47489800ecaaf69831e3.png
Prometheus 的架构主要包括以下组件:


[*]Prometheus Server:核心组件,负责数据收集、存储和查询。
[*]Exporters:用于暴露现有应用程序或体系的度量指标,如 Node Exporter、MySQL Exporter 等。
[*]Pushgateway:用于处理短期使命或批处理作业的度量指标推送。
[*]Alertmanager:处理告警,支持去重、分组和通知路由。
[*]Web UI / Grafana:用于数据可视化和仪表板展示。
上风:
   

[*]开源:免费使用,社区支持活跃。
[*]强盛的数据模子和查询语言:支持多维度数据模子和灵活的 PromQL 查询语言。
[*]高效的存储机制:自界说的存储引擎,适合处理高吞吐量的时间序列数据。
[*]灵活的告警管理:独立的 Alertmanager 组件,支持复杂的告警规则和通知机制。
[*]云原生支持:原生支持 Kubernetes 和其他云原生技术,适合容器化情况。
应用场景:
Prometheus 适用于各种监控场景,特殊是云原生和容器化情况,包括:
   

[*]容器和微服务监控
[*]底子设施监控(如服务器、网络设备)
[*]应用程序性能监控
[*]持续集成和持续交付(CI/CD)管道监控
[*]云情况和虚拟化监控

案例1:Prometheus监控服务器

案例要求:摆设prometheus监控服务器,完成以下使命:


[*]1)安装监控服务器
[*]2)修改配置文件
[*]3)编写service文件,管理服务
[*]4)查察监控数据
主机分配表(主机体系均为CentOS7,提前配置IP、主机名、体系YUM源)
https://i-blog.csdnimg.cn/direct/0c30d53af3db49fb822d69505d5b33d7.png
实验拓扑图:
https://i-blog.csdnimg.cn/direct/70432d43ccf040f3b2210751089deef3.png

步骤1:设置防火墙和SELinux限定
#firewall-cmd --set-default-zone=trusted
#setenforce 0
#sed -i '/SELINUX/s/enforcing/permissive/' /etc/selinux/config 步骤2:摆设服务端监控软件(prometheus操作)
1)安装prometheus软件(可参考/linux-soft/2/prometheus_soft.tar.gz)
# tar -xf prometheus_soft.tar.gz
# cd prometheus_soft/
# ls
1-cpu_rev2.json
1-node-exporter-for-prometheus-dashboard-update-1102_rev11.json
alertmanager-0.20.0.linux-386.tar.gz
grafana-6.7.3-1.x86_64.rpm
mysqld_exporter-0.12.1.linux-amd64.tar.gz
mysql-overview_rev5.json
mysql_rev1.json
node_exporter-1.0.0-rc.0.linux-amd64.tar.gz
prometheus-2.17.2.linux-386.tar.gz
pushgateway-1.2.0.linux-amd64.tar.gz

# tar -xf prometheus-2.17.2.linux-386.tar.gz    //解压软件压缩包
# ls prometheus-2.17.2.linux-386/
console_libraries  LICENSE  prometheus      promtool
consoles           NOTICE   prometheus.yml  tsdb
# mv prometheus-2.17.2.linux-386 /usr/local/prometheus     //移动到/usr/local/prometheus(类似tomcat)
# ls /usr/local/prometheus/ https://i-blog.csdnimg.cn/direct/63e279b07cf64cedba250e16e5b32c9f.png
   Prometheus软件解压即可直接实行;
2)修改prometheus配置文件(添加Target监控对象)


[*]配置文件:prometheus.yml    //文件为YAML格式
[*]格式:/usr/local/prometheus/promtool check config 配置文件   //检查语法错误
# vim /usr/local/prometheus/prometheus.yml
...
scrape_configs:
  - job_name: 'prometheus'
    static_configs:
    - targets: ['192.168.4.10:9090']   //配置抓取目标,被监控端主机和端口   解释:targets监控对象,指定需被监控的主机IP:端口号(192.168.4.10:9090监控本机,端口9090)
检查配置配置文件是否有语法错误
# /usr/local/prometheus/promtool check config \
> /usr/local/prometheus/prometheus.yml
Checking /usr/local/prometheus/prometheus.yml
  SUCCESS: 0 rule files found     //语法没有错误(仅供参考) 3)编写服务service文件,使用systemd管理服务(端口9090)
# vim /usr/lib/systemd/system/prometheus.service

Description=Prometheus Monitoring System
Documentation=Prometheus Monitoring System

ExecStart=/usr/local/prometheus/prometheus --config.file=/usr/local/prometheus/prometheus.yml   

WantedBy=multi-user.target
# systemctl enable prometheus.service --now  //设置服务开机自启并立刻启动
# ss -nlptu | grep :9090
tcp    LISTEN     0      128      :::9090                 :::*                   users:(("prometheus",pid=764,fd=6))   补充:--config指定配置文件位置,在启动服务时可找到该文件

步骤3:登录Prometheus监控控制台
1)查察监控主机、监控数据
使用欣赏器访问http://192.168.4.10:9090,可看到监控控制台首页;
https://i-blog.csdnimg.cn/direct/9c77970cbe404da19f807245b32b982d.png
查察监控主机,点击【Status】-->【Targets】,可查察监控到的对象主机;
https://i-blog.csdnimg.cn/direct/484b6beca2724ddf9472b841537d6f86.png
点击http://192.168.4.10:9090/metrics,可查察到该主机的监控数据(可视化效果不佳)
https://i-blog.csdnimg.cn/direct/4f28248f7dad474896d6e569acb4b7b1.png
通过【Graph】,选择监控数据,如go_memstats_alloc_bytes,点击<Execute>实行,可查察详细某个监控数据和Value;
https://i-blog.csdnimg.cn/direct/f29767f111df4390894098b2ef06ea07.png
点击<Graph>,可查察选择的监控数据对应的监控图形
https://i-blog.csdnimg.cn/direct/d3b06b43b7964e79ace6d6d2dc63a15a.png
 常见错误:No datapoints found.
https://i-blog.csdnimg.cn/direct/33cfa22ddb3748ab861e1df7e63bd3dc.png
思路分析:


[*]1)防火墙与SELinux是否限定;
[*]2)配置文件中的targets是否没有数据;
[*]3)检查Prometheus.service服务是否启动(端口9090)
[*]4)没有数据库的目录,在Service文件里添加--storage.tsdb.path=/usr/local/prometheus/data/
[*]5)Prometheus时间与创建汗青时间不对
办理办法:
Servies服务可手动启动服务:/usr/local/prometheus/prometheus \
--config.file=/usr/local/prometheus/prometheus.yml

 二、被监控端

1)监控方式
Prometheus客户端分为pull和push两种提交数据的方式:


[*]① Pull:监控服务端主动向被监控端拉取数据,这样需要在被监控端上安装exporters(导出器)作为保卫历程;
[*]② Push:被监控端需安装pushgateway插件,然后由运维职员通过脚本将监控数据构造成键值形式提交给pushgateway,再由该插件提交给监控服务端;
2)Exporter导出器
按照监控要求实现什么范例的监控,则需要单独安装exporter(导出器),可参考官网开源的exporter,解压即可直接运行。
https://i-blog.csdnimg.cn/direct/d250d27cfb814968b4e1a750cae73be8.png
补充:广义上讲所有可以向Prometheus提供监控样本数据的程序都可以被称为一个Exporter,而Exporter的一个实例称为target;

案例2:Prometheus被监控端

案例要求:配置Prometheus被监控端主机,主要完成以下使命:


[*]1)安装被监控端软件(exporter监控导出器)
[*]2)编写service文件,使用systemd管理服务
[*]3)修改监控服务器配置文件
[*]4)查察监控数据

步骤1:设置防火墙与SELinux限定
#firewall-cmd --set-default-zone=trusted
#setenforce 0
#sed -i '/SELINUX/s/enforcing/permissive/' /etc/selinux/config 步骤2:摆设被控制端软件(node1操作)
1)安装node_export导出器(可参考/linux-soft/2/prometheus_soft.tar.gz)
# tar -xf prometheus_soft.tar.gz
# cd prometheus_soft/
# ls
mysqld_exporter-0.12.1.linux-amd64.tar.gz
node_exporter-1.0.0-rc.0.linux-amd64.tar.gz
...
# tar -xf node_exporter-1.0.0-rc.0.linux-amd64.tar.gz
# ls node_exporter-1.0.0-rc.0.linux-amd64
LICENSE  node_exporter  NOTICE
# mv node_exporter-1.0.0-rc.0.linux-amd64 /usr/local/node_exporter
# ls /usr/local/node_exporter https://i-blog.csdnimg.cn/direct/d2691c5afe504c6c91dd1d3655c65a3d.png
2)编写服务service文件,使用systemd管理服务(端口9100)
# vim /usr/lib/systemd/system/node_exporter.service

Description=node_exporter
After=network.target

Type=simple
ExecStart=/usr/local/node_exporter/node_exporter

WantedBy=multi-user.target
# systemctl enable node_exporter --now   //设置服务开机自启并立刻启动
# ss -nlptu | grep :9100
tcp    LISTEN     0      128      :::9100                 :::*                   users:(("node_exporter",pid=898,fd=3))
步骤3:修改监控服务器的配置文件(Prometheus操作)
1)修改配置文件
   参考配置文件的监控使命模板,在【scrape_configs:】下添加3行新内容,详细内容如下:
# vim /usr/local/prometheus/prometheus.yml
scrape_configs:
  - job_name: 'prometheus'
    static_configs:
    - targets: ['192.168.4.10:9090']
  - job_name: 'node1'                  //监控任务名称(可任意)
    static_configs:
    - targets: ['192.168.4.11:9100']    //被监控端主机和端口
# systemctl restart prometheus.service     //重启服务
步骤4:登录Prometheus监控控制台
1) 查察监控主机、监控数据
使用欣赏器访问http://192.168.4.10:9090,进入监控首页,通过【Status】-->【Targets】,查察监控主机列表,验证是否有新增监控对象主机(确保被监控端服务正常开启,端口9100)
https://i-blog.csdnimg.cn/direct/1b6e8dd0ccd54b29ac7df2edc92e44a4.png
选择详细的监控数据(例如node_load1平均负载量1分钟),点击<Graph>,可查察选择的监控数据对应的监控图形
https://i-blog.csdnimg.cn/direct/1492f305b74046c1836a885299214945.png

三、Grafana概述

Grafana 是一个开源的分析和交互式可视化平台,专门用于监控和分析时间序列数据。它由 Torkel Ödegaard 创建,并于2014年首次发布。Grafana 以其强盛的可视化能力、灵活的仪表板和插件生态体系而闻名,已成为监控领域的重要工具之一。
主要功能:
   数据源支持:


[*]Grafana 支持多种数据源,包括 Prometheus、Graphite、InfluxDB、Elasticsearch、MySQL、PostgreSQL 等。
[*]用户可以从多个数据源中获取数据,并在同一个仪表板上举行可视化展示。
可视化:


[*]提供丰富的可视化选项,包括图表、图形、表格、热图、仪表盘等。
[*]支持自界说可视化,用户可以根据需要创建复杂的图表和仪表板。
仪表板:


[*]提供灵活的仪表板功能,用户可以创建、编辑和共享仪表板。
[*]支持变量(Variables)和模板(Templating),便于动态更新和过滤数据。
告警和通知:


[*]支持基于仪表板数据的告警功能,可以在检测到异常时发送通知。
[*]支持多种通知渠道,包括电子邮件、Slack、PagerDuty 等。
插件生态体系:


[*]提供丰富的插件体系,用户可以扩展 Grafana 的功能,包括数据源插件、面板插件和应用插件。
[*]社区活跃,不断有新的插件和功能被开发和发布。
权限管理:


[*]支持基于脚色的访问控制(RBAC),可以对用户和团队举行细粒度的权限管理。
[*]支持 LDAP、OAuth 和其他认证方式。
Grafana 的架构主要包括以下组件:


[*]Grafana Server:核心组件,负责处理请求、数据查询和可视化展示。
[*]数据源:毗连到各种时间序列数据库和监控体系,获取数据。
[*]仪表板:用户界说的可视化界面,用于展示和分析数据。
[*]插件体系:扩展 Grafana 功能的插件,包括数据源插件、面板插件和应用插件。

案例3:grafana可视化监控数据

案例要求:配置grafana实现数据可视化效果,完成以下使命:


[*]1)安装Grafana
[*]2)修改grafana配置
[*]3)导入可视化模板
[*]4)查察监控图表

步骤1:安装摆设grafana(prometheus操作)
1)安装grafana软件(可参考/linux-soft/2/prometheus_soft.tar.gz)
# cd prometheus_soft/
# ls
grafana-6.7.3-1.x86_64.rpm
...
# yum -y install grafana-6.7.3-1.x86_64.rpm  //安装软件包(可在任何主机上安装) 2)启动服务
# systemctl enable grafana-server.service --now   //设置服务开机自启动服务并立刻启动
# ss -nlptu | grep :3000     //grafana服务端口3000
tcp    LISTEN     0      128      :::3000                 :::*                   users:(("grafana-server",pid=1201,fd=7)) 3)登录可视化平台,重置登录密码
欣赏器访问Grafana可视化平台http://192.168.4.10:3000,默认用户名和密码:admin
https://i-blog.csdnimg.cn/direct/9b7680b002e84da094c02d35a8f945af.png
   重置用户名和密码:admin(第一次登录,为了安全需要重置密码)
登录Grafana可视化平台后,表现首页页面内容,如图所示:
https://i-blog.csdnimg.cn/direct/ce2c640727c745aabd9c636c59e0c632.png
补充:欣赏器兼容题目,可能无法重置密码,假如无法重置密码,则可设置grafana允许匿名登录,详细操作如下(非必要,不要实行如下操作)
# vim /etc/grafana/grafana.ini
    //anonymous匿名的
enabled = true   //是否允许匿名
org_role = Admin   //以什么角色登录(Admin管理员用户)
# systemctl restart grafana-server.service   //修改后需重启服务
步骤2:配置Grafana
欣赏器访问Grafana控制台,http://192.168.4.10:3000,添加数据源(有数据才气天生可视化图形)
1)添加数据源(查察Prometheus监控端的体系信息)
Grafana可以将数据图形化,点击【Add data source】,选择从【Prometheus】获取数据;
https://i-blog.csdnimg.cn/direct/c9c124d1b1e54c52b7a799edcc178b94.png
填写Prometheus的根本信息,URL指定:http://192.168.4.10:9090,从该URL获取数据源;
https://i-blog.csdnimg.cn/direct/d59b8df1ab274fd18c3d8b74d0f48c14.png
2)导入可视化模板
使用不同的可视化模板(折线图、饼图、热图等),可实现将不同的数据举行图形化展示,点击<Data Sources>,选择需要可视化的数据源(例如Prometheus-1)
https://i-blog.csdnimg.cn/direct/513593f423074133a52dc3cb5e7b6cf9.png
点击【Dashboards贸易智能仪表盘】,导入Prometheus 2.0 Stats图形化模板;
https://i-blog.csdnimg.cn/direct/27d2cef056434f45bab37de453ab5507.png
https://i-blog.csdnimg.cn/direct/4e1f9b874a24447d99333a5e089cfabd.png
点击<Prometheus 2.0 Stats图形化模板>,可查察该模板下毗连Prometheus数据源的可视化界面,如图所示:
https://i-blog.csdnimg.cn/direct/32026049fbbf41c99e309cea0e75a3ca.png

步骤3:查察被监控主机的体系信息
1)导入主机监控的可视化模板(node_exporter模板)
   模板:1-node-exporter-for-prometheus-dashboard-update-1102_rev11.json
通过真机欣赏器访问,以是需解压在真机目录下(可参考/linux-soft/2/prometheus_soft.tar.gz)
# tar -xf /linux-soft/2/prometheus_soft.tar.gz    //解压压缩包 https://i-blog.csdnimg.cn/direct/01f54138f6b84943bb333193a9d0b56a.png
https://i-blog.csdnimg.cn/direct/f3d9f070cff346f39b2a84d55513ada9.png
2)选择数据源
导入监控主机的可视化模板后,就可以查察主机的监控图形了,但该可视化图形的数据暂未获取,需要设置prometheus为数据源(Prometheus-1),完成后点击导入;
https://i-blog.csdnimg.cn/direct/97c87dc9ca3c45ecbcf9c8d2a7fff34a.png
返回Grafana首页,点击node_exporter可视化模板,查察可视化监控图形;
https://i-blog.csdnimg.cn/direct/b5660f8f502d41febce5ede640602ed8.png
最终的可视化界面,如图所示:
https://i-blog.csdnimg.cn/direct/b6c3350d553544228de3a6defca3c0b5.png

案例4:监控数据库

案例要求:使用prometheus监控MariaDB数据库,完成以下使命:


[*]1)安装数据库
[*]2)安装数据库exporter
[*]3)配置数据库账户和密码
[*]4)导入监控模板

步骤1:安装MariaDB(node1操作)
1)安装软件,启动服务
# yum -y install mariadb-server
# systemctl enable mariadb --now
# ss -nlptu | grep :3306
tcp    LISTEN     0      50        *:3306                  *:*                   users:(("mysqld",pid=1415,fd=14)) 2)创建数据库账户,配置密码
   监控服务器需要监控数据库,需创建一个对数据库有权限的账户并配置密码。
# mysql
MariaDB [(none)]> grant all on *.* to 'jerry'@'127.0.0.1' identified by '123';
Query OK, 0 rows affected (0.00 sec)
MariaDB [(none)]> quit 解释:创建用户jerry,授予该用户对所有数据库和表拥有所有权限,可以从本机127.0.0.1登录服务器,密码为123

步骤2:摆设被控制端软件
1)安装mysqld_exporter导出器(可参考/linux-soft/2/prometheus_soft.tar.gz)
# cd prometheus_soft/
# ls
mysqld_exporter-0.12.1.linux-amd64.tar.gz
mysql-overview_rev5.json
mysql_rev1.json
...
# tar -xf mysqld_exporter-0.12.1.linux-amd64.tar.gz
# ls mysqld_exporter-0.12.1.linux-amd64
LICENSE  mysqld_exporter  NOTICE
# mv mysqld_exporter-0.12.1.linux-amd64 /usr/local/mysqld_exporter 2)创建数据库配置文件.my.cnf,记载访问数据库信息
# vim /usr/local/mysqld_exporter/.my.cnf

host=127.0.0.1    //数据库的主机
port=3306   //数据库的端口
user=jerry   //数据库的用户名
password=123   //数据库的密码 解释:创建数据库配置文件.my.cnf,在监控服务器访问被监控服务器的mysqld_exporter服务时,exporter会主动读取配置文件,使用配置文件用的账户和密码信息访问数据库,获取数据库监控信息;
3)编写服务service文件,使用systemd管理服务(端口9104)
# vim /usr/lib/systemd/system/mysqld_exporter.service

Description=node_exporter
After=network.target

ExecStart=/usr/local/mysqld_exporter/mysqld_exporter \
--config.my-cnf=/usr/local/mysqld_exporter/.my.cnf

WantedBy=multi-user.target
# systemctl enable mysqld_exporter --now
# ss -nlptu | grep :9104
tcp    LISTEN     0      128      :::9104                 :::*                   users:(("mysqld_exporter",pid=1561,fd=3))   补充:--config是mysqld_exporter的选项,指定配置文件位置

步骤3:修改监控服务器的配置文件(Prometheus操作)
1)修改监控服务器配置文件
参考配置文件的监控使命模板,在【scrape_configs:】下添加3行新内容,详细内容如下:
# vim /usr/local/prometheus/prometheus.yml
scrape_configs:    //抓取数据
...
  - job_name: 'mysql'     //监控任务的名称
    static_configs:
    - targets: ['192.168.4.11:9104']    //被监控主机IP和端口
# systemctl restart prometheus.service 解释:targets指定被监控主机192.168.4.11,端口9104,毗连后pull拉取监控数据

步骤4:登录Prometheus监控控制台
1) 查察监控主机、监控数据
使用欣赏器访问http://192.168.4.10:9090,进入监控首页,通过【Status】-->【Targets】,查察监控主机列表,验证是否有新增监控对象主机(确保被监控端服务正常开启,端口9104)
https://i-blog.csdnimg.cn/direct/d01e4c29d9134ca38048feb1e97e8026.png

步骤5:配置Grafana可视化
1)查察Prometheus监控服务状态(欣赏器访问http://192.168.4.10:9090)
   查察prometheus是否已经识别到MariaDB数据库主机,状态为UP;
https://i-blog.csdnimg.cn/direct/e7973413ed7f4d40840022ecc1a13001.png
2)访问Grafana平台,导入数据库可视化模板(欣赏器访问http://192.168.4.10:3000)
导入数据库可视化模板
https://i-blog.csdnimg.cn/direct/48dd5bfe5aa34572b662039a6362a62c.png
设置prometheus为数据源(Prometheus-1),完成后点击导入;
https://i-blog.csdnimg.cn/direct/7d4c4666199f46fa83454a32e52500f0.png
可查察该模板下毗连Prometheus数据源的可视化界面,如图所示:
https://i-blog.csdnimg.cn/direct/55f4b51174934ba8af59fa2a0e721ac1.png

头脑导图:

https://i-blog.csdnimg.cn/direct/20a34784a10d4e96b34dc1455fc5c4c6.png

小结:

本篇章节为【第二阶段】SECURITY-DAY3 的学习条记,这篇条记可以开端了解到 Prometheus监控服务器、Prometheus被监控端、Grafana监控可视化。除此之外保举参考相干学习网址:


[*]prometheus-配置文件-scrape_configs、relabel_config等抓取相干配置(二) - SoulChild随条记
[*]第4章 Exporter详解 - Exporter是什么 - 《Prometheus操作指南》 - 书栈网 · BookStack
Tip:究竟两个人的聪明大于一个人的聪明,假如你不理解本章节的内容或需要相干条记、视频,可私信小安,请不要含羞和回避,可以向他人请教,花点时间直到你真正的理解

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: Linux云计算 |【第二阶段】SECURITY-DAY3