MySQL 性能压测工具-sysbench，从入门到自定义测试项

张国伟  金牌会员 | 2022-12-6 18:21:05 | 显示全部楼层 | 阅读模式
打印 上一主题 下一主题
楼主

主题 825|帖子 825|积分 2475

sysbench是一个开源的、基于LuaJIT（LuaJIT 是 Lua 的即时编译器，可将代码直接翻译成机器码，性能比原生 lua 要高） 的、可自定义脚本的多线程基准测试工具，也是目前用得最多的 MySQL 性能压测工具。
基于 sysbench，我们可以对比 MySQL 在不同版本、不同硬件配置、不同参数（操作系统和数据库）下的性能差异。
下面会从 sysbench 的基本用法出发，逐渐延伸到 sysbench 的一些高级玩法，譬如如何阅读自带的测试脚本、如何自定义测试项等。除此之外，使用 sysbench 对 CPU 进行测试，网上很多资料都语焉不详，甚至是错误的，所以这次也会从源码的角度分析 CPU 测试的实现逻辑及 --cpu-max-prime 选项的具体含义。
本文主要包括以下几部分：

  • 安装sysbench
  • sysbench用法讲解
  • 对MySQL进行基准测试的基本步骤
  • 如何分析MySQL基准测试结果
  • 如何使用sysbench对服务器进行测试
  • MySQL常见测试场景及对应的 SQL 语句
  • 如何自定义sysbench测试脚本
 

安装 sysbench

下面是 sysbench 源码包的安装步骤。
  1. # yum -y install make automake libtool pkgconfig libaio-devel openssl-devel mysql-devel
  2. # cd /usr/src/
  3. # wget https://github.com/akopytov/sysbench/archive/refs/tags/1.0.20.tar.gz
  4. # tar xvf 1.0.20.tar.gz
  5. # cd sysbench-1.0.20/
  6. # ./autogen.sh
  7. # ./configure
  8. # make -j
  9. # make install
复制代码
安装完成后，压测脚本默认会安装在 /usr/local/share/sysbench 目录下。
我们看看该目录的内容。
  1. # ls /usr/local/share/sysbench/
  2. bulk_insert.lua  oltp_insert.lua        oltp_read_write.lua        oltp_write_only.lua       tests
  3. oltp_common.lua  oltp_point_select.lua  oltp_update_index.lua      select_random_points.lua
  4. oltp_delete.lua  oltp_read_only.lua     oltp_update_non_index.lua  select_random_ranges.lua
复制代码
除了oltp_common.lua是个公共模块，其它每个 lua 脚本都对应一个测试场景。
 

sysbench 用法讲解

sysbench 命令语法如下：
  1. sysbench [options]... [testname] [command]
复制代码
命令中的testname是测试项名称。sysbench 支持的测试项包括：

  • *.lua：数据库性能基准测试。
  • fileio：磁盘 IO 基准测试。
  • cpu：CPU 性能基准测试。
  • memory：内存访问基准测试。
  • threads：基于线程的调度程序基准测试。
  • mutex：POSIX 互斥量基准测试。
command是 sysbench 要执行的命令，支持的选项有：prepare，prewarm，run，cleanup，help。注意，不是所有的测试项都支持这些选项。
options是配置项。sysbench 中的配置项主要包括以下两部分：
1.  通用配置项。这部分配置项可通过 sysbench --help 查看。例如，
  1. # sysbench --help
  2. ...
  3. General options:
  4.   --threads=N                     number of threads to use [1]
  5.   --events=N                      limit for total number of events [0]
  6.   --time=N                        limit for total execution time in seconds [10]
  7.  ...
复制代码
2.  测试项相关的配置项。各个测试项支持的配置项可通过 sysbench testname help 查看。例如，
  1. # sysbench memory help
  2. sysbench 1.0.20 (using bundled LuaJIT 2.1.0-beta2)

  4. memory options:
  5.   --memory-block-size=SIZE    size of memory block for test [1K]
  6.   --memory-total-size=SIZE    total size of data to transfer [100G]
  7.   --memory-scope=STRING       memory access scope {global,local} [global]
  8.   --memory-hugetlb[=on|off]   allocate memory from HugeTLB pool [off]
  9.   --memory-oper=STRING        type of memory operations {read, write, none} [write]
  10.   --memory-access-mode=STRING memory access mode {seq,rnd} [seq]
复制代码
 

对 MySQL 进行基准测试的基本步骤

下面以oltp_read_write为例，看看使用 sysbench 对 MySQL 进行基准测试的四个标准步骤：
prepare

生成压测数据。默认情况下，sysbench 是通过 INSERT INTO 命令来导入测试数据的。如果是使用 LOAD DATA LOCAL INFILE 命令来导入，sysbench 导数速度能提升30%，具体可参考：使用 LOAD DATA LOCAL INFILE，sysbench 导数速度提升30%
  1. # sysbench oltp_read_write --mysql-host=10.0.0.64 --mysql-port=3306 --mysql-user=admin --mysql-password=Py@123456 --mysql-db=sbtest --tables=30 --table-size=1000000 --threads=30 prepare
复制代码
命令中各个选项的具体含义如下：

  • oltp_read_write：测试项，对应的是/usr/local/share/sysbench/oltp_read_write.lua。这里也可指定脚本的绝对路径名。
  • --mysql-host、--mysql-port、--mysql-user、--mysql-password：分别代表 MySQL 实例的主机名、端口、用户名和密码。
  • --mysql-db：库名。不指定则默认为sbtest。
  • --tables ：表的数量，默认为 1。
  • --table-size ：单表的大小，默认为 10000。
  • --threads ：并发线程数，默认为 1。注意，导入时，单表只能使用一个线程。
  • prepare：执行准备工作。
oltp_read_write 用来压测 OLTP 场景。在 sysbench 1.0 之前， 该场景是通过 oltp.lua 这个脚本来测试的。不过该脚本在 sysbench 1.0 之后就被废弃了，但为了跟之前的版本兼容，该脚本放到了 /usr/local/share/sysbench/tests/include/oltp_legacy/ 目录下。
鉴于 oltp_read_write.lua 和 oltp.lua 两者的压测内容完全一致。从 sysbench 1.0 开始，压测 OLTP 场景建议直接使用 oltp_read_write。
prewarm

预热。主要是将磁盘中的数据加载到内存中。
  1. # sysbench oltp_read_write --mysql-host=10.0.0.64 --mysql-port=3306 --mysql-user=admin --mysql-password=Py@123456 --mysql-db=sbtest --tables=30 --table-size=1000000 --threads=30 prewarm
复制代码
除了需要将命令设置为 prewarm，其它配置与 prepare 中一样。
run

压测。
  1. # sysbench oltp_read_write --mysql-host=10.0.0.64 --mysql-port=3306 --mysql-user=admin --mysql-password=Py@123456 --mysql-db=sbtest --tables=30 --table-size=1000000 --threads=64 --time=60 --report-interval=10 run
复制代码
其中，

  • --time ：压测时间。不指定则默认为 10 秒。除了 --time，也可通过 --events 限制需要执行的 event 的数量。
  • --report-interval=10 ：每 10 秒输出一次测试结果，默认为 0，不输出。
cleanup

清理数据。
  1. # sysbench oltp_read_write --mysql-host=10.0.0.64 --mysql-port=3306 --mysql-user=admin --mysql-password=Py@123456 --mysql-db=sbtest --tables=30 cleanup
复制代码
这里只需指定 --tables ，sysbench 会串行执行 DROP TABLE IF EXISTS sbtest 操作。
 

如何分析 MySQL 基准测试结果

下面我们分析下 oltp_read_write 场景下的压测结果。注：右滑可以看到每个指标的具体含义。
  1. Threads started!

  3. [ 10s ] thds: 64 tps: 5028.08 qps: 100641.26 (r/w/o: 70457.59/20121.51/10062.16) lat (ms,95%): 17.32 err/s: 0.00 reconn/s: 0.00
  4. # thds 是并发线程数。tps 是每秒事务数。qps 是每秒操作数，等于 r（读操作）加上 w（写操作）加上 o（其他操作，主要包括 BEGIN 和 COMMIT）。lat 是延迟，(ms,95%) 是 95% 的查询时间小于或等于该值，单位毫秒。err/s 是每秒错误数。reconn/s 是每秒重试的次数。
  5. [ 20s ] thds: 64 tps: 5108.93 qps: 102192.09 (r/w/o: 71533.28/20440.64/10218.17) lat (ms,95%): 17.32 err/s: 0.00 reconn/s: 0.00
  6. [ 30s ] thds: 64 tps: 5126.50 qps: 102505.50 (r/w/o: 71756.30/20496.60/10252.60) lat (ms,95%): 17.32 err/s: 0.00 reconn/s: 0.00
  7. [ 40s ] thds: 64 tps: 5144.50 qps: 102907.20 (r/w/o: 72034.07/20583.72/10289.41) lat (ms,95%): 17.01 err/s: 0.00 reconn/s: 0.00
  8. [ 50s ] thds: 64 tps: 5137.29 qps: 102739.80 (r/w/o: 71916.99/20548.64/10274.17) lat (ms,95%): 17.01 err/s: 0.00 reconn/s: 0.00
  9. [ 60s ] thds: 64 tps: 4995.38 qps: 99896.35 (r/w/o: 69925.98/19979.61/9990.75) lat (ms,95%): 17.95 err/s: 0.00 reconn/s: 0.00
  10. SQL statistics:
  11.     queries performed:
  12.         read:                            4276622 # 读操作的数量
  13.         write:                           1221892 # 写操作的数量
  14.         other:                           610946  # 其它操作的数量
  15.         total:                           6109460 # 总的操作数量，total = read + write + other
  16.     transactions:                        305473 (5088.63 per sec.)    # 总的事务数（每秒事务数）
  17.     queries:                             6109460 (101772.64 per sec.) # 总的操作数（每秒操作数）
  18.     ignored errors:                      0      (0.00 per sec.)       # 忽略的错误数（每秒忽略的错误数）
  19.     reconnects:                          0      (0.00 per sec.)       # 重试次数（每秒重试的次数）

  21. General statistics:
  22.     total time:                          60.0301s  # 总的执行时间
  23.     total number of events:              305473    # 执行的 event 的数量
  24.                                                    # 在 oltp_read_write 中，默认参数下，一个 event 其实就是一个事务

  26. Latency (ms):
  27.          min:                                    5.81 # 最小耗时
  28.          avg:                                   12.57 # 平均耗时
  29.          max:                                  228.87 # 最大耗时
  30.          95th percentile:                       17.32 # 95% event 的执行耗时
  31.          sum:                              3840044.28 # 总耗时

  33. Threads fairness:
  34.     events (avg/stddev):           4773.0156/30.77  # 平均每个线程执行 event 的数量
  35.                                                     # stddev 是标准差，值越小，代表结果越稳定。
  36.     execution time (avg/stddev):   60.0007/0.01     # 平均每个线程的执行时间
复制代码
输出中，重点关注三个指标：

  • 每秒事务数，即我们常说的 TPS。
  • 每秒操作数，即我们常说的 QPS。
  • 95% event 的执行耗时。
TPS 和 QPS 反映了系统的吞吐量，越大越好。执行耗时代表了事务的执行时长，越小越好。在一定范围内，并发线程数指定得越大，TPS 和 QPS 也会越高。
 

使用 sysbench 对服务器进行测试

除了数据库基准测试，sysbench 还能对服务器的性能进行测试。服务器资源一般包括四大类：CPU、内存、IO和网络。sysbench 可对CPU、内存和磁盘IO进行测试。下面我们具体来看看。
cpu

CPU 性能测试。支持的选项只有一个，即--cpu-max-prime。
CPU 测试的命令如下：
  1. # sysbench cpu --cpu-max-prime=20000 --threads=32 run
复制代码
输出中，重点关注events per second。值越大，代表 CPU 的计算性能越强。
  1. CPU speed:
  2.     events per second: 25058.08
复制代码
下面是 CPU 测试相关的代码，可以看到，sysbench 是通过计算--cpu-max-prime范围内的质数来衡量 CPU 的计算能力的。
质数（prime number）又称素数，指的是大于 1，且只能被 1 和自身整除的自然数。在代码实现时，对于自然数 n，一般会用 2 到根号 n 之间的整数去除，如果都无法整除，则意味着 n 是个质数。
  1. int cpu_execute_event(sb_event_t *r, int thread_id)
  2. {
  3.   unsigned long long c;
  4.   unsigned long long l;
  5.   double t;
  6.   unsigned long long n=0;

  8.   (void)thread_id; /* unused */
  9.   (void)r; /* unused */

  11.   // max_prime 即命令行中指定的 --cpu-max-prime
  12.   for(c=3; c < max_prime; c++)
  13.   {
  14.     t = sqrt((double)c);
  15.     for(l = 2; l <= t; l++)
  16.       if (c % l == 0)
  17.         break;
  18.     if (l > t )
  19.       n++;
  20.   }

  22.   return 0;
  23. }
复制代码
bulk_insert

批量插入测试。
  1. # sysbench --test=memory --memory-block-size=1M --memory-total-size=100G --num-threads=1 run
复制代码
下面是 bulk_insert 场景下创建的测试表。
  1. 102400.00 MiB transferred (23335.96 MiB/sec)
复制代码
测试对应的 SQL 语句如下：
  1. # 准备测试文件
  2. # sysbench fileio --file-num=1 --file-total-size=10G --file-test-mode=rndrw prepare

  4. # 测试
  5. # sysbench fileio --file-num=1 --file-total-size=10G --file-test-mode=rndrw run

  7. # 删除测试文件
  8. # sysbench fileio --file-num=1 --file-total-size=10G --file-test-mode=rndrw cleanup
复制代码
oltp_delete

删除测试。
  1. File operations:
  2.     reads/s:                      4978.26
  3.     writes/s:                     3318.84
  4.     fsyncs/s:                     83.07

  6. Throughput:
  7.     read, MiB/s:                  77.79
  8.     written, MiB/s:               51.86
复制代码
基于主键进行删除。测试对应的 SQL 语句如下：
  1. mysql> show create table sbtest.sbtest1\G
  2. *************************** 1. row ***************************
  3.        Table: sbtest1
  4. Create Table: CREATE TABLE `sbtest1` (
  5.   `id` int NOT NULL AUTO_INCREMENT,
  6.   `k` int NOT NULL DEFAULT '0',
  7.   `c` char(120) NOT NULL DEFAULT '',
  8.   `pad` char(60) NOT NULL DEFAULT '',
  9.   PRIMARY KEY (`id`),
  10.   KEY `k_1` (`k`)
  11. ) ENGINE=InnoDB AUTO_INCREMENT=1000001 DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci
  12. 1 row in set (0.00 sec)
复制代码
oltp_insert

插入测试。
  1. # sysbench bulk_insert --mysql-host=10.0.0.64 --mysql-port=3306 --mysql-user=admin --mysql-password=Py@123456 --mysql-db=sbtest --tables=30 --table-size=1000000 --threads=64 --time=60 --report-interval=10 run
复制代码
测试对应的 SQL 语句如下：
  1. mysql> show create table sbtest.sbtest1\G
  2. *************************** 1. row ***************************
  3.        Table: sbtest1
  4. Create Table: CREATE TABLE `sbtest1` (
  5.   `id` int NOT NULL,
  6.   `k` int NOT NULL DEFAULT '0',
  7.   PRIMARY KEY (`id`)
  8. ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci
  9. 1 row in set (0.01 sec)
复制代码
oltp_point_select

基于主键进行查询。
  1. INSERT INTO sbtest1 VALUES(?, ?),(?, ?),(?, ?),(?, ?)...
复制代码
测试对应的 SQL 语句如下：
  1. # sysbench oltp_delete --mysql-host=10.0.0.64 --mysql-port=3306 --mysql-user=admin --mysql-password=Py@123456 --mysql-db=sbtest --tables=30 --table-size=1000000 --threads=64 --time=60 --report-interval=10 run
复制代码
oltp_read_only

只读测试。
  1. DELETE FROM sbtest1 WHERE id=?
复制代码
测试对应的 SQL 语句如下：
  1. # sysbench oltp_insert --mysql-host=10.0.0.64 --mysql-port=3306 --mysql-user=admin --mysql-password=Py@123456 --mysql-db=sbtest --tables=30 --table-size=1000000 --threads=64 --time=60 --report-interval=10 run
复制代码
oltp_read_write

读写测试。
测试对应的 SQL 语句如下：
  1. # sysbench oltp_insert --mysql-host=10.0.0.64 --mysql-port=3306 --mysql-user=admin --mysql-password=Py@123456 --mysql-db=sbtest --tables=30 --table-size=1000000 --threads=64 --time=60 --report-interval=10 runSELECT c FROM sbtest1 WHERE id=?SELECT c FROM sbtest1 WHERE id=? # 默认会执行 10 次，由 --point_selects 选项控制。
  2. SELECT c FROM sbtest1 WHERE id BETWEEN ? AND ?
  3. SELECT SUM(k) FROM sbtest1 WHERE id BETWEEN ? AND ?
  4. SELECT c FROM sbtest1 WHERE id BETWEEN ? AND ? ORDER BY c
  5. SELECT DISTINCT c FROM sbtest1 WHERE id BETWEEN ? AND ? ORDER BY cmysql> show create table sbtest.sbtest1\G
  6. *************************** 1. row ***************************
  7.        Table: sbtest1
  8. Create Table: CREATE TABLE `sbtest1` (
  9.   `id` int NOT NULL AUTO_INCREMENT,
  10.   `k` int NOT NULL DEFAULT '0',
  11.   `c` char(120) NOT NULL DEFAULT '',
  12.   `pad` char(60) NOT NULL DEFAULT '',
  13.   PRIMARY KEY (`id`),
  14.   KEY `k_1` (`k`)
  15. ) ENGINE=InnoDB AUTO_INCREMENT=1000001 DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci
  16. 1 row in set (0.00 sec)mysql> show create table sbtest.sbtest1\G
  17. *************************** 1. row ***************************
  18.        Table: sbtest1
  19. Create Table: CREATE TABLE `sbtest1` (
  20.   `id` int NOT NULL,
  21.   `k` int NOT NULL DEFAULT '0',
  22.   PRIMARY KEY (`id`)
  23. ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci
  24. 1 row in set (0.01 sec)
复制代码
oltp_update_index

基于主键进行更新，更新的是索引字段。
  1. # sysbench oltp_point_select --mysql-host=10.0.0.64 --mysql-port=3306 --mysql-user=admin --mysql-password=Py@123456 --mysql-db=sbtest --tables=30 --table-size=1000000 --threads=64 --time=60 --report-interval=10 run
复制代码
测试对应的 SQL 语句如下：
  1. SELECT c FROM sbtest1 WHERE id=?
复制代码
oltp_update_non_index

基于主键进行更新，更新的是非索引字段。
  1. # sysbench oltp_read_only --mysql-host=10.0.0.64 --mysql-port=3306 --mysql-user=admin --mysql-password=Py@123456 --mysql-db=sbtest --tables=30 --table-size=1000000 --threads=64 --time=60 --report-interval=10 run
复制代码
测试对应的 SQL 语句如下：
  1. SELECT c FROM sbtest1 WHERE id=? # 默认会执行 10 次，由 --point_selects 选项控制。
  2. SELECT c FROM sbtest1 WHERE id BETWEEN ? AND ?
  3. SELECT SUM(k) FROM sbtest1 WHERE id BETWEEN ? AND ?
  4. SELECT c FROM sbtest1 WHERE id BETWEEN ? AND ? ORDER BY c
  5. SELECT DISTINCT c FROM sbtest1 WHERE id BETWEEN ? AND ? ORDER BY c
复制代码
oltp_write_only

只写测试。
  1. SELECT c FROM sbtest1 WHERE id=? # 默认会执行 10 次，由 --point_selects 选项控制。
  2. SELECT c FROM sbtest1 WHERE id BETWEEN ? AND ?
  3. SELECT SUM(k) FROM sbtest1 WHERE id BETWEEN ? AND ?
  4. SELECT c FROM sbtest1 WHERE id BETWEEN ? AND ? ORDER BY c
  5. SELECT DISTINCT c FROM sbtest1 WHERE id BETWEEN ? AND ? ORDER BY c
  6. UPDATE sbtest1 SET k=k+1 WHERE id=?
  7. UPDATE sbtest1 SET c=? WHERE id=?
  8. DELETE FROM sbtest1 WHERE id=?
  9. INSERT INTO sbtest1 (id, k, c, pad) VALUES (?, ?, ?, ?)
复制代码
测试对应的 SQL 语句如下：
  1. SELECT c FROM sbtest1 WHERE id=?SELECT c FROM sbtest1 WHERE id=? # 默认会执行 10 次，由 --point_selects 选项控制。
  2. SELECT c FROM sbtest1 WHERE id BETWEEN ? AND ?
  3. SELECT SUM(k) FROM sbtest1 WHERE id BETWEEN ? AND ?
  4. SELECT c FROM sbtest1 WHERE id BETWEEN ? AND ? ORDER BY c
  5. SELECT DISTINCT c FROM sbtest1 WHERE id BETWEEN ? AND ? ORDER BY cmysql> show create table sbtest.sbtest1\G
  6. *************************** 1. row ***************************
  7.        Table: sbtest1
  8. Create Table: CREATE TABLE `sbtest1` (
  9.   `id` int NOT NULL AUTO_INCREMENT,
  10.   `k` int NOT NULL DEFAULT '0',
  11.   `c` char(120) NOT NULL DEFAULT '',
  12.   `pad` char(60) NOT NULL DEFAULT '',
  13.   PRIMARY KEY (`id`),
  14.   KEY `k_1` (`k`)
  15. ) ENGINE=InnoDB AUTO_INCREMENT=1000001 DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci
  16. 1 row in set (0.00 sec)mysql> show create table sbtest.sbtest1\G
  17. *************************** 1. row ***************************
  18.        Table: sbtest1
  19. Create Table: CREATE TABLE `sbtest1` (
  20.   `id` int NOT NULL,
  21.   `k` int NOT NULL DEFAULT '0',
  22.   PRIMARY KEY (`id`)
  23. ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci
  24. 1 row in set (0.01 sec)
复制代码
select_random_points

基于索引进行随机查询。
  1. UPDATE sbtest1 SET k=k+1 WHERE id=?
复制代码
测试对应的 SQL 语句如下：
  1. # sysbench oltp_update_non_index --mysql-host=10.0.0.64 --mysql-port=3306 --mysql-user=admin --mysql-password=Py@123456 --mysql-db=sbtest --tables=30 --table-size=1000000 --threads=64 --time=60 --report-interval=10 run
复制代码
select_random_ranges

基于索引进行随机范围查询。
  1. UPDATE sbtest1 SET c=? WHERE id=?
复制代码
测试对应的 SQL 语句如下：
  1. # sysbench oltp_write_only --mysql-host=10.0.0.64 --mysql-port=3306 --mysql-user=admin --mysql-password=Py@123456 --mysql-db=sbtest --tables=30 --table-size=1000000 --threads=64 --time=60 --report-interval=10 run
复制代码
 

如何自定义 sysbench 测试脚本

下面通过 bulk_insert.lua 和 oltp_point_select.lua 这两个脚本分析下 sysbench 测试脚本的实现逻辑。
首先看看 bulk_insert.lua。
  1. UPDATE sbtest1 SET k=k+1 WHERE id=?
  2. UPDATE sbtest1 SET c=? WHERE id=?
  3. DELETE FROM sbtest1 WHERE id=?
  4. INSERT INTO sbtest1 (id, k, c, pad) VALUES (?, ?, ?, ?)
复制代码
下面，我们看看这几个函数的具体作用：

  • thread_init()：线程初始化时调用。这个函数常用来创建数据库连接。
  • prepare()：指定 prepare 时调用。这个函数常用来创建测试表，生成测试数据。
  • event()：指定 run 时调用。这个函数会定义需要测试的 SQL 语句。
  • thread_done()：线程退出时调用。这个函数常用来关闭 Prepared Statements 和数据库连接。
  • cleanup()：指定 cleanup 时调用。这个函数常用来删除测试表。
如果我们要自定义测试脚本，只需实现这几个函数即可。
如果我们要基于 sbtest 表自定义测试项，就要分析 oltp*.lua 脚本的实现逻辑。
下面，以 oltp_point_select.lua 脚本为例。
  1. # sysbench select_random_points --mysql-host=10.0.0.64 --mysql-port=3306 --mysql-user=admin --mysql-password=Py@123456 --mysql-db=sbtest --tables=30 --table-size=1000000 --threads=64 --time=60 --report-interval=10 run
复制代码
与 bulk_insert.lua 不一样的是，oltp_point_select.lua 只简单的定义了两个函数：prepare_statements()和event()。实际上，不仅仅是 oltp_point_select.lua，其它 oltp*.lua 脚本也只定义了这两个函数。
虽然只定义了这两个函数，但脚本导入了 oltp_common 模块，所以实际上，脚本中的 prepare_point_selects()，execute_point_selects() 以及 bulk_insert.lua 中的 thread_init()，prepare()，thread_done()，cleanup() 都是在oltp_common.lua这个公共模块中定义的。
接下来，我们看看 prepare_point_selects() 和 execute_point_selects() 这两个函数的实现逻辑。
首先看看prepare_point_selects()。
它调用的是prepare_for_each_table()。prepare_for_each_table()是一个基础函数。所有prepare 相关的函数都会调用prepare_for_each_table()， 只不过不同的 prepare 函数会传入不同的参数名。
prepare_for_each_table()会填充两张表（Lua 中的表既可用来表示数组，也可用来表示集合）：stmt 和 param。其中，stmt 用来存储 Prepared Statements 语句，param 用来存储 Prepared Statements 语句相关的参数类型。
填充完毕后，最后再通过 bind_param 函数将两者绑定在一起。
可以看到，无论是 Prepared Statements 语句还是相关的参数类型，都是在 stmt_defs 定义的。
  1. SELECT id, k, c, pad
  2.           FROM sbtest1
  3.           WHERE k IN (?, ?, ?, ?, ?, ?, ?, ?, ?, ?)
复制代码
接下来，我们看看 stmt_defs 的内容。
  1. # sysbench select_random_ranges --mysql-host=10.0.0.64 --mysql-port=3306 --mysql-user=admin --mysql-password=Py@123456 --mysql-db=sbtest --tables=30 --table-size=1000000 --threads=64 --time=60 --report-interval=10 run
复制代码
可以看到，stmt_defs 是一张表，里面定义了不同测试项对应的 Prepared Statements 语句和参数类型。
具体到 point_selects 这个测试项，它对应的 Prepared Statements 语句是SELECT c FROM sbtest%u WHERE id=?，对应的参数类型是t.INT。
梳理完 prepare_point_selects() 函数的实现逻辑。最后我们看看execute_point_selects()函数的实现逻辑。
  1. SELECT count(k)
  2.           FROM sbtest1
  3.           WHERE k BETWEEN ? AND ? OR k BETWEEN ? AND ? OR k BETWEEN ? AND ? OR k BETWEEN ? AND ? OR k BETWEEN ? AND ? OR k BETWEEN ? AND ? OR k BETWEEN ? AND ? OR k BETWEEN ? AND ? OR k BETWEEN ? AND ? OR k BETWEEN ? AND ?
复制代码
逻辑也非常简单，先赋值，最后执行。
所以如果我们要基于 sbtest 表自定义测试项，最关键的一步其实就是在 stmt_defs 中定义 Prepared Statements 语句和相关的参数类型。至于 prepare_xxx 和 execute_xxx 函数，实现起来都非常简单。
 

总结

1. 基准测试一般会关注三个指标：TPS/QPS、响应耗时和并发量。
2. 只有进行全链路压测，我们才知道系统的瓶颈在哪里。不能想当然的以为，数据库不容易横向扩展，系统瓶颈就一定会出在数据库层。事实上，很多系统在设计之初就引入了缓存，而缓存会分担很大一部分读流量，这种架构下的数据库压力其实并不大。
3. 不能简单的将 sysbench 的测试结果（TPS/QPS） 作为业务系统的吞吐量指标，因为两者的业务模型并不一致。
4. 如果要自定义测试脚本，实现的方式有两种：

  • 自己实现测试相关的所有函数，具体实现细节可参考 bulk_insert.lua。
  • 基于 sbtest 表自定义测试项。实现过程中最关键的一步是在 stmt_defs 中定义 Prepared Statements 语句和相关的参数类型。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！
回复

使用道具 举报

0 个回复

正序浏览
返回列表

快速回复

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

张国伟

金牌会员
这个人很懒什么都没写!

楼主热帖

标签云

存储 挺好的 服务器
微信订阅号
微信服务号
微信客服
小程序
H5
关于我们 商务合作 网站地图
©Copyright 2022-2024 杭州祥升科技有限公司 版权所有 浙ICP备20004199号
快速回复 返回顶部 返回列表