一、前言

做为一名性能工程师掌握对 MySQL 的性能测试是非常必要的，本文基于 Sysbench 对MySQL OLTP（联机事务处理） 的 BenchMark 测试案例详细介绍具体方法。

二、测试环境

1、服务器配置

数据库服务器：

• 操作系统：CentOS 7.6 64位
• CPU：8核
• 内存：16GB
• 磁盘：500GB，最大吞吐量150 MB/s
• 数据库版本：MySQL Community Server 8.0.37
• 网络：局域网

测试服务器：

• 操作系统：CentOS 7.6 64位
• CPU：8核
• 内存：16GB
• 磁盘：500GB，最大吞吐量150 MB/s
• 测试软件：sysbench-1.0.12
• 网络：局域网

2、测试拓扑

📢注意：

• 尽量不要在 MySQL 本服务器上进行测试，一方面可能无法体现网络（哪怕是局域网）的影响，另一方面，sysbench 的运行（并发数较高时）会影响挤压 MySQL 服务器性能。
• 在开始 MySQL 测试之前，应针对数据库服务器做好 BenchMark 测试。

三、测试工具安装

Sysbench是一款基于LuaJIT的，模块化多线程基准测试工具，常用于数据库基准测试。通过内置的数据库测试模型，采用多线程并发操作来评估数据库的性能。了解Sysbench更多详情，请访问：https://github.com/akopytov/sysbench。

本次测试使用的Sysbench版本为1.0.12，具体的安装命令如下：

# wget -c https://github.com/akopytov/sysbench/archive/1.0.12.zip
# yum install autoconf libtool mysql mysql-devel vim unzip
# unzip 1.0.12.zip
# cd sysbench-1.0.12
# ./autogen.sh
# ./configure
# make
# make install
#sysbench --version

显示以下内容说明已安装成功。

四、测试步骤

请根据实际信息，替换数据库、连接IP与用户密码。

1、导入数据

（1）使用 MySQL 命令或第三方工具登录数据库，并创建测试数据库 “loadtest” 。

mysql -u root -P 3306 -h -p -e "create database loadtest"

（2）使用 sysbench 命令导入测试背景数据到 “loadtest” 数据库。

sysbench
--test=/usr/local/share/sysbench/tests/include/oltp_legacy/oltp.lua
--db-driver=mysql --mysql-db=loadtest --mysql-user=root
--mysql-password= --mysql-port=3306 --mysql-host= --oltp-tables-count=64 --oltp-table-size=10000000 --num-threads=20 prepare

脚本参数及其含义：

• –test：指定要运行的测试脚本，这里选择的是一个OLTP（在线事务处理）负载测试脚本。oltp.lua是一个预定义的脚本，用于模拟常见的数据库操作。
• –db-driver：指定数据库驱动程序，这里选择的是 MySQL。
• –mysql-db：指定要测试的 MySQL 数据库名称，这里是loadtest数据库。
• –mysql-user：指定用于连接 MySQL 数据库的用户名，这里是 root 用户。
• mysql-password：指定用于连接 MySQL 数据库的密码，这里为空，意味着没有设置密码（不推荐在生产环境中使用空密码）。
• –mysql-port：指定 MySQL 服务器监听的端口，这里是默认的 3306 端口。
• –mysql-host：指定 MySQL 服务器的主机地址，这里为空，表示连接本地数据库。
• –oltp-tables-count：指定用于测试的表的数量，这里是 64 个表。
• –oltp-table-size：指定每个表中的行数，这里是 10,000,000 行。表示每个表有一千万条记录。
• –num-threads：指定测试时使用的线程数，这里是 20 个线程。表示并发 20 个线程进行测试。
• prepare：测试提前准备数据

本文是生成 64 张表，每张表有1千万数据，合计导入6亿4千万条数据。

显示下面信息说明已经成功完成测试数据生成：

WARNING: the --test option is deprecated. You can pass a script name or path on the command line without any options.
WARNING: --num-threads is deprecated, use --threads instead
sysbench 1.0.12 (using bundled LuaJIT 2.1.0-beta2)

......
Inserting 10000000 records into 'sbtest63'
Creating secondary indexes on 'sbtest63'...
Creating table 'sbtest64'...
Inserting 10000000 records into 'sbtest64'
Creating secondary indexes on 'sbtest64'...
[root@ecs-825d-1113052 ~]#

生产的表结构如下：

CREATE TABLE sbtest (
id INTEGER UNSIGNED NOT NULL AUTO_INCREMENT,
k INTEGER UNSIGNED DEFAULT '0' NOT NULL,
c CHAR(120) DEFAULT '' NOT NULL,
pad CHAR(60) DEFAULT '' NOT NULL,
PRIMARY KEY (id)
) ENGINE=InnoDB

生产数据样例如下：

这里用到 oltp.lua 这个关键脚本，我们单独拿出分析下，源码如下：

[root@ecs-825d-1113052 ~]# cat /usr/local/share/sysbench/tests/include/oltp_legacy/oltp.lua
-- 匹配test路径并检查
pathtest = string.match(test, "(.*/)")
if pathtest then
   dofile(pathtest .. "common.lua")
else
   require("common")
end

-- 线程初始化函数
function thread_init()
   -- 设置变量
   set_vars()

   -- 检查数据库驱动和表引擎类型
   if (((db_driver == "mysql") or (db_driver == "attachsql")) and mysql_table_engine == "myisam") then
      local i
      local tables = {}
      -- 为每个表构建锁定语句
      for i=1, oltp_tables_count do
         tables[i] = string.format("sbtest%i WRITE", i)
      end
      -- 设置锁定和解锁查询
      begin_query = "LOCK TABLES " .. table.concat(tables, " ,")
      commit_query = "UNLOCK TABLES"
   else
      -- 默认使用事务的开始和提交语句
      begin_query = "BEGIN"
      commit_query = "COMMIT"
   end
end

-- 获取范围查询的条件字符串
function get_range_str()
   local start = sb_rand(1, oltp_table_size)
   return string.format(" WHERE id BETWEEN %u AND %u",
                        start, start + oltp_range_size - 1)
end

-- 定义事件函数
function event()
   local rs
   local i
   local table_name
   local c_val
   local pad_val
   local query

   -- 随机选择一个表
   table_name = "sbtest".. sb_rand_uniform(1, oltp_tables_count)
   -- 如果没有跳过事务，则开始事务
   if not oltp_skip_trx then
      db_query(begin_query)
   end

   -- 如果不是仅写操作
   if not oltp_write_only then
      -- 执行点查询
      for i=1, oltp_point_selects do
         rs = db_query("SELECT c FROM ".. table_name .." WHERE id=" .. sb_rand(1, oltp_table_size))
      end

      -- 如果需要执行范围查询
      if oltp_range_selects then
         -- 简单范围查询
         for i=1, oltp_simple_ranges do
            rs = db_query("SELECT c FROM ".. table_name .. get_range_str())
         end

         -- 范围求和查询
         for i=1, oltp_sum_ranges do
            rs = db_query("SELECT SUM(K) FROM ".. table_name .. get_range_str())
         end

         -- 范围排序查询
         for i=1, oltp_order_ranges do
            rs = db_query("SELECT c FROM ".. table_name .. get_range_str() .. " ORDER BY c")
         end

         -- 范围去重查询
         for i=1, oltp_distinct_ranges do
            rs = db_query("SELECT DISTINCT c FROM ".. table_name .. get_range_str() .. " ORDER BY c")
         end
      end
   end

   -- 如果不是只读操作
   if not oltp_read_only then
      -- 执行索引更新
      for i=1, oltp_index_updates do
         rs = db_query("UPDATE " .. table_name .. " SET k=k+1 WHERE id=" .. sb_rand(1, oltp_table_size))
      end

      -- 执行非索引更新
      for i=1, oltp_non_index_updates do
         c_val = sb_rand_str("###########-###########-###########-###########-###########-###########-###########-###########-###########-###########")
         query = "UPDATE " .. table_name .. " SET c='" .. c_val .. "' WHERE id=" .. sb_rand(1, oltp_table_size)
         rs = db_query(query)
         if rs then
            print(query)
         end
      end

      -- 执行删除和插入操作
      for i=1, oltp_delete_inserts do
         i = sb_rand(1, oltp_table_size)
         rs = db_query("DELETE FROM " .. table_name .. " WHERE id=" .. i)
         c_val = sb_rand_str("###########-###########-###########-###########-###########-###########-###########-###########-###########-###########")
         pad_val = sb_rand_str("###########-###########-###########-###########-###########")
         rs = db_query("INSERT INTO " .. table_name ..  " (id, k, c, pad) VALUES " .. string.format("(%d, %d, '%s', '%s')",i, sb_rand(1, oltp_table_size) , c_val, pad_val))
      end
   end

   -- 如果没有跳过事务，则提交事务
   if not oltp_skip_trx then
      db_query(commit_query)
   end
end

这段 oltp.lua 代码的主要步骤如下：

• 路径匹配与加载配置：
  • 检查并获取脚本的路径。
  • 如果路径存在，加载common.lua 文件；否则使用 require 函数加载模块。
• 线程初始化 (thread_init)：
  • 初始化变量。
  • 根据数据库驱动和表引擎类型，决定是否使用锁表操作。
  • 如果数据库驱动是 mysql 或 attachsql 且表引擎为 myisam，则构建锁定和解锁查询语句。
  • 否则，使用默认的事务控制语句（BEGIN 和 COMMIT）。
• 获取范围查询字符串 (get_range_str)：
  • 随机生成一个起始ID。
  • 返回一个用于范围查询的条件字符串，指定查询范围为从起始ID到起始ID加上范围大小减去1。
• 事件处理 (event)：
  • 定义事件函数，该函数是 Sysbench 测试的核心部分
  • 事件函数包括以下操作：
    • 随机选择一个表。
    • 如果没有跳过事务，则开始事务。
    • 根据配置执行不同类型的查询和更新操作，包括点查询、范围查询、索引更新、非索引更新、删除和插入操作。
    • 范围查询包括简单范围查询、求和范围查询、排序范围查询和去重范围查询。
    • 如果没有跳过事务，则提交事务。

这段代码是典型的OLTP（联机事务处理）负载测试脚本，通过模拟多种数据库操作（查询、更新、删除、插入），来评估数据库在高并发访问场景下的性能表现。

2、压测数据

sysbench
--test=/usr/local/share/sysbench/tests/include/oltp_legacy/oltp.lua
--db-driver=mysql --mysql-db=loadtest --mysql-user=root
--mysql-password= --mysql-port=3306 --mysql-host=--oltp-tables-count=64
--oltp-table-size=10000000 --max-time=3600 --max-requests=0
--num-threads=200 --report-interval=3 --forced-shutdown=1 run

脚本参数及其含义：

• –test：指定要运行的测试脚本，这里选择的是一个OLTP（在线事务处理）负载测试脚本。oltp.lua是一个预定义的脚本，用于模拟常见的数据库操作。
• –db-driver：指定数据库驱动程序，这里选择的是 MySQL。
• –mysql-db：指定要测试的 MySQL 数据库名称，这里是 loadtest 数据库。
• –mysql-user：指定用于连接 MySQL 数据库的用户名，这里是 root 用户。
• mysql-password：指定用于连接 MySQL 数据库的密码，这里为空，意味着没有设置密码（不推荐在生产环境中使用空密码）。
• –mysql-port：指定 MySQL 服务器监听的端口，这里是默认的 3306 端口。
• –mysql-host：指定 MySQL 服务器的主机地址，这里为空，表示连接本地数据库。
• –oltp-tables-count：指定用于测试的表的数量，这里是 64 个表。
• –oltp-table-size：指定每个表中的行数，这里是 10,000,000 行。表示每个表有一千万条记录。
• –max-time：指定测试的最大持续时间为3600秒（1小时）。
• –max-requests：指定要执行的最大请求数。值为0表示请求数不受限制，直到达到最大时间。
• –num-threads：指定测试时使用的线程数，这里是 200 个线程。表示并发 200 个线程进行测试。
• –report-interval：指定报告中间结果的时间间隔（每3秒报告一次）。
• –forced-shutdown：指定如果达到最大时间，Sysbench应该强制关闭测试（1表示启用）。
• run：开始运行测试的命令。

简要说明就是并发200线程，压测1小时，每3秒打印一次结果等。

3、清理数据

测试完成后，可以运行以下脚本清理测试数据：

sysbench
--test=/usr/local/share/sysbench/tests/include/oltp_legacy/oltp.lua
--db-driver=mysql --mysql-db=loadtest --mysql-user=root
--mysql-password= --mysql-port=3306 --mysql-host= --oltp-tables-count=64 --oltp-table-size=10000000--max-time=3600 --max-requests=0 --num-threads=200 cleanup

脚本参数及其含义：

• –test：指定要运行的测试脚本，这里选择的是一个OLTP（在线事务处理）负载测试脚本。oltp.lua是一个预定义的脚本，用于模拟常见的数据库操作。
• –db-driver：指定数据库驱动程序，这里选择的是 MySQL。
• –mysql-db：指定要测试的 MySQL 数据库名称，这里是 loadtest 数据库。
• –mysql-user：指定用于连接 MySQL 数据库的用户名，这里是 root 用户。
• mysql-password：指定用于连接 MySQL 数据库的密码，这里为空，意味着没有设置密码（不推荐在生产环境中使用空密码）。
• –mysql-port：指定 MySQL 服务器监听的端口，这里是默认的 3306 端口。
• –mysql-host：指定 MySQL 服务器的主机地址，这里为空，表示连接本地数据库。
• –oltp-tables-count：指定用于测试的表的数量，这里是 64 个表。
• –oltp-table-size：指定每个表中的行数，这里是 10,000,000 行。表示每个表有一千万条记录。
• –max-time：指定测试的最大持续时间为3600秒（1小时）。
• –max-requests：指定要执行的最大请求数。值为0表示请求数不受限制，直到达到最大时间。
• –num-threads：指定测试时使用的线程数，这里是 200 个线程。表示并发 200 个线程进行测试。
• cleanup：测试完成后对数据库进行清理。

五、结果解析

以下为压测过程中打印的结果：

[ 3522s ] thds: 200 tps: 153.98 qps: 3119.87 (r/w/o: 2155.68/656.24/307.95) lat (ms,95%): 1235.62 err/s: 0.00 reconn/s: 0.00
[ 3525s ] thds: 200 tps: 157.36 qps: 2992.89 (r/w/o: 1997.37/680.79/314.72) lat (ms,95%): 4358.09 err/s: 0.00 reconn/s: 0.00
[ 3528s ] thds: 200 tps: 85.33 qps: 1852.86 (r/w/o: 1400.23/281.98/170.65) lat (ms,95%): 1258.08 err/s: 0.00 reconn/s: 0.00

测试结束后，查看输出文件，如下所示：

FATAL: The --max-time limit has expired, forcing shutdown...
SQL statistics:
    queries performed:
        read:                            5358024
        write:                           1530377
        other:                           765297
        total:                           7653698
    transactions:                        382581 (106.24 per sec.)
    queries:                             7653698 (2125.42 per sec.)
    ignored errors:                      0      (0.00 per sec.)
    reconnects:                          0      (0.00 per sec.)

Number of unfinished transactions on forced shutdown: 200

General statistics:
    total time:                          3601.0196s
    total number of events:              382581

Latency (ms):
         min:                                  4.72
         avg:                               1881.83
         max:                              10972.92
         95th percentile:                   4128.91
         sum:                            719951371.94

Threads fairness:
    events (avg/stddev):           1913.9050/24.88
    execution time (avg/stddev):   3599.7569/1.81

是不是有点晕，那我们稍微翻译下，如下所示：

FATAL: The --max-time limit has expired, forcing shutdown...
#SQL统计部分表明了总查询量以及每秒执行的查询和事务数量。这些数据有助于了解数据库的处理能力和性能表现。
SQL statistics（SQL统计信息）:
    queries performed（查询执行情况）:
        read（读查询）:                          5358024
        write（写查询）:                         1530377
        other（其它查询）:                        765297
        total（总查询）:                         7653698
    transactionss（事务）:                        382581 (106.24 per sec.) (每秒106.24次)
    queries（查询）:                             7653698 (2125.42 per sec.) (每秒2125.42次)
    ignored errors（忽略的错误）:                      0      (0.00 per sec.) (每秒0次)
    reconnect（重连）s:                          0      (0.00 per sec.) (每秒0次)
    
# 强制关闭时未完成的事务数量为200，表明在测试过程中有200个事务未能完成，这可能与测试环境或配置有关。
Number of unfinished transactions on forced shutdown: 200

General statistics（一般统计信息）:
    total time（总时间）:                          3601.0196s
    total number of events（事件总数）:              382581
    
#延迟数据展示了不同百分位的延迟情况，这些数据对分析数据库响应时间和性能瓶颈很有用。
Latency（延迟） (ms):
         min（最小延迟）:                                  4.72
         avg（平均延迟）:                               1881.83
         max（最大延迟）:                              10972.92
         95th percentile（95%分位延迟）:                4128.91
         sum（延迟总和）:                          719951371.94
         
#线程公平性数据表明，每个线程处理的事件数的平均值和标准差，以及每个线程的执行时间的平均值和标准差。
Threads fairness(线程公平性):
    events (avg/stddev)（事件（平均值/标准差））:           1913.9050/24.88
    execution time (avg/stddev)（执行时间（平均值/标准差））:   3599.7569/1.81

这些数据展示了MySQL在高并发负载下的性能情况，主要关注点包括：

• 查询和事务的执行率：每秒查询和事务数量表明了数据库的吞吐量。
• 延迟：延迟数据（平均、最大和95%分位）显示了数据库的响应时间和性能瓶颈。
• 未完成事务：强制关闭时未完成的事务数提示了潜在的事务处理问题。
• 线程公平性：线程间的负载均衡情况，标准差较低表示负载分配较为均衡。

主要关注的性能指标有：

• TPS ：Transaction Per Second，数据库每秒执行的事务数，每个事务中包含18条SQL语句。
• QPS ：Query Per Second，数据库每秒执行的SQL数，包含insert、select、update、delete等。
• 延迟：Latency，数据库执行的事务耗时。

Sysbench默认提交的事务中包含18条SQL语句，具体执行语句和条数如下：

主键SELECT语句，10条：
SELECT c FROM ​{rand_table_name} where id={rand_id};

范围SELECT语句，4条：
SELECT c FROM ​{rand_table_name} WHERE id BETWEEN {rand_id_start} AND ${rand_id_end};
SELECT SUM(K) FROM ​{rand_table_name} WHERE id BETWEEN {rand_id_start} AND ${rand_id_end};
SELECT c FROM ​{rand_table_name} WHERE id BETWEEN {rand_id_start} AND ${rand_id_end} ORDER BY c;
SELECT DISTINCT c FROM ​{rand_table_name} WHERE id BETWEEN {rand_id_start} AND ${rand_id_end} ORDER BY c;

UPDATE语句，2条：
UPDATE ​{rand_table_name} SET k=k+1 WHERE id={rand_id}
UPDATE ​{rand_table_name} SET c={rand_str} WHERE id=${rand_id}

DELETE语句，1条：
DELETE FROM ​{rand_table_name} WHERE id={rand_id}

INSERT语句，1条：
INSERT INTO ​{rand_table_name} (id, k, c, pad) VALUES ({rand_id},​{rand_k},{rand_str_c},${rand_str_pad})

这些结果可以用于性能调优和瓶颈分析，从而提升 MySQL 数据库在实际应用中的表现。

从Sysbench测试结果来看，这台MySQL服务器在高并发负载下的性能表现有以下几个关键点：

• 事务处理能力：
  • 每秒事务数（TPS）为106.24次。
  • 总事务数为 382581。
• 查询处理能力：
  • 每秒查询数（QPS）为 2125.42次。
  • 总查询数为 7653698。
• 延迟：
  • 平均延迟为 1881.83 毫秒，较高，说明在负载压力下，响应时间比较长。
  • 最大延迟为 10972.92 毫秒，非常高，表明在高负载下可能存在严重的性能瓶颈。
  • 95% 分位延迟为 4128.91 毫秒，表示大多数请求的响应时间在 4 秒以上，体验较差。
• 未完成事务：
  • 强制关闭时未完成的事务数为 200，表明在高负载下有一部分事务未能及时处理完成。
• 线程公平性：
  • 每个线程处理的事件数的标准差为 24.88，表明线程间的负载分配较为均衡。
  • 每个线程的执行时间的标准差为 1.81，表明线程执行时间也较为一致。

这里我们可以对比下某云的测试结果：

数据服务器资源监控数据：

我们可以看到CPU峰值到75%左右，磁盘峰值写入速率达50MB/s，峰值读取速率达 100MB/s。

六、最后

我们可以看到从测试结果的结果来看，MySQL数据库的性能表现并不好，那么我们接下来应对MySQL数据库进行性能调优并再次验证，希望本文能对你的工作带来一点点帮助，如果有用别忘了点个赞，多谢。