1. 程式人生 > 實用技巧 >如何用Swoole測試MySQL在特定SQL下的併發效能

如何用Swoole測試MySQL在特定SQL下的併發效能

場景描述

  • 從全文檢索或者快取中獲取ID,根據ID查詢資料庫獲取基礎資訊,進行頁面展示

  • SQL:select * from table where id in(id1,id2,id3...id40)

  • 此種場景的常規方案是將id對應的基礎資訊在redis中快取一份,mysql只是做為後端儲存。我們做如下測試就是嘗試mysql是否可應對這種查詢場景。然而根本原因是DBA告訴我,現在MySQL效能已經極其厲害。

資料量說明

  • 1.8億條資料

  • 使用Oneproxy分為200個數據表(200個表在同一臺機器)

  • 因為id是隨機的,查詢時oneproxy會將查詢分散到所有後端MySql

效能指標

  • 併發數

  • 每次查詢的響應時間

MySql伺服器

  • 騰訊雲提供的MySQL服務

mysql的具體配置不在這裡列舉,即下面的效能報告只是特定場景下的效能分析,不代表mysql的“真實”效能。本文核心是提供一種測試方法,而不是單純的提供一份資料報告 。

測試程式簡介

  • 基礎:php、swoole協程

  • 使用協程控制程式的併發數,每個協程中執行一次查詢。當一次查詢完成,管道通知開始新的查詢。

程式程式碼

mysql_test.php

<?phpini_set('memory_limit', '1280M'); //協程會耗費較多的記憶體define('MAX_MYSQLPOOL_NUM', $argv['1']); //mysql最大連線數,即併發數define('TESTCOUNT', $argv['2']);  //一共的測試次數$mysqlconf = [    'host' => '127.0.0.1',    'port' => 3307,    'user' => 'root',    'password' => '123456',    'database' => '',    'timeout' => 10];

Swoole\Coroutine::create(function () use ($mysqlconf) {
    $stime = microtime(true); //程式開始時間

    $pool = new MysqlPool($mysqlconf); 
    $chan = new chan(MAX_MYSQLPOOL_NUM); //併發數,協程間使用channel通訊

    for($i = 1; $i< TESTCOUNT + MAX_MYSQLPOOL_NUM; $i++) {
        $chan->push('x');
        Swoole\Coroutine::create(function() use($pool, $chan, $i) {            //測試的業務邏輯開始
            $conn = $pool->get();            if($conn) {
                $sql = "select /* parallel */ * from table where id in (".implode(',', getRandpid()).')';
                $time1 = microtime(true);
                $conn->query($sql);
                $time2 = microtime(true);                if($i % intval(TESTCOUNT / 10) == 0) { //輸出執行的進度
                    echo "\n finish $i / ".TESTCOUNT; 
                }
                $pool->put($conn, (($time2 - $time1) * 1000)); //每次查詢耗時就不單獨做例項,直接修改連線池類做簡單統計
            } else {                echo "\n connect mysql fail,跳過SQL";
            }            //業務邏輯結束
            $chan->pop();
        });
    }
    $etime = microtime(true);    echo "\n ============執行結果=============";    echo "\n 併發數量: ".MAX_MYSQLPOOL_NUM;    echo "\n 查詢次數: ".TESTCOUNT;    echo "\n 執行總耗時: ".intval($etime - $stime)."秒\n";    
    echo "\n QPS (查詢次數/總耗時) :". intval((TESTCOUNT / ($etime - $stime)));    echo "\n 每次查詢耗時平均值:".intval($pool->alltime / TESTCOUNT) ."ms";    echo "\n ============end=============\n";    die;
});//資料庫連線池,https://wiki.swoole.com/wiki/page/852.htmlclass MysqlPool{    protected $pool;    private $mysqlconf;    public $alltime;    public function __construct($mysqlconf)
    {        $this->pool = new SplQueue();        $this->mysqlconf = $mysqlconf;        $this->alltime = 0;
    }    public function put($mysql, $time = 0)
    {        $this->pool->push($mysql);        $this->alltime += $time;
    }    public function get()
    {        //有空閒連線
        if (count($this->pool) > 0) {            return $this->pool->pop();
        }
        
        $mysql = new Swoole\Coroutine\Mysql();
        $res = $mysql->connect($this->mysqlconf);        if ($res == false) {            echo "\n connect error info: ".$mysql->error."\n";            return false;
        } else {            return $mysql;
        }
    }
}//隨機生成的數字function getRandpid(){    for ($i = 0; $i < 40; ++$i) {
        $ret[] = rand(1, 185724600);
    }    return $ret;
}

測試1:直接連線mysql,查詢單表的效能

  • 測試程式碼:修改以上程式碼

  • 1:修改mysql配置為直接連線mysql,而不是oneproxy。即埠從3307改為3306

  • 2:“業務邏輯”部分中的SQL改為:

    $sql = "select * from table_10 where id in (".implode(',', getRandpid()).')';
    
  • 測試指令:

    php mysql_test.php 1 1000 //併發為1,查詢1000次php mysql_test.php 10 1000 //併發為10,查詢1000次php mysql_test.php 50 10000 //併發為50,查詢10000次...
    php mysql_test.php 500 100000 //併發為500,查詢100000次
    
  • 測試結果:

    資料庫單表測試

  • 結果分析:
    根據主鍵查詢單表,mysql的效能基本可以滿足正常業務的需求

測試2

  • 說明
    查詢oneproxy。因為查詢id是隨機的,每查一次oneproxy,對應查詢的是40個mysql的表。
    即,當oneproxy的併發數為1,mysql的對應併發數是40

  • 測試程式碼:
    以上提供的程式碼即為此種情況的程式碼,無須修改。

  • 測試指令:

    php mysql_test.php 1 1000 //併發為1,查詢1000次php mysql_test.php 10 1000 //併發為10,查詢1000次php mysql_test.php 50 10000 //併發為50,查詢10000次...
    php mysql_test.php 100 10000 //併發為100,查詢10000次
    
  • 測試結果:

    oneproxy並行查詢

  • 結果分析:

  • 1:OneProxy做為mysql的代理,對查詢效能基本0消耗。
    當oneproxy的查詢併發為5時,對應mysql的查詢併發為200。測試2的結果,併發為5,每次查詢耗時30ms。測試1,mysql併發200,每次查詢耗時29ms。可得到結論,oneproxy對效能0消耗。

  • 2:每次查詢耗時太高,很小流量的業務才能使用此方案。

測試3:後端mysql表分散到多臺機器

  • 分到兩臺,測試結果:

  • 分析:
    mysql分到兩臺機器。同樣併發數時,每次查詢耗時能縮短一倍。

  • 推測:
    mysql表分到更多的機器,每次查詢耗時能達到測試1的結果,可滿足正常的業務需求。

最後,關注效能的同時,也要關注系統的穩定性、開發者的易用性、易維護性。


更多學習內容可以訪問【對標大廠】精品PHP架構師教程目錄大全,只要你能看完保證薪資上升一個臺階(持續更新)

以上內容希望幫助到大家,很多PHPer在進階的時候總會遇到一些問題和瓶頸,業務程式碼寫多了沒有方向感,不知道該從那裡入手去提升,對此我整理了一些資料,包括但不限於:分散式架構、高可擴充套件、高效能、高併發、伺服器效能調優、TP6,laravel,YII2,Redis,Swoole、Swoft、Kafka、Mysql優化、shell指令碼、Docker、微服務、Nginx等多個知識點高階進階乾貨需要的可以免費分享給大家,需要的可以加入我的PHP技術交流群953224940

進階PHP月薪30k>>>架構師成長路線【視訊、面試文件免費獲取】