如何用Swoole測試MySQL在特定SQL下的併發效能
場景描述
-
從全文檢索或者快取中獲取ID,根據ID查詢資料庫獲取基礎資訊,進行頁面展示
-
SQL:select * from table where id in(id1,id2,id3...id40)
-
此種場景的常規方案是將id對應的基礎資訊在redis中快取一份,mysql只是做為後端儲存。我們做如下測試就是嘗試mysql是否可應對這種查詢場景。然而根本原因是DBA告訴我,現在MySQL效能已經極其厲害。
資料量說明
-
1.8億條資料
-
使用Oneproxy分為200個數據表(200個表在同一臺機器)
-
因為id是隨機的,查詢時oneproxy會將查詢分散到所有後端MySql
效能指標
-
併發數
-
每次查詢的響應時間
MySql伺服器
- 騰訊雲提供的MySQL服務
mysql的具體配置不在這裡列舉,即下面的效能報告只是特定場景下的效能分析,不代表mysql的“真實”效能。本文核心是提供一種測試方法,而不是單純的提供一份資料報告 。
測試程式簡介
-
基礎:php、swoole協程
-
使用協程控制程式的併發數,每個協程中執行一次查詢。當一次查詢完成,管道通知開始新的查詢。
程式程式碼
mysql_test.php
<?phpini_set('memory_limit', '1280M'); //協程會耗費較多的記憶體define('MAX_MYSQLPOOL_NUM', $argv['1']); //mysql最大連線數,即併發數define('TESTCOUNT', $argv['2']); //一共的測試次數$mysqlconf = [ 'host' => '127.0.0.1', 'port' => 3307, 'user' => 'root', 'password' => '123456', 'database' => '', 'timeout' => 10]; Swoole\Coroutine::create(function () use ($mysqlconf) { $stime = microtime(true); //程式開始時間 $pool = new MysqlPool($mysqlconf); $chan = new chan(MAX_MYSQLPOOL_NUM); //併發數,協程間使用channel通訊 for($i = 1; $i< TESTCOUNT + MAX_MYSQLPOOL_NUM; $i++) { $chan->push('x'); Swoole\Coroutine::create(function() use($pool, $chan, $i) { //測試的業務邏輯開始 $conn = $pool->get(); if($conn) { $sql = "select /* parallel */ * from table where id in (".implode(',', getRandpid()).')'; $time1 = microtime(true); $conn->query($sql); $time2 = microtime(true); if($i % intval(TESTCOUNT / 10) == 0) { //輸出執行的進度 echo "\n finish $i / ".TESTCOUNT; } $pool->put($conn, (($time2 - $time1) * 1000)); //每次查詢耗時就不單獨做例項,直接修改連線池類做簡單統計 } else { echo "\n connect mysql fail,跳過SQL"; } //業務邏輯結束 $chan->pop(); }); } $etime = microtime(true); echo "\n ============執行結果============="; echo "\n 併發數量: ".MAX_MYSQLPOOL_NUM; echo "\n 查詢次數: ".TESTCOUNT; echo "\n 執行總耗時: ".intval($etime - $stime)."秒\n"; echo "\n QPS (查詢次數/總耗時) :". intval((TESTCOUNT / ($etime - $stime))); echo "\n 每次查詢耗時平均值:".intval($pool->alltime / TESTCOUNT) ."ms"; echo "\n ============end=============\n"; die; });//資料庫連線池,https://wiki.swoole.com/wiki/page/852.htmlclass MysqlPool{ protected $pool; private $mysqlconf; public $alltime; public function __construct($mysqlconf) { $this->pool = new SplQueue(); $this->mysqlconf = $mysqlconf; $this->alltime = 0; } public function put($mysql, $time = 0) { $this->pool->push($mysql); $this->alltime += $time; } public function get() { //有空閒連線 if (count($this->pool) > 0) { return $this->pool->pop(); } $mysql = new Swoole\Coroutine\Mysql(); $res = $mysql->connect($this->mysqlconf); if ($res == false) { echo "\n connect error info: ".$mysql->error."\n"; return false; } else { return $mysql; } } }//隨機生成的數字function getRandpid(){ for ($i = 0; $i < 40; ++$i) { $ret[] = rand(1, 185724600); } return $ret; }
測試1:直接連線mysql,查詢單表的效能
-
測試程式碼:修改以上程式碼
-
1:修改mysql配置為直接連線mysql,而不是oneproxy。即埠從3307改為3306
-
2:“業務邏輯”部分中的SQL改為:
$sql = "select * from table_10 where id in (".implode(',', getRandpid()).')';
-
測試指令:
php mysql_test.php 1 1000 //併發為1,查詢1000次php mysql_test.php 10 1000 //併發為10,查詢1000次php mysql_test.php 50 10000 //併發為50,查詢10000次... php mysql_test.php 500 100000 //併發為500,查詢100000次
-
測試結果:
資料庫單表測試
-
結果分析:
根據主鍵查詢單表,mysql的效能基本可以滿足正常業務的需求
測試2
-
說明
查詢oneproxy。因為查詢id是隨機的,每查一次oneproxy,對應查詢的是40個mysql的表。
即,當oneproxy的併發數為1,mysql的對應併發數是40 -
測試程式碼:
以上提供的程式碼即為此種情況的程式碼,無須修改。 -
測試指令:
php mysql_test.php 1 1000 //併發為1,查詢1000次php mysql_test.php 10 1000 //併發為10,查詢1000次php mysql_test.php 50 10000 //併發為50,查詢10000次... php mysql_test.php 100 10000 //併發為100,查詢10000次
-
測試結果:
oneproxy並行查詢
-
結果分析:
-
1:OneProxy做為mysql的代理,對查詢效能基本0消耗。
當oneproxy的查詢併發為5時,對應mysql的查詢併發為200。測試2的結果,併發為5,每次查詢耗時30ms。測試1,mysql併發200,每次查詢耗時29ms。可得到結論,oneproxy對效能0消耗。 -
2:每次查詢耗時太高,很小流量的業務才能使用此方案。
測試3:後端mysql表分散到多臺機器
-
分到兩臺,測試結果:
-
分析:
mysql分到兩臺機器。同樣併發數時,每次查詢耗時能縮短一倍。 -
推測:
mysql表分到更多的機器,每次查詢耗時能達到測試1的結果,可滿足正常的業務需求。
最後,關注效能的同時,也要關注系統的穩定性、開發者的易用性、易維護性。
更多學習內容可以訪問【對標大廠】精品PHP架構師教程目錄大全,只要你能看完保證薪資上升一個臺階(持續更新)
以上內容希望幫助到大家,很多PHPer在進階的時候總會遇到一些問題和瓶頸,業務程式碼寫多了沒有方向感,不知道該從那裡入手去提升,對此我整理了一些資料,包括但不限於:分散式架構、高可擴充套件、高效能、高併發、伺服器效能調優、TP6,laravel,YII2,Redis,Swoole、Swoft、Kafka、Mysql優化、shell指令碼、Docker、微服務、Nginx等多個知識點高階進階乾貨需要的可以免費分享給大家,需要的可以加入我的PHP技術交流群953224940