php解決高併發問題 php解決高併發問題
php解決高併發問題
轉發來自：https://www.cnblogs.com/walblog/articles/8476579.html（鹹魚想翻身）
我們通常衡量一個Web系統的吞吐率的指標是QPS（Query Per Second，每秒處理請求數），解決每秒數萬次的高併發場景，這個指標非常關鍵。舉個例子，我們假設處理一個業務請求平均響應時間為100ms，同時，系統內有20臺Apache的Web伺服器，配置MaxClients為500個（表示Apache的最大連線數目）。
那麼，我們的Web系統的理論峰值QPS為（理想化的計算方式）：
20*500/0.1 = 100000 （10萬QPS）
咦？我們的系統似乎很強大，1秒鐘可以處理完10萬的請求，5w/s的秒殺似乎是“紙老虎”哈。實際情況，當然沒有這麼理想。在高併發的實際場景下，機器都處於高負載的狀態，在這個時候平均響應時間會被大大增加。
普通的一個p4的伺服器每天最多能支援大約10萬左右的IP，如果訪問量超過10W那麼需要專用的伺服器才能解決，如果硬體不給力 軟體怎麼優化都是於事無補的。主要影響伺服器的速度
有：網路-硬碟讀寫速度-記憶體大小-cpu處理速度。
就Web伺服器而言，Apache打開了越多的連線程序，CPU需要處理的上下文切換也越多，額外增加了CPU的消耗，然後就直接導致平均響應時間增加。因此上述的MaxClient數目，要根據CPU、記憶體等硬體因素綜合考慮，絕對不是越多越好。可以通過Apache自帶的abench來測試一下，取一個合適的值。然後，我們選擇記憶體操作級別的儲存的Redis，在高併發的狀態下，儲存的響應時間至關重要。網路頻寬雖然也是一個因素，不過，這種請求資料包一般比較小，一般很少成為請求的瓶頸。負載均衡成為系統瓶頸的情況比較少，在這裡不做討論哈。
那麼問題來了，假設我們的系統，在5w/s的高併發狀態下，平均響應時間從100ms變為250ms（實際情況，甚至更多）：
20*500/0.25 = 40000 （4萬QPS）
於是，我們的系統剩下了4w的QPS，面對5w每秒的請求，中間相差了1w。
舉個例子，高速路口，1秒鐘來5部車，每秒通過5部車，高速路口運作正常。突然，這個路口1秒鐘只能通過4部車，車流量仍然依舊，結果必定出現大塞車。（5條車道忽然變成4條車道的感覺）
同理，某一個秒內，20*500個可用連線程序都在滿負荷工作中，卻仍然有1萬個新來請求，沒有連線程序可用，系統陷入到異常狀態也是預期之內。
其實在正常的非高併發的業務場景中，也有類似的情況出現，某個業務請求接口出現問題，響應時間極慢，將整個Web請求響應時間拉得很長，逐漸將Web伺服器的可用連線數佔滿，其他正常的業務請求，無連線程序可用。
更可怕的問題是，是使用者的行為特點，系統越是不可用，使用者的點選越頻繁，惡性迴圈最終導致“雪崩”（其中一臺Web機器掛了，導致流量分散到其他正常工作的機器上，再導致正常的機器也掛，然後惡性迴圈），將整個Web系統拖垮。
3. 重啟與過載保護
如果系統發生“雪崩”，貿然重啟服務，是無法解決問題的。最常見的現象是，啟動起來後，立刻掛掉。這個時候，最好在入口層將流量拒絕，然後再將重啟。如果是redis/memcache這種服務也掛了，重啟的時候需要注意“預熱”，並且很可能需要比較長的時間。
秒殺和搶購的場景，流量往往是超乎我們系統的準備和想象的。這個時候，過載保護是必要的。如果檢測到系統滿負載狀態，拒絕請求也是一種保護措施。在前端設定過濾是最簡單的方式，但是，這種做法是被使用者“千夫所指”的行為。更合適一點的是，將過載保護設定在CGI入口層，快速將客戶的直接請求返回
高併發下的資料安全
我們知道在多執行緒寫入同一個檔案的時候，會存現“執行緒安全”的問題（多個執行緒同時運行同一段程式碼，如果每次執行結果和單執行緒執行的結果是一樣的，結果和預期相同，就是執行緒安全的）。如果是MySQL資料庫，可以使用它自帶的鎖機制很好的解決問題，但是，在大規模併發的場景中，是不推薦使用MySQL的。秒殺和搶購的場景中，還有另外一個問題，就是“超發”，如果在這方面控制不慎，會產生髮送過多的情況。我們也曾經聽說過，某些電商搞搶購活動，買家成功拍下後，商家卻不承認訂單有效，拒絕發貨。這裡的問題，也許並不一定是商家奸詐，而是系統技術層面存在超發風險導致的。
1. 超發的原因
假設某個搶購場景中，我們一共只有100個商品，在最後一刻，我們已經消耗了99個商品，僅剩最後一個。這個時候，系統發來多個併發請求，這批請求讀取到的商品餘量都是99個，然後都通過了這一個餘量判斷，最終導致超發。（同文章前面說的場景）
在上面的這個圖中，就導致了併發使用者B也“搶購成功”，多讓一個人獲得了商品。這種場景，在高併發的情況下非常容易出現。
優化方案1：將庫存欄位number欄位設為unsigned，當庫存為0時，因為欄位不能為負數，將會返回false
1 <?php
2 //優化方案1：將庫存欄位number欄位設為unsigned，當庫存為0時，因為欄位不能為負數，將會返回false
3 include('./mysql.php'); 4 $username = 'wang'.rand(0,1000); 5 //生成唯一訂單 6 function build_order_no(){ 7 return date('ymd').substr(implode(NULL, array_map('ord', str_split(substr(uniqid(), 7, 13), 1))), 0, 8); 8 } 9 //記錄日誌 10 function insertLog($event,$type=0,$username){ 11 global $conn; 12 $sql="insert into ih_log(event,type,usernma) 13 values('$event','$type','$username')"; 14 return mysqli_query($conn,$sql); 15 } 16 function insertOrder($order_sn,$user_id,$goods_id,$sku_id,$price,$username,$number) 17 { 18 global $conn; 19 $sql="insert into ih_order(order_sn,user_id,goods_id,sku_id,price,username,number) 20 values('$order_sn','$user_id','$goods_id','$sku_id','$price','$username','$number')"; 21 return mysqli_query($conn,$sql); 22 } 23 //模擬下單操作 24 //庫存是否大於0 25 $sql="select number from ih_store where goods_id='$goods_id' and sku_id='$sku_id' "; 26 $rs=mysqli_query($conn,$sql); 27 $row = $rs->fetch_assoc(); 28 if($row['number']>0){//高併發下會導致超賣 29 if($row['number']<$number){ 30 return insertLog('庫存不夠',3,$username); 31 } 32 $order_sn=build_order_no(); 33 //庫存減少 34 $sql="update ih_store set number=number-{$number} where sku_id='$sku_id' and number>0"; 35 $store_rs=mysqli_query($conn,$sql); 36 if($store_rs){ 37 //生成訂單 38 insertOrder($order_sn,$user_id,$goods_id,$sku_id,$price,$username,$number); 39 insertLog('庫存減少成功',1,$username); 40 }else{ 41 insertLog('庫存減少失敗',2,$username); 42 } 43 }else{ 44 insertLog('庫存不夠',3,$username); 45 } 46 ?>
2. 悲觀鎖思路
解決執行緒安全的思路很多，可以從“悲觀鎖”的方向開始討論。
悲觀鎖，也就是在修改資料的時候，採用鎖定狀態，排斥外部請求的修改。遇到加鎖的狀態，就必須等待。
雖然上述的方案的確解決了執行緒安全的問題，但是，別忘記，我們的場景是“高併發”。也就是說，會很多這樣的修改請求，每個請求都需要等待“鎖”，某些執行緒可能永遠都沒有機會搶到這個“鎖”，這種請求就會死在那裡。同時，這種請求會很多，瞬間增大系統的平均響應時間，結果是可用連線數被耗盡，系統陷入異常。
優化方案2：使用MySQL的事務，鎖住操作的行
1 <?php
2 //優化方案2：使用MySQL的事務，鎖住操作的行
3 include('./mysql.php'); 4 //生成唯一訂單號 5 function build_order_no(){ 6 return date('ymd').substr(implode(NULL, array_map('ord', str_split(substr(uniqid(), 7, 13), 1))), 0, 8); 7 } 8 //記錄日誌 9 function insertLog($event,$type=0){ 10 global $conn; 11 $sql="insert into ih_log(event,type) 12 values('$event','$type')"; 13 mysqli_query($conn,$sql); 14 } 15 //模擬下單操作 16 //庫存是否大於0 17 mysqli_query($conn,"BEGIN"); //開始事務 18 $sql="select number from ih_store where goods_id='$goods_id' and sku_id='$sku_id' FOR UPDATE";//此時這條記錄被鎖住,其它事務必須等待此次事務提交後才能執行 19 $rs=mysqli_query($conn,$sql); 20 $row=$rs->fetch_assoc(); 21 if($row['number']>0){ 22 //生成訂單 23 $order_sn=build_order_no(); 24 $sql="insert into ih_order(order_sn,user_id,goods_id,sku_id,price) 25 values('$order_sn','$user_id','$goods_id','$sku_id','$price')"; 26 $order_rs=mysqli_query($conn,$sql); 27 //庫存減少 28 $sql="update ih_store set number=number-{$number} where sku_id='$sku_id'"; 29 $store_rs=mysqli_query($conn,$sql); 30 if($store_rs){ 31 echo '庫存減少成功'; 32 insertLog('庫存減少成功'); 33 mysqli_query($conn,"COMMIT");//事務提交即解鎖 34 }else{ 35 echo '庫存減少失敗'; 36 insertLog('庫存減少失敗'); 37 } 38 }else{ 39 echo '庫存不夠'; 40 insertLog('庫存不夠'); 41 mysqli_query($conn,"ROLLBACK"); 42 } 43 ?>
3. FIFO佇列思路
那好，那麼我們稍微修改一下上面的場景，我們直接將請求放入佇列中的，採用FIFO（First Input First Output，先進先出），這樣的話，我們就不會導致某些請求永遠獲取不到鎖。看到這裡，是不是有點強行將多執行緒變成單執行緒的感覺哈。
然後，我們現在解決了鎖的問題，全部請求採用“先進先出”的佇列方式來處理。那麼新的問題來了，高併發的場景下，因為請求很多，很可能一瞬間將佇列記憶體“撐爆”，然後系統又陷入到了異常狀態。或者設計一個極大的記憶體佇列，也是一種方案，但是，系統處理完一個佇列內請求的速度根本無法和瘋狂湧入佇列中的數目相比。也就是說，佇列內的請求會越積累越多，最終Web系統平均響應時候還是會大幅下降，系統還是陷入異常。
4. 檔案鎖的思路
對於日IP不高或者說併發數不是很大的應用，一般不用考慮這些！用一般的檔案操作方法完全沒有問題。但如果併發高，在我們對檔案進行讀寫操作時，很有可能多個程序對進一檔案進行操作，如果這時不對檔案的訪問進行相應的獨佔，就容易造成資料丟失
優化方案4：使用非阻塞的檔案排他鎖
1 <?php
2 //優化方案4：使用非阻塞的檔案排他鎖
3 include ('./mysql.php'); 4 //生成唯一訂單號 5 function build_order_no(){ 6 return date('ymd').substr(implode(NULL, array_map('ord', str_split(substr(uniqid(), 7, 13), 1))), 0, 8); 7 } 8 //記錄日誌 9 function insertLog($event,$type=0){ 10 global $conn; 11 $sql="insert into ih_log(event,type) 12 values('$event','$type')"; 13 mysqli_query($conn,$sql); 14 } 15 $fp = fopen("lock.txt", "w+"); 16 if(!flock($fp,LOCK_EX | LOCK_NB)){ 17 echo "系統繁忙，請稍後再試"; 18 return; 19 } 20 //下單 21 $sql="select number from ih_store where goods_id='$goods_id' and sku_id='$sku_id'"; 22 $rs = mysqli_query($conn,$sql); 23 $row = $rs->fetch_assoc(); 24 if($row['number']>0){//庫存是否大於0 25 //模擬下單操作 26 $order_sn=build_order_no(); 27 $sql="insert into ih_order(order_sn,user_id,goods_id,sku_id,price) 28 values('$order_sn','$user_id','$goods_id','$sku_id','$price')"; 29 $order_rs = mysqli_query($conn,$sql); 30 //庫存減少 31 $sql="update ih_store set number=number-{$number} where sku_id='$sku_id'"; 32 $store_rs = mysqli_query($conn,$sql); 33 if($store_rs){ 34 echo '庫存減少成功'; 35 insertLog('庫存減少成功'); 36 flock($fp,LOCK_UN);//釋放鎖 37 }else{ 38 echo '庫存減少失敗'; 39 insertLog('庫存減少失敗'); 40 } 41 }else{ 42 echo '庫存不夠'; 43 insertLog('庫存不夠'); 44 } 45 fclose($fp); 46 ?>
1 <?php
2 //優化方案4：使用非阻塞的檔案排他鎖
3 include ('./mysql.php'); 4 //生成唯一訂單號 5 function build_order_no(){ 6 return date('ymd').substr(implode(NULL, array_map('ord', str_split(substr(uniqid(), 7, 13), 1))), 0, 8); 7 } 8 //記錄日誌 9 function insertLog($event,$type=0){ 10 global $conn; 11 $sql="insert into ih_log(event,type) 12 values('$event','$type')"; 13 mysqli_query($conn,$sql); 14 } 15 $fp = fopen("lock.txt", "w+"); 16 if(!flock($fp,LOCK_EX | LOCK_NB)){ 17 echo "系統繁忙，請稍後再試"; 18 return; 19 } 20 //下單 21 $sql="select number from ih_store where goods_id='$goods_id' and sku_id='$sku_id'"; 22 $rs = mysqli_query($conn,$sql); 23 $row = $rs->fetch_assoc(); 24 if($row['number']>0){//庫存是否大於0 25 //模擬下單操作 26 $order_sn=build_order_no(); 27 $sql="insert into ih_order(order_sn,user_id,goods_id,sku_id,price) 28 values('$order_sn','$user_id','$goods_id','$sku_id','$price')"; 29 $order_rs = mysqli_query($conn,$sql); 30 //庫存減少 31 $sql="update ih_store set number=number-{$number} where sku_id='$sku_id'"; 32 $store_rs = mysqli_query($conn,$sql); 33 if($store_rs){ 34 echo '庫存減少成功'; 35 insertLog('庫存減少成功'); 36 flock($fp,LOCK_UN);//釋放鎖 37 }else{ 38 echo '庫存減少失敗'; 39 insertLog('庫存減少失敗'); 40 } 41 }else{ 42 echo '庫存不夠'; 43 insertLog('庫存不夠'); 44 } 45 fclose($fp); 46 ?>
5. 樂觀鎖思路
這個時候，我們就可以討論一下“樂觀鎖”的思路了。樂觀鎖，是相對於“悲觀鎖”採用更為寬鬆的加鎖機制，大都是採用帶版本號（Version）更新。實現就是，這個資料所有請求都有資格去修改，但會獲得一個該資料的版本號，只有版本號符合的才能更新成功，其他的返回搶購失敗。這樣的話，我們就不需要考慮佇列的問題，不過，它會增大CPU的計算開銷。但是，綜合來說，這是一個比較好的解決方案。
有很多軟體和服務都“樂觀鎖”功能的支援，例如Redis中的watch就是其中之一。通過這個實現，我們保證了資料的安全。
優化方案5：Redis中的watch
1 <?php
2 $redis = new redis(); 3 $result = $redis->connect('127.0.0.1', 6379); 4 echo $mywatchkey = $redis->get("mywatchkey"); 5 /* 6 //插入搶購資料 7 if($mywatchkey>0) 8 { 9 $redis->watch("mywatchkey"); 10 //啟動一個新的事務。 11 $redis->multi(); 12 $redis->set("mywatchkey",$mywatchkey-1); 13 $result = $redis->exec(); 14 if($result) { 15 $redis->hSet("watchkeylist","user_".mt_rand(1,99999),time()); 16 $watchkeylist = $redis->hGetAll("watchkeylist"); 17 echo "搶購成功！<br/>"; 18 $re = $mywatchkey - 1; 19 echo "剩餘數量：".$re."<br/>"; 20 echo "使用者列表：<pre>"; 21 print_r($watchkeylist); 22 }else{ 23 echo "手氣不好，再搶購！";exit; 24 } 25 }else{ 26 // $redis->hSet("watchkeylist","user_".mt_rand(1,99999),"12"); 27 // $watchkeylist = $redis->hGetAll("watchkeylist"); 28 echo "fail！<br/>"; 29 echo ".no result<br/>"; 30 echo "使用者列表：<pre>"; 31 // var_dump($watchkeylist); 32 }*/ 33 $rob_total = 100; //搶購數量 34 if($mywatchkey<=$rob_total){ 35 $redis->watch("mywatchkey"); 36 $redis->multi(); //在當前連線上啟動一個新的事務。 37 //插入搶購資料 38 $redis->set("mywatchkey",$mywatchkey+1); 39 $rob_result = $redis->exec(); 40 if($rob_result){ 41 $redis->hSet("watchkeylist","user_".mt_rand(1, 9999),$mywatchkey); 42 $mywatchlist = $redis->hGetAll("watchkeylist"); 43 echo "搶購成功！<br/>"; 44 45 echo "剩餘數量：".($rob_total-$mywatchkey-1)."<br/>"; 46 echo "使用者列表：<pre>"; 47 var_dump($mywatchlist); 48 }else{ 49 $redis->hSet("watchkeylist","user_".mt_rand(1, 9999),'meiqiangdao'); 50 echo "手氣不好，再搶購！";exit; 51 } 52 } 53 ?>