1. 程式人生 > >大型網際網路應用如何進行流量削峰,應對瞬間請求?

大型網際網路應用如何進行流量削峰,應對瞬間請求?

      大型網際網路應用經常要處理流量高峰問題,這也是我所負責業務經常要面對的事情,比如遇到一個熱點事件、策劃一個活動或者push一個頁面,訪問的驟增帶來讀寫流量的驟增,對應每個模組都面臨考驗,那麼有哪些方法可以做到流量削峰或者說流量削峰要從哪幾個方面考慮呢,說下我的總結:


1、系統基於微服務的架構設計,彈性擴充套件瓶頸模組伺服器資源;
2、接入層以及各微服務模組極大的用好cache,增加QPS,從而加大整個叢集的吞吐量;
3、必要的模組間使用訊息佇列通訊,進行模組非同步解耦,訪問量上來後,使用時間成本換取業務能夠正常服務;
4、各服務模組對自身負責的同時,要做好後端依賴有效呼叫的判斷,做到向上遊模組所做的呼叫都是必要的呼叫,無冗餘或無效的呼叫;

5、劃分好動靜資源,靜態資源使用CDN進行服務分發。

補 充:

6、在可行的情況下,做好冷熱分離,對能標記區分出來的熱資源,單獨分配資源處理,以便不影響其他正常訪問請求的資源。

       在資源有限的情況下,做好各模組的降級預案,再從這6個方面多做努力,高峰期服務叢集的流量會做到及好提升的。

相關推薦

大型網際網路應用如何進行流量應對瞬間請求

      大型網際網路應用經常要處理流量高峰問題,這也是我所負責業務經常要面對的事情,比如遇到一個熱點事件、策劃一個活動或者push一個頁面,訪問的驟增帶來讀寫流量的驟增,對應每個模組都面臨考驗,那麼有哪些方法可以做到流量削峰或者說流量削峰要從哪幾個方面考慮呢,說下我的總結

架構設計 | 高併發流量共享資源加鎖機制

本文原始碼:[GitHub·點這裡](https://github.com/cicadasmile/data-manage-parent) || [GitEE·點這裡](https://gitee.com/cicadasmile/data-manage-parent) # 一、高併發簡介 在網際網路的業

抽獎系統的流量方案

如果觀看抽獎或秒殺系統的請求監控曲線,你就會發現這類系統在活動開放的時間段內會出現一個波峰,而在活動未開放時,系統的請求量、機器負載一般都是比較平穩的。為了節省機器資源,我們不可能時時都提供最大化的資源能力來支援短時間的高峰請求。所以需要使用一些技術手段,來削弱瞬時的請求高峰,讓系統吞吐量在高峰請求下保持可控

後端技能樹修煉:基於佇列的流量模式

在分散式架構中,前端一個請求會經過後端的多個服務的處理才返回結果,這時就可能會存在一種情況,在間歇性高負載情況下,某個服務 B 的處理能力不能滿足負載的需求,從而導致服務 B 崩潰或者服務呼叫者 A 響應超時,如下圖所示: 那麼如何解決這種問題呢?有讀者可能會說,那就給

架構設計之流量

前言 針對於秒殺場景來說,流量往往在一個特定時間點有個高度集中的流量洪峰,這個瞬時對於資源的消耗是很大的,這時往往對於服務的穩定性

秒殺系統中的扣減庫存和流量

  前言 上篇文章我們一起討論了秒殺系統下,通過堆加機器解決高併發的方案有什麼缺點,又討論了使用多級快取架構構建靜態化頁面,來減輕前端頁面伺服器壓力的方式。 今天我們就接著往下討論,小夥伴們可以看一下上一篇文章做個複習,討論一下秒殺系統的技術難點與解決方案 我們先回顧一下場景。 假如我們的系統在00

應用圖表進行視覺化時如何有效地展現資料?

歡迎訪問網易雲社群,瞭解更多網易技術產品運營經驗。 大部分人對資料進行視覺化時,只是一種圖表的堆砌,先把需要的單個圖表做完,然後簡單地羅列組合在一起,最後改變一下整體顏色,就完成了。整個過程雖然不能說錯,但並沒有把圖表的優勢發揮出來。下面分享一些用圖表展現資料的方法,希望對題主有所幫助。

RabbitMQ系列之七 分散式訊息佇列應用場景之非同步處理、應用解耦、流量鋒和訊息通訊理解分析

摘要:訊息佇列中介軟體是分散式系統中重要的元件,主要解決應用耦合,非同步訊息,流量削鋒等問題。實現高效能,高可用,可伸縮和最終一致性架構。是大型分散式系統不可缺少的中介軟體。 目前在生產環境,使用較多的訊息佇列有ActiveMQ,RabbitMQ,ZeroMQ,Kafka,MetaMQ,

阿里雲推出全棧IPv6解決方案加速推進下一代網際網路應用

IPv4地址已接近枯竭,被譽為下一代網際網路技術的IPv6成為新的“全球網際網路門牌號”,它可以讓地球上的每一粒沙子都擁有地址。   12月6日,阿里雲宣佈為企業提供全棧IPv6解決方案,加速推進中國下一代網際網路應用。   作為國內首個全面支援IPv6的雲廠商,過去5個月,阿里

【雲週刊】第198期:阿里雲推出全棧IPv6解決方案加速推進下一代網際網路應用

本期頭條 阿里雲推出全棧IPv6解決方案,加速推進下一代網際網路應用 IPv4地址已接近枯竭,被譽為下一代網際網路技術的IPv6成為新的“全球網際網路門牌號”,它可以讓地球上的每一粒沙子都擁有地址。12月6日,阿里雲宣佈為企業提供全棧IPv6解決方案,加速推進中國下一代網際網路應用。作為國內首個全面支援I

大型網際網路企業寒冬裁員如何能跳出來成功拿到月薪30K+?

有不少朋友問,除了掌握Java語法,還要系統學習哪些Java相關的技術,今天分享一個,網際網路Java技術學習路線圖。 一:常見模式與工具 學習Java技術體系,設計模式,流行的框架與元件是必不可少的: 常見的設計模式,編碼必備 Spring5,做應用必不可少的最新框架 MyBa

河南省“網際網路+ ”開放合作大簽約850億元“網際網路+”高峰論壇、河南省縣域電商峰會、騰訊“網際網路+”中國行河南站活動以及阿里—中原雲大資料應用創意大賽、騰訊河南智慧旅遊、河南省網際網路創新創業大賽

記者 劉江浩 本報訊 經濟陰霾肆虐,等風來,不如招風、引風。“網際網路+”風口,河南在行動,御“風”而行,順勢而為。今日,河南省“網際網路+”開放合作大會在鄭州國際會展中心舉行。BAT(百度、阿里、騰訊)大佬集聚鄭州,就“新常態、新機遇、新合作、新動力”的主題共論“風”勢。 此次大會可謂亮點紛呈,根

用 Hadoop 進行分散式資料處理從 入門、進階到應用開發

[email protected]:~# hadoop-0.20 fs -ls output Found 2 items drwxr-xr-x - root supergroup 0 2010-05-12 19:04 /user/root/output/_logs -rw-r

掌握OOM異常的處理並可以對應用進行相應的優化

一、記憶體溢位如何產生的 Android的虛擬機器是基於暫存器的Dalvik,它的最大堆大小一般是16M,有的機器為24M。因此我們所能利用的記憶體空間是有限的。如果我們的記憶體佔用超過了一定的水平就會出現OutOfMemory的錯誤。 記憶體溢位的幾點原因總結: 1、資源

百度騰訊阿里等大型網際網路公司年終獎發多少?

年後又是跳槽季,這裡列出一些公司的年終福利,大家提前有所瞭解,方便年後跳槽選擇。也歡迎大家留言說下你們公司的年終福利。 百度 年終獎:百度offer上寫得是14.6個月薪水,年中發0.6個月,年底發2個月,年終獎是要算上公司績效和個人績效的,所以也不是固定的

全球區塊鏈應用創業大賽正式啟動加速上海價值網際網路中心形成

2月3日,2018年全球(上海)區塊鏈應用創業大賽啟動儀式暨區塊鏈應用(DApp)研討會在上海中星鉑爾曼酒店順利召開。本次大賽的指導單位是上海市科技創業中心,主辦單位是上海區加資訊科技有限公司、嘉定國家級物聯網孵化中心和DAppLabs,海通創新資本、起源資本、

大型前端應用Redux與伺服器非同步通訊過程全解析(文末有彩蛋!)

本文節選自程墨撰寫的《深入淺出React和Redux》一書,由機械工業出版社。 作者:程墨,資深架構師,曾任職於摩托羅拉、雅虎和微軟,雲鳥配送平臺聯合創始人,目前服務於美國視訊服務公司Hulu。知乎專欄《進擊的React》作者,《深入淺出React

TCP協議怎樣進行流量控制並且怎麼保證傳輸的可靠性

首先,網路7層模型有:傳輸層、網路層、會話層、資料鏈路層、表示層、應用層、物理層。 其中TCP協議是傳輸層協議 T C P使用一種視窗(w i n d o w)機制來控制資料流。當一個連線建立時,連線的每一端分配一個緩衝區來儲存輸入的資料,並將緩衝區的尺寸傳送給另一端。當

高可用服務 AHAS 在消息隊列 MQ 填谷場景下的應用

ktr current record 線程池 blog ignore messages pic amp 在消息隊列中,當消費者去消費消息的時候,無論是通過 pull 的方式還是 push 的方式,都可能會出現大批量的消息突刺。如果此時要處理所有消息,很可能會導致系統負載過高

高可用服務 AHAS 在訊息佇列 MQ 填穀場景下的應用

開發十年,就只剩下這套架構體系了! >>>