1. 程式人生 > 其它 >評測:業務可用性撥測產品對比分析

評測:業務可用性撥測產品對比分析

移動App作為數字世界最主要、最自然的入口,已經無處不在。各種App為人們帶來巨大便利的同時,也成了人們日常生活的嚴重依賴,與此同時,競爭日趨激烈,這必然對App的質量提出了更高、更苛刻的要求。在這種情況下,App的提供者會面臨什麼問題? l 如何在釋出前更多的發現問題?

聽雲(北京基調網路股份有限公司)成立於2007年,是國內首家推出業務可用性撥測產品的第三方企業,第一代產品名為“聽雲Network”。聽雲採用完善的會員機制發展了遍佈全球的會員終端,經過多年積累目前擁有了中國國內最大的效能質量監測網路平臺,有全球超過2000家客戶在使用。中國Alexa排名前100位的網際網路企業有89家在使用聽雲Network的服務,客戶群體包括華為、騰訊,處於行業領先地位。

聽雲不斷完善自己的產品線,目前可為各行業企業提供完整覆蓋使用者端、網路、伺服器端、業務等全棧實時的監控與大資料智慧分析平臺。實現程式碼級應用效能監控、真實使用者體驗監控、實時業務能效監控,產品線包含數字終端體驗監控(

聽雲App、聽雲小程式、聽雲Web)、服務端效能監控(聽雲APM)數字化業務運維(聽雲業務分析)、使用者體驗主動撥測(聽雲Network)基礎設施效能保障(聽雲Infra)智慧告警服務(聽雲北冥)一站式資料視覺化展示(聽雲大屏),幫助企業不斷提升數字化業務運維效率,助力企業實現數字業務創新。聽雲憑藉領先的技術、創新的產品,成為亞太區唯一五次入選Gartner APM魔力象限的監控企業,並逐步發展成國內應用效能管理的頭部企業。

聽雲在發展產品線的同時,在業務可用性撥測產品領域並沒有停滯不前,在2010-2017年釋出了聽雲AST、聽雲移動撥測等第二代撥測產品,並首次推出CDN綜合分析和獨創首屏時間,其中首屏時間獲得國家級發明專利並被工信部採納。歷史的接力棒,交給創造歷史的人,在2018年,聽雲經過近一年的封閉式研發,推出了名為“聽雲AppBench”的第三代業務可用性撥測產品,該產品同樣獲得多項國家專利,過硬的產品質量一經推出獲好評不斷,聽雲前期累積的大量客戶,讓產品一上市就異常火爆。下面我們就帶來這款升級產品的獨家分析。

聽雲AppBench推出的背景(關注品質,不要關住品質)

移動App作為數字世界最主要、最自然的入口,已經無處不在。各種App為人們帶來巨大便利的同時,也成了人們日常生活的嚴重依賴,與此同時,競爭日趨激烈,這必然對App的質量提出了更高、更苛刻的要求。在這種情況下,App的提供者會面臨什麼問題?

l 如何在釋出前更多的發現問題?

l 如何在釋出後持續監控關鍵業務(效能和成功率)而又不影響真實使用者?

l 如何讓測試廣泛覆蓋真實場景中的各維度?

l 如何與競品進行客觀對比?

l 如何快速高效地進行測試工作?

以上的問題就是聽雲AppBench推出的初衷和使命,聽雲的目標就是要幫助App的提供者快速地、全場景覆蓋地推進測試工作,幫助客戶打造高品質App。

聽雲AppBench是什麼?(和你一起守護,你守護的測試任務)

聽雲AppBench是一個雲端的自動化測試平臺,它利用雲端的真機資源,以任務排程的方式,完成客戶的測試任務。

l 自動化測試,從安裝App到啟動App和執行指令碼,乃至報告和告警,都是自動化進行;

l 全方位覆蓋測試,覆蓋真實使用場景中的各維度,包括各種機型、系統版本、城市、運營商、網路型別等等;

l 深度資料採集和分析,它能採集深度的、豐富的資料,從而進行深層次問題分析,從不同層面分析和評估App,資料包括:啟動、崩潰、卡頓、慢互動、網路響應時間、DNS、建聯、SSL握手,還有CPUMemoryFPS等等,還有任務時長(某業務)、步驟時長(業務的某環節),尤其是,這些資料並非相互孤立,而是相互關聯的。

l 自定義的競品分析,可以定義與哪些競品比較,以及對比哪些資料

現有撥測產品分析(改變不了世界,改變自己容易一些)

聽雲,作為撥測行業的領軍企業,新的撥測產品具有哪些獨有的優勢呢?下面重點介紹下:

l 撥測節點的覆蓋是撥測產品最核心指標,聽雲AppBench部署和升級簡單,有利於撥測節點的快速上線,目前無論是iOS的節點還是Android節點都覆蓋全國各省會城市,遠遠領先傳統撥測產品。

傳統的撥測節點使用自建節點的方式進行部署,部署模式依賴PC+手機的方式,也就是部署撥測節點必須要PC主機。這種部署方式的缺點有:

1、PC和手機方式,主要是自建,成本高;

2、部署笨重,佔地、耗電、安全、風險;

3、維護不易,裝置更換、系統升級麻煩。

傳統撥測節點部署

聽雲在規劃產品時經過了無數次產品預研、試驗,終於打破了常規,推出了全新的撥測節點部署模式,繼續沿用聽雲自第一代產品就實行的會員模式,同時也可以兼顧自建撥測節點,該方式的巨大優勢立刻呈現出來,表現在:

1、成本,只有一個藍芽控制器的成本,手機是會員共享的;

2、部署簡易,會員的手機,只要下載兩個app,與藍芽控制器配對即可;

3、安全和風險:會員自己承擔自己手機的電、網,以及手機的安全風險;

4、維護容易,會員自己維護手機,我們可以用積分等各種策略引導裝置的更新更換。

聽雲AppBench撥測節點部署

l 指令碼編寫能力是撥測產品又一核心能力,聽雲AppBench在指令碼能力表現更加強大靈活

指令碼編寫靈活性和適配能力,是撥測產品核心能力,相比於傳統的撥測產品,聽雲AppBench的指令碼編寫更靈活,更智慧。在指令碼編寫能力上聽雲獨家支援任意複雜的判斷和控制、能訪問APP內任意物件、能接受APP內通知、能自動感知UI元素內容變化。

對比模組

傳統撥測產品

聽雲AppBench

指令碼能力

1、元素查詢
2、元素操作
3、支援簡單判斷

1、元素查詢
2、元素操作
3、支援任意複雜判斷和控制
4、能訪問app內任意物件
5、能接受app內通知
6、能自動感知UI元素內容變化

指令碼能力對比

l 多資源關聯分析:任務執行期間的網路瀑布圖、CPURAMFPS與任務的步驟關聯,並在時間刻度上對齊,並關聯步驟的截圖、步驟的log,強力支援問題的排查分析。

相比於傳統的撥測產品只能提供步驟的截圖和步驟的效能指標,聽雲AppBench還可以提供相對應每步的log,和每個步驟的資源消耗,這樣多資源的關聯分析可以協助客戶更加快速高效的發現問題所在,並精準鎖定根因。產品真實截圖如下:

多資源關聯分析

l 網路分析指標全面,獨家支援對網路的丟包率,延時,連線複用率,IPv4IPv6指標對比等功能。

網路環境比較複雜,包括了運營商,CDN,雲等,這部分環境對於最終APP使用使用者的體驗影響較大,也是很多客戶難以掌控的環節。相比於傳統撥測產品,聽雲AppBench可以提供多達17項網路指標,配合上大規模包括各省份,各運營商的節點覆蓋,可以為客戶提供更全面精準的網路分析能力。可以為終端使用者提供網路測試,CDN選型,機房選型,鏈路選型以及日常服務質量的重要資料支撐。

對比模組

傳統撥測

聽雲AppBench

網路分析指標

1、網路請求數
2、請求響應時間
3、網路狀態碼
4、DNS時間
5、建立連線時間
6、SSL握手時間
7、首包時間
8、剩餘包時間
9、介面時間
10、網路錯誤數
11、網路錯誤率
12、目標IP

1、網路請求數
2、請求響應時間
3、網路狀態碼
4、DNS時間
5、建立連線時間
6、SSL握手時間
7、首包時間
8、剩餘包時間
9、介面時間
10、網路錯誤數
11、網路錯誤率
12、目標IP
13、本地時間
14、連線複用率
15、IPv6和IPv4對比
16、丟包率
17、網路延遲

網路分析指標對比

聽雲AppBench市場優勢(歷史的接力棒,總會交給創造歷史的企業)

聽雲作為國內首家推出業務可用性撥測產品的企業,自2007年推出第一代產品起到推出第三代產品AppBench,經過10年發展,目前聽雲在金融行業的應用規模業界第一,其中12家股份制商業銀行有9家都與聽雲有合作。此次我們選擇了其中幾家進行對比分析,得出結論如下

1.企業服務平臺(以下簡稱T)

T的優勢在於佈局早,是行業先行者,其業務在遊戲領域優勢突出。其劣勢在於,部署模式過時,實驗室集中部署模式只能滿足機型相容的測試,然而真實場景遠不止機型的多樣性,運營商、網路、CDN等更多種因素影響著App的效能,也帶來更多例外,實驗測試方式結論的價值和意義令人懷疑。T主要是相容性測試,發版後的測試不是其關注點和方向。

2.某傳統的相容性撥測公司

其APP撥測產品在T之後,技術原理與T類似,重點改進了撥測只能在一個機房進行測試的情況,但因實現原理上的限制,其撥測節點仍然難以部署和升級,撥測點覆蓋非常有限,遠遠達不到現階段客戶實際業務覆蓋全國的格局要求。此外指令碼編寫,分析能力上都屬於比較初級和簡單的狀態。

因為APP撥測是很多客戶的剛需,所以其產品推出後也一定程度填補了空白,在部分金融客戶得到了應用。

3.聽雲AppBench

聽雲AppBench產品是聽雲10年來在撥測行業不斷進行技術累積,傾聽客戶反饋後厚積薄發所推出的第三代撥測產品,其新的模式、新的技術都攻克了真機撥測的無數難題,在真實使用場景、易部署、易維護、保持裝置更新和系統更新方面有技術上的獨特優勢。同時其中的資料採集引擎,經歷多年時間和8億+裝置磨鍊驗證。

聽雲真機App聚焦金融和運營商行業,已經為多家銀行、證券,運營商提供了測試/撥測服務,其中的資料採集模組更是被銀行+證券幾十家企業使用認可。從業務視角到效能資料的穿透式分析,不僅發現問題,更能深層次定位問題。

觀察總結

通過本次對聽雲業務可用性第三代撥測產品AppBench的市場分析發現,聽雲作為最早推出撥測產品的企業,一直引領行業發展。在行業認可上,首家獲得國際認可的效能監測企業,5次入選Gartner APM魔力象限。另外,在技術實力上,聽雲獲得首屏、APP撥測等多項技術專利。聽雲已成立14年,但仍在繼續打磨其初創產品並不斷推陳出新,我們在聽雲AppBench看到了對於問題的不妥協,也看到了聽雲的技術實力。最後,我們想說的是對於懷揣初心的企業,值得得到掌聲與鮮花。