5種常用的相關分析方法
相關分析(Analysis of Correlation)是網站分析中經常使用的分析方法之一。通過對不同特徵或資料間的關係進行分析,發現業務運營中的關鍵影響及驅動因素。並對業務的發展進行預測。本篇文章將介紹5種常用的分析方法。在開始介紹相關分析之前,需要特別說明的是相關關係不等於因果關係。
相關分析的方法很多,初級的方法可以快速發現數據之間的關係,如正相關,負相關或不相關。中級的方法可以對資料間關係的強弱進行度量,如完全相關,不完全相關等。高階的方法可以將資料間的關係轉化為模型,並通過模型對未來的業務發展進行預測。下面我們以一組廣告的成本資料和曝光量資料對每一種相關分析方法進行介紹。
以下是每日廣告曝光量和費用成本的資料,每一行代表一天中的花費和獲得的廣告曝光數量。憑經驗判斷,這兩組資料間應該存在聯絡,但僅通過這兩組資料我們無法證明這種關係真實存在,也無法對這種關係的強度進行度量。因此我們希望通過相關分析來找出這兩組資料之間的關係,並對這種關係進度度量。
1,圖表相關分析(折線圖及散點圖)
第一種相關分析方法是將資料進行視覺化處理,簡單的說就是繪製圖表。單純從資料的角度很難發現其中的趨勢和聯絡,而將資料點繪製成圖表後趨勢和聯絡就會變的清晰起來。對於有明顯時間維度的資料,我們選擇使用折線圖。
為了更清晰的對比這兩組資料的變化和趨勢,我們使用雙座標軸折線圖,其中主座標軸用來繪製廣告曝光量資料,次座標軸用來繪製費用成本的資料。通過折線圖可以發現,費用成本和廣告曝光量兩組資料的變化和趨勢大致相同,從整體的大趨勢來看,費用成本和廣告曝光量兩組資料都呈現增長趨勢。從規律性來看費用成本和廣告曝光量資料每次的最低點都出現在同一天。從細節來看,兩組資料的短期趨勢的變化也基本一致。
經過以上這些對比,我們可以說廣告曝光量和費用成本之間有一些相關關係,但這種方法在整個分析過程和解釋上過於複雜,如果換成複雜一點的資料或者相關度較低的資料就會出現很多問題。
比折線圖更直觀的是散點圖。散點圖去除了時間維度的影響,只關注廣告曝光量和費用成本這裡兩組資料間的關係。在繪製散點圖之前,我們將費用成本標識為X,也就是自變數,將廣告曝光量標識為y,也就是因變數。下面是一張根據每一天中廣告曝光量和費用成本資料繪製的散點圖,X軸是自變數費用成本資料,Y軸是因變數廣告曝光量資料。從資料點的分佈情況可以發現,自變數x和因變數y有著相同的變化趨勢,當費用成本的增加後,廣告曝光量也隨之增加。
折線圖和散點圖都清晰的表示了廣告曝光量和費用成本兩組資料間的相關關係,優點是對相關關係的展現清晰,缺點是無法對相關關係進行準確的度量,缺乏說服力。並且當資料超過兩組時也無法完成各組資料間的相關分析。若要通過具體數字來度量兩組或兩組以上資料間的相關關係,需要使用第二種方法:協方差。
2,協方差及協方差矩陣
第二種相關分析方法是計算協方差。協方差用來衡量兩個變數的總體誤差,如果兩個變數的變化趨勢一致,協方差就是正值,說明兩個變數正相關。如果兩個變數的變化趨勢相反,協方差就是負值,說明兩個變數負相關。如果兩個變數相互獨立,那麼協方差就是0,說明兩個變數不相關。以下是協方差的計算公式:
下面是廣告曝光量和費用成本間協方差的計算過程和結果,經過計算,我們得到了一個很大的正值,因此可以說明兩組資料間是正相關的。廣告曝光量隨著費用成本的增長而增長。在實際工作中不需要按下面的方法來計算,可以通過Excel中COVAR()函式直接獲得兩組資料的協方差值。
協方差只能對兩組資料進行相關性分析,當有兩組以上資料時就需要使用協方差矩陣。下面是三組資料x,y,z,的協方差矩陣計算公式。
協方差通過數字衡量變數間的相關性,正值表示正相關,負值表示負相關。但無法對相關的密切程度進行度量。當我們面對多個變數時,無法通過協方差來說明那兩組資料的相關性最高。要衡量和對比相關性的密切程度,就需要使用下一個方法:相關係數。,
3,相關係數
第三個相關分析方法是相關係數。相關係數(Correlation coefficient)是反應變數之間關係密切程度的統計指標,相關係數的取值區間在1到-1之間。1表示兩個變數完全線性相關,-1表示兩個變數完全負相關,0表示兩個變數不相關。資料越趨近於0表示相關關係越弱。以下是相關係數的計算公式。
其中rxy表示樣本相關係數,Sxy表示樣本協方差,Sx表示X的樣本標準差,Sy表示y的樣本標準差。下面分別是Sxy協方差和Sx和Sy標準差的計算公式。由於是樣本協方差和樣本標準差,因此分母使用的是n-1。
Sxy樣本協方差計算公式:
Sx樣本標準差計算公式:
Sy樣本標準差計算公式:
下面是計算相關係數的過程,在表中我們分別計算了x,y變數的協方差以及各自的標準差,並求得相關係數值為0.93。0.93大於0說明兩個變數間正相關,同時0.93非常接近於1,說明兩個變數間高度相關。
在實際工作中,不需要上面這麼複雜的計算過程,在Excel的資料分析模組中選擇相關係數功能,設定好x,y變數後可以自動求得相關係數的值。在下面的結果中可以看到,廣告曝光量和費用成本的相關係數與我們手動求的結果一致。
相關係數的優點是可以通過數字對變數的關係進行度量,並且帶有方向性,1表示正相關,-1表示負相關,可以對變數關係的強弱進行度量,越靠近0相關性越弱。缺點是無法利用這種關係對資料進行預測,簡單的說就是沒有對變數間的關係進行提煉和固化,形成模型。要利用變數間的關係進行預測,需要使用到下一種相關分析方法,迴歸分析。,
4,一元迴歸及多元迴歸
第四種相關分析方法是迴歸分析。迴歸分析(regression analysis)是確定兩組或兩組以上變數間關係的統計方法。迴歸分析按照變數的數量分為一元迴歸和多元迴歸。兩個變數使用一元迴歸,兩個以上變數使用多元迴歸。進行迴歸分析之前有兩個準備工作,第一確定變數的數量。第二確定自變數和因變數。我們的資料中只包含廣告曝光量和費用成本兩個變數,因此使用一元迴歸。根據經驗廣告曝光量是隨著費用成本的變化而改變的,因此將費用成本設定為自變數x,廣告曝光量設定為因變數y。
以下是一元迴歸方程,其中y表示廣告曝光量,x表示費用成本。b0為方程的截距,b1為斜率,同時也表示了兩個變數間的關係。我們的目標就是b0和b1的值,知道了這兩個值也就知道了變數間的關係。並且可以通過這個關係在已知成本費用的情況下預測廣告曝光量。
這是b1的計算公式,我們通過已知的費用成本x和廣告曝光量y來計算b1的值。
以下是通過最小二乘法計算b1值的具體計算過程和結果,經計算,b1的值為5.84。同時我們也獲得了自變數和因變數的均值。通過這三個值可以計算出b0的值。
以下是b0的計算公式,在已知b1和自變數與因變數均值的情況下,b0的值很容易計算。
將自變數和因變數的均值以及斜率b1代入到公式中,求出一元迴歸方程截距b0的值為374。這裡b1我們保留兩位小數,取值5.84。
在實際的工作中不需要進行如此繁瑣的計算,Excel可以幫我們自動完成並給出結果。在Excel中使用資料分析中的迴歸功能,輸入自變數和因變數的範圍後可以自動獲得b0(Intercept)的值362.15和b1的值5.84。這裡的b0和之前手動計算獲得的值有一些差異,因為前面用於計算的b1值只保留了兩位小數。
這裡還要單獨說明下R Square的值0.87。這個值叫做判定係數,用來度量回歸方程的擬合優度。這個值越大,說明迴歸方程越有意義,自變數對因變數的解釋度越高。
將截距b0和斜率b1代入到一元迴歸方程中就獲得了自變數與因變數的關係。費用成本每增加1元,廣告曝光量會增加379.84次。通過這個關係我們可以根據成本預測廣告曝光量資料。也可以根據轉化所需的廣告曝光量來反推投入的費用成本。獲得這個方程還有一個更簡單的方法,就是在Excel中對自變數和因變數生成散點圖,然後選擇新增趨勢線,在新增趨勢線的選單中選中顯示公式和顯示R平方值即可。
以上介紹的是兩個變數的一元迴歸方法,如果有兩個以上的變數使用Excel中的迴歸分析,選中相應的自變數和因變數範圍即可。下面是多元迴歸方程。
5,資訊熵及互資訊
最後一種相關分析方法是資訊熵與互資訊。前面我們一直在圍繞消費成本和廣告曝光量兩組資料展開分析。實際工作中影響最終效果的因素可能有很多,並且不一定都是數值形式。比如我們站在更高的維度來看之前的資料。廣告曝光量只是一個過程指標,最終要分析和關注的是使用者是否購買的狀態。而影響這個結果的因素也不僅僅是消費成本或其他數值化指標。可能是一些特徵值。例如使用者所在的城市,使用者的性別,年齡區間分佈,以及是否第一次到訪網站等等。這些都不能通過數字進行度量。
度量這些文字特徵值之間相關關係的方法就是互資訊。通過這種方法我們可以發現哪一類特徵與最終的結果關係密切。下面是我們模擬的一些使用者特徵和資料。在這些資料中我們忽略之前的消費成本和廣告曝光量資料,只關注特徵與狀態的關係。
對於資訊熵和互資訊具體的計算過程請參考我前面的文章《決策樹分類和預測演算法的原理及實現》,這裡直接給出每個特徵的互資訊值以及排名結果。經過計算城市與購買狀態的相關性最高,所在城市為北京的使用者購買率較高。
到此為止5種相關分析方法都已介紹完,每種方法各有特點。其中圖表方法最為直觀,相關係數方法可以看到變數間兩兩的相關性,迴歸方程可以對相關關係進行提煉,並生成模型用於預測,互資訊可以對文字類特徵間的相關關係進行度量。
—【所有文章及圖片版權歸 藍鯨(王彥平)所有。歡迎轉載,但請註明轉自“藍鯨網站分析部落格”。】—
相關推薦
相關分析-5種常用相關分析方法
http://sanwen8.cn/p/2c62mIw.html 相關分析(Analysis of Correlation)是網站分析中經常使用的分析方法之一。通過對不同特徵或資料間的關係進行分析,發現業務運營中的關鍵影響及驅動因素。並對業務的發展進行預測。本篇文章將
5種常用的相關分析方法
相關分析(Analysis of Correlation)是網站分析中經常使用的分析方法之一。通過對不同特徵或資料間的關係進行分析,發現業務運營中的關鍵影響及驅動因素。並對業務的發展進行預測。本篇文章將介紹5種常用的分析方法。在開始介紹相關分析之前,需要特別說明的是相關關
Pearson,Kendall和Spearman三種相關分析方法的異同
pearson(皮爾遜), kendall(肯德爾)和spearman(斯伯曼/斯皮爾曼)三種相關分析方法有什麼異同 兩個連續變數間呈線性相關時,使用Pearson積差相關係數,不滿足積差相關分析的適用條件時,使用Spearman秩相關係數來描述. Spearman相關係數
最常用的四種大資料分析方法
本文主要講述資料探勘分析領域中,最常用的四種資料分析方法:描述型分析、診斷型分析、預測型分析和指令型分析。當剛涉足資料探勘分析領域的分析師被問及,資料探勘分析人員最重要的能力是什麼時,他們給出了五花八門
常用的4種大資料分析方法
本文主要講述資料探勘分析領域中,最常用的四種資料分析方法:描述型分析、診斷型分析、預測型分析和指令型分析。 當剛涉足資料探勘分析領域的分析師被問及,資料探勘分析人員最重要的能力是什麼時,他們給出了五花八門的答案。 其實我想告訴他們的是,資料探勘分析領域最重要的能力是:能夠將
常用的四種大資料分析方法
本文主要講述資料探勘分析領域中,最常用的四種數據分析方法:描述型分析、診斷型分析、預測型分析和指令型分析。 當剛涉足資料探勘分析領域的分析師被問及,資料探勘分析人員最重要的能力是什麼時,他們給出了五花八門的答案。 其實我想告訴他們的是,資料探勘分析領域最重要的能力是:能夠將資料轉化為非專業人士也能夠清楚理
pearson, kendall 和spearman三種相關分析方法的區別
Pearson相關用於雙變數正態分佈的資料,其相關係數稱為積矩相關係數(coefficient of product-moment correlation)。進行相關分析時,我們一般會同時對兩變數繪製散點圖,以更直觀地考察兩變數之間的相互變化關係。 例7-1 某醫生為了探討缺碘地區母嬰TSH水平的關
網路爬蟲過程中5種網頁去重方法簡要介紹
一般的,我們想抓取一個網站所有的URL,首先通過起始URL,之後通過網路爬蟲提取出該網頁中所有的URL連結,之後再對提取出來的每個URL進行爬取,提取出各個網頁中的新一輪URL,以此類推。整體的感覺就是自上而下進行抓取網頁中的連結,理論上來看,可以抓取整站所有的連結。但是問題來了,一個網站中網頁的連結是有
djjango cookie和session 的幾種常用需求使用方法
------https://www.cnblogs.com/liuqingzheng/articles/8990027.html 需求情形一:正常設定cookie def test_cookie_login(request): if request.method == 'POST':
Java中5種建立物件的方法,你知道幾種?
作為一個Java開發者,一種面向物件的語言,我們每天都建立很多物件。但後續我們開發中,採用了spring的依賴管理系統,我們就很少自己去建立物件了,全部交給容器去託管,那麼本篇文章回源塑本,講述一下java中能夠建立一個物件的5中方法。 本文最大的特色是,我不僅給出案例,
三種常用資料標準化方法
引入 評價是現代社會各領域的一項經常性的工作,是科學做出管理決策的重要依據。隨著人們研究領域的不斷擴大,所面臨的評價物件日趨複雜,如果僅依據單一指標對事物進行評價往往不盡合理,必須全面地從整體的角度考慮問題,多指標綜合評價方法應運而生。所謂多指標綜合評價方法,就
轉Hash演算法解決衝突的方法一般有以下幾種常用的解決方法
Hash演算法解決衝突的方法一般有以下幾種常用的解決方法 1, 開放定址法: 所謂的開放定址法就是一旦發生了衝突,就去尋找下一個空的雜湊地址,只要散列表足夠大,空的雜湊地址總能找到,並將記錄存入 公式為:fi(key) = (f(key)+di) MOD m (di=1,2
JavaScript的5種呼叫函式的方法
這篇文章詳細的介紹了javascript中各種函式呼叫的方法及其原理,對於理解JavaScript的函式有很大的幫助! JavaScript,呼叫函式的5種方法 一次又一次的,我發現,那些有bug的Javascript程式碼是由於沒有真正理解Javascript
5種常用的伺服器程式設計模型
http://www.cricode.com/3510.html 1.同步阻塞迭代模型 同步阻塞迭代模型是最簡單的一種IO模型。 其核心程式碼如下: 12345678bind(srvfd);listen(srvfd);for(;;){cli
MySQL常用效能分析方法-profile,explain,索引
1.查版本號無論做什麼都要確認版本號,不同的版本號下會有各種差異。>Select version();2.執行狀態分析顯示哪些執行緒正在執行>show processlist;下面是完整的資訊3.show profileshow profile預設的是關閉的,但
HTML 5 Canvas常用屬性和方法
填充 fillStyle = "#ff0000" //設定填充顏色為純紅 fillStyle = my_gradient //設定填充漸變樣式 fillRect(20,20,200,200
5種部署靜態網站方法
第一種:新增靜態頁面在Tomcat8\webapps\ROOT根路徑下 例如:在ROOT資料夾下放一個hello.html的靜態頁面 訪問方法:localhost:8080/hello.html 第二種:在Tomcat8\webapps路徑下自定義目錄網站 例如:
5種常用的資料庫分類(看看你用的是哪種?)
常用的資料庫工具有哪些呢?(參看百度百科) >>什麼是MS SQL資料庫MS指的是微軟Microsoft,SQL是結構化查詢語言.結合起來就是說:MS SQL是指微軟的SQL Server資料庫伺服器,它是一個數據庫平臺,提供資料庫的從伺服器到終端的完整的解決方案,其中資料庫伺服器部分,是一個數
Matlab提供的兩種聚類分析方法
一種是利用 clusterdata函式對樣本資料進行一次聚類,其缺點為可供使用者選擇的面較窄,不能更改距離的計算方法; 另一種是分步聚類: (1)找到資料集合中變數兩兩之間的相似性和非相似性,用pdist函式計算變數之間的距離;(2)用 linkage函式定義變數之間的連線; (3)用 copheneti
程式設計師在頁面友好性上常犯的5種錯誤以及改正方法
程式設計師在頁面友好性上常犯的5種錯誤以及改正方法: 我是一個性情乖戾的web使用者,但我想這也幫助促使我成為了一名優秀的Web開發人員。當我看到一個網站上有讓人不爽的設計時就會非常的惱怒,一些很簡單的東西為什麼做不好?下面是5種常見的可用性方面的錯誤,以及如何糾正這些問題