拓端tecdat|R語言群組變數選擇、組懲罰group lasso套索模型預測分析新生兒出生體重風險因素資料和交叉驗證、視覺化
原文連結:http://tecdat.cn/?p=25158
原文出處:拓端資料部落公眾號
本文擬合具有分組懲罰的線性迴歸、GLM和Cox迴歸模型的正則化路徑。這包括組選擇方法,如組lasso套索、組MCP和組SCAD,以及雙級選擇方法,如組指數lasso、組MCP。還提供了進行交叉驗證以及擬合後視覺化、總結和預測的實用程式。
本文提供了一些資料集的例子;涉及識別與低出生體重有關的風險因素。結果是連續測量(bwt,以公斤為單位的出生體重),也可以是二分法(低),即新生兒出生體重低(低於2.5公斤)。
- head(X)
-
原始設計矩陣由 8 個變數組成,此處已將其擴充套件為 16 個特徵。例如,有多個種族指標函式(“其他”是參考組),並且已經使用多項式對比擴充套件了幾個連續因素(例如年齡)(樣條曲線會給出類似的結構)。因此,設計矩陣的列被分組
group
在這裡,組是作為一個因子給出的;唯一的整數程式碼(本質上是無標籤的因子)和字元向量也是允許的(然而,字元向量確實有一些限制,因為組的順序沒有被指定)。要對這個資料擬合一個組套索lasso模型。
- gLas(X, y,grup)
-
然後我們可以用以下方法繪製係數路徑
-
- plot
請注意,當一個組進入模型時(例如,綠色組),它的所有係數都變成非零;這就是組套索模型的情況。要想知道這些係數是什麼,我們可以使用coef。
請注意,在λ=0.05時,醫生的就診次數不包括在模型中。
為了推斷模型在各種 λ值下的預測準確性,進行交叉驗證。
-
- cv(X, y, grp)
-
可以通過coef
以下方式獲得與最小化交叉驗證誤差的 λ值對應的係數:
-
- coef(cvfit)
預測值可以通過 獲得predict
,它有許多選項:
predict # 對新觀察結果的預測
predicttype="ngroups" # 非零組的數量
# 非零組的身份
nvars # 非零係數的數量
predict(fit # 非零係數的身份
原始擬合(對完整資料集)返回為fit
; 其他幾種懲罰是可用的,邏輯迴歸和 Cox 比例風險迴歸的方法也是如此。
最受歡迎的見解
3.matlab中的偏最小二乘迴歸(PLSR)和主成分迴歸(PCR)
5.R語言迴歸中的Hosmer-Lemeshow擬合優度檢驗
6.r語言中對LASSO迴歸,Ridge嶺迴歸和Elastic Net模型實現
9.R語言如何在生存分析與Cox迴歸中計算IDI,NRI指標
▍關注我們 【大資料部落】第三方資料服務提供商,提供全面的統計分析與資料探勘諮詢服務,為客戶定製個性化的資料解決方案與行業報告等。 ▍諮詢連結:http://y0.cn/teradat ▍聯絡郵箱:[email protected]