1. 程式人生 > 實用技巧 >偏差方差分解中為什麼第三行第六行為零

偏差方差分解中為什麼第三行第六行為零

首先得先了解計算偏差方差的方法
計算偏差方差方法
尤其需要注意的是每次通過不同的模型對測試樣本中的1個x進行偏差方差分析,這一點至關重要!
然後我們開始推理為什麼下面這個連結中的公式的第三行和第六行中為0
公式連結源地址
下圖是公式
在這裡插入圖片描述
首先對於第三行消掉的式子
在這裡插入圖片描述
中的後半部分小括號中的預測期望減去y_d這個東西,完全就是個常數!
因為到這裡,期望是多個模型預測值的均值,y_d是當前唯一樣本的標籤值,那麼必然不會隨著D(訓練集)資料的變化而變化,所以按照期望的計演算法則,就可以提到最前面去,然後加減法取期望,那麼f(x;D)的期望不就是預測期望嗎?相減直接為零,臥槽,我太菜了,就這個簡單問題我想了一天。
上面這段理解之後,那麼對於第六行也很簡單了,提示一下,消掉的中括號中的前一部分和後一部分都應該是常數,但是別忘了這個截圖只是針對當前的這一個樣本,暫時是不會消掉的,當使用下面這個式子推到,最終結合所有測試樣本分析時,那麼在噪聲期望為0的假設下就會變為0了

在這裡插入圖片描述
在這裡插入圖片描述

在這裡插入圖片描述
我覺得上面這個圖寫的有問題,應該是Ex(y-y_d) = 0
參考鏈家
參考連結