1. 程式人生 > >1.7. 高斯過程(Gaussian Processes)

1.7. 高斯過程(Gaussian Processes)

1.7.2.3. 經驗最佳線性無偏預測(EBLUP,The empirical best linear unbiased predictor)

直到如今, 自相關模型和迴歸模型都是假設給定的。然而實際上,不能夠提前知道是這些模型的,因此要為這些模型 相關性模型(Correlation Models) 做(有動機的)經驗選擇。

假設已經選了一些模型,接下來應該估計那些在 BLUP 中仍然未知的引數。

這麼做,需要用一系列提供的觀察值加上一些推理技巧。

目前的實現是基於 DACE 的 Matlab 工具箱,使用了 最大似然估計 技術-- 完整的方程參見參考文獻中的 DACE 手冊。在自相關引數上的最大似然估計問題變成了一個的全域性最優化問題。

在目前的實現裡,全域性最優是通過 scipy.optimize 裡的 fmin_cobyla 優化函式的均值得到解的(譯者:COBYLA :約束優化的線性逼近)。

但是在各向異性的情況下,提供了基於Welch’s componentwise 優化演算法的實現,參見參考文獻。

更多更全面的關於機器學習的高斯過程理論方面的知識,請參考如下的參考文獻: