1. 程式人生 > >非精確線搜尋之Armijo搜尋

非精確線搜尋之Armijo搜尋

線搜尋技術是求解許多優化問題下降演算法的基本組成部分, 但精確線搜尋往往需要計算很多的函式值和梯度值, 從而耗費較多的計算資源.特別是當迭代點遠離最優點時, 精確線搜尋通常不是十分有效和合理的.對於許多優化演算法, 其收斂速度並不依賴於精確搜尋過程. 因此, 既能保證目標函式具有可接受的下降量又能使最終形成的迭代序列收斂的非精確線搜尋變得越來越流行.下面介紹非精確線搜尋中Armijo準則:

Armijo 準則是指: 給定