最近看了看吉洪諾夫正則化方法，對其基本內容作了一個簡單的瞭解。現在總結如下。
1、正則化
定義：正則化(regularization)，是指線上性代數理論中，不適定問題通常是由一組線性代數方程定義的，而且這組方程組通常來源於有著很大的條件數的不適定反問題。大條件數意味著舍入誤差或其它誤差會嚴重地影響問題的結果。
另外給出一個解釋性定義：對於線性方程Ax=b，當解x不存在或者解不唯一時，就是所謂的病態問題(ill-posed problem). 但是在很多時候，我們需要對病態問題求解，那怎麼做？
對於解不存在的情況，解決辦法是增加一些條件找一個近似解；對於解不唯一的情況，解決辦法是增加一些限制縮小解的範圍。這種通過增加條件或限制要求求解病態問題的方法就是正則化方法。
正則化的英文是regularization，即規則化，調整。通過一些調整或者其他辦法，使病態問題也能得到唯一解。在這個調整的過程中，使用的技術就是正則化技術，所用的方法就是正則化方法。
2、
求解線性方程的標準方法是最小二乘法，即求解min