1. 程式人生 > >上溢和下溢

上溢和下溢

1.舍入誤差

  下溢:

    接近零的數被四捨五入為零時發生下溢

    避免被零除

    避免取零的對數

  上溢:

    大量級的數被近似為∞ 或 −∞ 時發生上溢

  softmax 函式對上溢和下溢進行數值穩定

    

2.病態條件

  輸入中的舍入誤差可能導輸出的巨大變化

  考慮函式 f(x) = A −1 x。當 A ∈ R n×n 具有特徵值分解時,其條件數為

    

  這是最大和最小特徵值的模之比 1 。當該數很大時,矩陣求逆對輸入的誤差特別敏感

  這種敏感性是矩陣本身的固有特性