超定方程組：方程個數大於未知量個數的方程組。

對於方程組Ra=y，R為n×m矩陣，如果R列滿秩，且n>m （n為方程組行數，m為未知量個數）

超定方程一般是不存在解的矛盾方程。

例如，如果給定的三點不在一條直線上， 我們將無法得到這樣一條直線，使得這條直線同時經過給定這三個點。 也就是說給定的條件（限制）過於嚴格， 導致解不存在。在實驗資料處理和曲線擬合問題中，求解超定方程組非常普遍。比較常用的方法是最小二乘法。形象的說，就是在無法完全滿足給定的這些條件的情況下，求一個最接近的解。

曲線擬合的最小二乘法要解決的問題，實際上就是求以上超定方程組的最小二乘解的問題。

欠定方程組: 方程個數小於未知量個數的方程組。

對於方程組Ra=y，R為n×m矩陣，且n<m。則方程組有無窮多組解，此時稱方程組為欠定方程組。

內點法和梯度投影法是目前解欠定方程組的常用方法。