因子分析（Factor Analysis)

首先從原理上說，主成分分析是試圖尋找原有自變數的一個線性組合。這個組合方差要大，那麼攜帶的資訊也就多，也就是相當於把原始資料的主要成分給拿了出來。

而因子分析，是從假設出發，它是假設所有的自變數x出現的原因是因為背後存在一個潛變數f,即因子，在這個因子的作用下，x可以被觀察到。

什麼意思呢，舉個例子，比如一個學生考試，數學，化學 ，物理都考了滿分，那麼我們認為這個學生理性思維較強，理性思維就是一個因子。在這個因子的作用下，偏理科的成績才會那麼高。這就是因子分析，通過這點，大家就可以感受到，因子分析和主成分分析是明顯不一樣的。並且因子分析最早就由心理學家提出的。那麼因子分析呢，又存在兩個方向，一個是探索性因子分析（exploratory factor analysis）。另一個是驗證性因子分析（confirmatory factor analysis）。探索性因子分析是不確定一堆自變數背後有幾個因子，我們通過這種方法試圖尋找到這幾個因子。而驗證性因子分析是已經假設自變數背後有幾個因子，試圖通過這種方法去驗證一下這種假設是否正確。驗證性因子分析又和結構方程模型有很大關係。後面我們會專門的介紹，今天先介紹探索性因子分析。

數學推導

見連結https://blog.csdn.net/hfutxiaoguozhi/article/details/78840126