一、邏輯迴歸
1、優點
（1）簡單、訓練速度快
（2）容易理解
（3）可以用來進行特徵的選擇
2、缺點
（1）一般只能處理線性可分的二分類問題
（2）特徵空間很大時，效能不是很好
（3）欠擬合
（4）兩邊的概率變化太小，沒有區分度
（5）不能很好的處理大量多類特徵
（6）多重共線性，但可以用L2正則化解決

二、KNN演算法
1、優點
（1）容易理解和視覺化
（2）訓練時間複雜度為O(n)
（3）可用於非線性分類
2、缺點
（1）計算量大
（2）需要消耗大量記憶體
（3）類別不平衡問題時，準確率不高

三、RF演算法
1、優點
（1）容易理解
（2）容易並行化
（3）能夠給出特徵重要性
（4）對缺失值不太敏感
2、缺點
（1）對小資料或者低維資料效果不好
（2）對噪音較大的資料容易過擬合
（3）如果基於資訊增益的劃分方式，偏向於屬性值較多的特徵

四、XGBoost
1、優點
（1）不僅是CART樹，還可以線性分類器
（2）引入正則化，提高模型的泛化能力
（3）基於預排序演算法，並行訓練
（4）對損失函式進行二階泰勒展開，利用了一階和二階導數
2、缺點
（1）基於level-wise的分裂方式
（2）預排序方法空間消耗比較大，不僅要儲存特徵值，也要儲存特徵的排序索引，同時時間消耗也大

五、lightGBM
1、優點
（1）直方圖做差加速
（2）基於leaf-wise
（3）lightgbm使用了基於histogram的決策樹演算法，這一點不同與xgboost中的exact演算法，histogram演算法在記憶體和計算代價上都有不小優勢。