sklearn.ensemble模組提供了很多整合方法，AdaBoost、Bagging、隨機森林等。本文使用的是AdaBoostClassifier。

AdaBoostClassifier這個函式，一共有5個引數：

引數說明如下：

• base_estimator：可選引數，預設為DecisionTreeClassifier。理論上可以選擇任何一個分類或者回歸學習器，不過需要支援樣本權重。我們常用的一般是CART決策樹或者神經網路MLP。預設是決策樹，即AdaBoostClassifier預設使用CART分類樹DecisionTreeClassifier，而AdaBoostRegressor預設使用CART迴歸樹DecisionTreeRegressor。另外有一個要注意的點是，如果我們選擇的AdaBoostClassifier演算法是SAMME.R，則我們的弱分類學習器還需要支援概率預測，也就是在scikit-learn中弱分類學習器對應的預測方法除了predict還需要有predict_proba。
• algorithm：可選引數，預設為SAMME.R。scikit-learn實現了兩種Adaboost分類演算法，SAMME和SAMME.R。兩者的主要區別是弱學習器權重的度量，SAMME使用對樣本集分類效果作為弱學習器權重，而SAMME.R使用了對樣本集分類的預測概率大小來作為弱學習器權重。由於SAMME.R使用了概率度量的連續值，迭代一般比SAMME快，因此AdaBoostClassifier的預設演算法algorithm的值也是SAMME.R。我們一般使用預設的SAMME.R就夠了，但是要注意的是使用了SAMME.R， 則弱分類學習器引數base_estimator必須限制使用支援概率預測的分類器。SAMME演算法則沒有這個限制。
• n_estimators：整數型，可選引數，預設為50。弱學習器的最大迭代次數，或者說最大的弱學習器的個數。一般來說n_estimators太小，容易欠擬合，n_estimators太大，又容易過擬合，一般選擇一個適中的數值。預設是50。在實際調參的過程中，我們常常將n_estimators和下面介紹的引數learning_rate一起考慮。
• learning_rate：浮點型，可選引數，預設為1.0。每個弱學習器的權重縮減係數，取值範圍為0到1，對於同樣的訓練集擬合效果，較小的v意味著我們需要更多的弱學習器的迭代次數。通常我們用步長和迭代最大次數一起來決定演算法的擬合效果。所以這兩個引數n_estimators和learning_rate要一起調參。一般來說，可以從一個小一點的v開始調參，預設是1。
• random_state：整數型，可選引數，預設為None。如果RandomState的例項，random_state是隨機數生成器; 如果None，則隨機數生成器是由np.random使用的RandomState例項

Methods

Compute the decision function of X.

Parameters:	X : {array-like, sparse matrix} of shape = [n_samples, n_features] The training input samples. Sparse matrix can be CSC, CSR, COO,DOK, or LIL. DOK and LIL are converted to CSR.
Returns:	score : array, shape = [n_samples, k] The decision function of the input samples. The order ofoutputs is the same of that of the classes_ attribute.Binary classification is a special cases with k == 1,otherwise k==n_classes. For binary classification,values closer to -1 or 1 mean more like the first or secondclass in classes_, respectively.

輸入樣本的決策功能。輸出的順序與classes_屬性的順序相同。二元分類是k == 1的特殊情況，否則是k == n_classes。對於二元分類，接近-1或1的值分別意味著更類似於classes_中的第一個或第二個類。

（2）fit(X, y, sample_weight=None)

Build a boosted classifier from the training set (X, y).

Parameters:	X : {array-like, sparse matrix} of shape = [n_samples, n_features] The training input samples. Sparse matrix can be CSC, CSR, COO,DOK, or LIL. DOK and LIL are converted to CSR. y : array-like of shape = [n_samples] The target values (class labels). sample_weight : array-like of shape = [n_samples], optional Sample weights. If None, the sample weights are initialized to1 / n_samples.
Returns:	self : object Returns self.

返回自我。

(3) predict(X)

Predict classes for X.

The predicted class of an input sample is computed as the weighted meanprediction of the classifiers in the ensemble.

Parameters:	X : {array-like, sparse matrix} of shape = [n_samples, n_features] The training input samples. Sparse matrix can be CSC, CSR, COO,DOK, or LIL. DOK and LIL are converted to CSR.
Returns:	y : array of shape = [n_samples] The predicted classes.