sklearn中的svm.SVC
阿新 • • 發佈:2019-01-02
svm是sklearn中一個關於支援向量機的包,比較常用,在使用過程中若是不熟悉各個引數的意義,總以預設引數進行機器學習,則不能做到最優化使用SVM,這就是一個較為遺憾的事情了。為了加深理解和方便呼叫,根據現有理解,結合官方文件,對其中的引數做一些記錄,方便自己時常溫習,也給閱讀者進行一些粗淺的介紹,如果有理解錯誤的地方,希望閱讀者能夠指出。
以svm中的支援向量分類SVC作為介紹,所有引數如下:
class sklearn.svm.SVC(
C=1.0,
kernel='rbf',
degree=3,
gamma='auto' ,
coef0=0.0,
shrinking=True,
probability=False,
tol=0.001,
cache_size=200,
class_weight=None,
verbose=False,
max_iter=-1,
decision_function_shape='ovr',
random_state=None)
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
具體每個引數的使用方法介紹如下:
C : float, optional (default=1.0)
誤差項的懲罰引數,一般取值為10的n次冪,如10的-5次冪,10的-4次冪。。。。10的0次冪,10,1000,1000,在python中可以使用pow(10,n) n=-5~inf
C越大,相當於懲罰鬆弛變數,希望鬆弛變數接近0,即對誤分類的懲罰增大,趨向於對訓練集全分對的情況,這樣會出現訓練集測試時準確率很高,但泛化能力弱。
C值小,對誤分類的懲罰減小,容錯能力增強,泛化能力較強。
- 1
- 2
- 3
- 4
- 5
- 6
kernel : string, optional (default=’rbf’)
svc中指定的kernel型別。
可以是: ‘linear’, ‘poly’, ‘rbf’, ‘sigmoid’, ‘precomputed’ 或者自己指定。 預設使用‘rbf’ 。
- 1
- 2
- 3
- 4
- 5
degree : int, optional (default=3)
當指定kernel為 ‘poly’時,表示選擇的多項式的最高次數,預設為三次多項式。
若指定kernel不是‘poly’,則忽略,即該引數只對‘poly’有作用。
- 1
- 2
- 3
- 4
gamma : float, optional (default=’auto’)
當kernel為‘rbf’, ‘poly’或‘sigmoid’時的kernel係數。
如果不設定,預設為 ‘auto’ ,此時,kernel係數設定為:1/n_features
- 1
- 2
- 3
- 4
- 5
coef0 : float, optional (default=0.0)
kernel函式的常數項。
只有在 kernel為‘poly’或‘sigmoid’時有效,預設為0。
- 1
- 2
- 3
- 4
- 5
probability : boolean, optional (default=False)
是否採用概率估計。
必須在fit()方法前使用,該方法的使用會降低運算速度,預設為False。
- 1
- 2
- 3
shrinking : boolean, optional (default=True)
如果能預知哪些變數對應著支援向量,則只要在這些樣本上訓練就夠了,其他樣本可不予考慮,這不影響訓練結果,但降低了問題的規模並有助於迅速求解。進一步,如果能預知哪些變數在邊界上(即a=C),則這些變數可保持不動,只對其他變數進行優化,從而使問題的規模更小,訓練時間大大降低。這就是Shrinking技術。
Shrinking技術基於這樣一個事實:支援向量只佔訓練樣本的少部分,並且大多數支援向量的拉格朗日乘子等於C。
- 1
- 2
- 3
- 4
- 5
- 6
tol : float, optional (default=1e-3)
誤差項達到指定值時則停止訓練,預設為1e-3,即0.001。
- 1
- 2
- 3
- 4
cache_size : float, optional
指定核心快取的大小,預設為200M。
- 1
- 2
- 3
- 4
class_weight : {dict, ‘balanced’}, optional
權重設定。如果不設定,則預設所有類權重值相同。
以字典形式傳入。
##(這個具體使用還不是很清楚)##
Set the parameter C of class i to class_weight[i]*C for SVC. If not given, all classes are supposed to have weight one. The “balanced” mode uses the values of y to automatically adjust weights inversely proportional to class frequencies in the input data as n_samples / (n_classes * np.bincount(y))
- 1
- 2
- 3
- 4
- 5
- 6
- 7
verbose : bool, default: False
是否啟用詳細輸出。
多執行緒時可能不會如預期的那樣工作。預設為False。
- 1
- 2
- 3
- 4
max_iter : int, optional (default=-1)
強制設定最大迭代次數。
預設設定為-1,表示無窮大迭代次數。
Hard limit on iterations within solver, or -1 for no limit.
- 1
- 2
- 3
- 4
- 5
- 6
decision_function_shape : ‘ovo’, ‘ovr’, default=’ovr’
##這個用法也不是很理解##
Whether to return a one-vs-rest (‘ovr’) decision function of shape (n_samples, n_classes) as all other classifiers, or the original one-vs-one (‘ovo’) decision function of libsvm which has shape (n_samples, n_classes * (n_classes - 1) / 2).
Changed in version 0.19: decision_function_shape is ‘ovr’ by default.
New in version 0.17: decision_function_shape=’ovr’ is recommended.
Changed in version 0.17: Deprecated decision_function_shape=’ovo’ and None.
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
random_state : int, RandomState instance or None, optional (default=None)
偽隨機數使用資料。
- 1
- 2
- 3
一些屬性介紹:
Attributes:
support_ : array-like, shape = [n_SV]
Indices of support vectors.
support_vectors_ : array-like, shape = [n_SV, n_features]
Support vectors.
n_support_ : array-like, dtype=int32, shape = [n_class]
Number of support vectors for each class.
dual_coef_ : array, shape = [n_class-1, n_SV]
Coefficients of the support vector in the decision function. For multiclass, coefficient for all 1-vs-1 classifiers. The layout of the coefficients in the multiclass case is somewhat non-trivial. See the section about multi-class classification in the SVM section of the User Guide for details.
coef_ : array, shape = [n_class-1, n_features]
Weights assigned to the features (coefficients in the primal problem). This is only available in the case of a linear kernel.
coef_ is a readonly property derived from dual_coef_ and support_vectors_.
intercept_ : array, shape = [n_class * (n_class-1) / 2]
Constants in decision function.