python實現支持向量機之軟間隔(理論三)

上一節所講的支持向量機是在數據線性可分的情況下的,當數據線性不可分時,也就是并不是所有數據都滿足:

可以為每個樣本點引入一個松弛變量ξ,使得函數間隔加上松弛變量大于等于1,這樣約束條件就變為:

同時對于每一個松弛變量ξ1,支付一個代價ξ1,因此目標函數變為:

C>0稱為懲罰系數,一般由應用問題所決定,C值越大時對誤分類的懲罰增大,反之減小。

此時,支持向量機就轉換為以下問題:

該優化問題的拉格朗日函數是:

 

摘自統計學習方法,僅供自己復習所用。 

posted @ 2020-05-02 09:55  西西嘛呦  閱讀(...)  評論(...編輯  收藏
美人江湖手游