前面一節，介紹了神馬是sigmoid函式。

其實他的本質，根據doctor wu所示，就是y=wTx+b

機器學習的重點就是能夠算出wT和b兩個不同的引數，進行模擬。

損失函式，不知道為啥，doctor wu瞬間就拿出了平方差這個方法，上網搜尋了下，對於損失函式，還是有幾種選擇。請檢視。

常見的損失函式（資訊引用http://blog.csdn.net/bitcarmanlee/article/details/51165444）

機器學習或者統計機器學習常見的損失函式如下：

1.0-1損失函式 （0-1 loss function）

L(Y,f(X))={1,0,Y ≠ f(X)Y = f(X)

2.平方損失函式（quadratic loss function)

L(Y,f(X))=(Y−f(x))2

3.絕對值損失函式(absolute loss function)

L(Y,f(x))=|Y−f(X)|

4.對數損失函式（logarithmic loss function) 或對數似然損失函式(log-likehood loss function)

L(Y,P(Y|X))=−logP(Y|X)

邏輯迴歸中，採用的則是對數損失函式。如果損失函式越小，表示模型越好。

損失函式詳解

根據上面的內容，我們可以得到邏輯迴歸的對數似然損失函式cost function：

cost(hθ(x),y)={−log(hθ(x))−log(1−hθ(x))if y=1if y=0

稍微解釋下這個損失函式，或者說解釋下對數似然損失函式：
當y=1時，假定這個樣本為正類。如果此時hθ(x)=1,則單對這個樣本而言的cost=0,表示這個樣本的預測完全準確。那如果所有樣本都預測準確，總的cost=0
但是如果此時預測的概率hθ(x)=0，那麼

相關推薦

第二章--第三節 成本函式和損失函式推導過程

前面一節，介紹了神馬是sigmoid函式。 其實他的本質，根據doctor wu所示，就是y=wTx+b 機器學習的重點就是能夠算出wT和b兩個不同的引數，進行模擬。 損失函式，不知道為啥，doctor wu瞬間就拿出了平方差這個方法，上網搜尋了下，對於損失函式，還

作業系統第二章第三節

程序同步 -理解同步的含義 -訊號量機制控制程序同步 -管程 程序間有什麼相互影響？ 兩種制約關係： 間接相互制約關係：主要源於資源共享,表現為 程序A—印表機資源—程序B（互斥） 直接相互制約關係：主要源於程序合作，表

AI應用開發基礎傻瓜書系列3-啟用函式和損失函式

第三篇：啟用函式和損失函式 在這一章，我們將簡要介紹一下啟用函式和損失函式~ 啟用函式 看神經網路中的一個神經元，為了簡化，假設該神經元接受三個輸入，分別為\(x_1, x_2, x_3\),那麼\(z=\sum\limits_{i}w_ix_i+b_i\), 啟用函式也就是\(A=\sigma(Z)\)

深度學習筆記(三)：啟用函式和損失函式

這一部分來探討下啟用函式和損失函式。在之前的logistic和神經網路中，啟用函式是sigmoid, 損失函式是平方函式。但是這並不是固定的。事實上，這兩部分都有很多其他不錯的選項，下面來一一討論 3. 啟用函式和損失函式 3.1 啟

第二周第三節、文件和目錄權限，更改所有者和所屬組， umask及隱藏權限lsattr / chatt

2018-03-28文件權限的管理 ls -l中顯示的內容如下： -rwxrw-r-- 1 root root 1213 Feb 2 09:39 abc 　　10個字符確定不同用戶能對文件幹什麽 　　第一個字符代表文件(-),目錄(d),鏈接(l) 　　其余字符每3個一組(rwx) 讀(r) 寫(w) 執行(

【軟件構造】第七章第三節 斷言和防禦性編程

2種 子程序 語句 tro 啟用 防禦性編程 spa 調試 pan 第七章第三節 斷言和防禦性編程 本節：第2種技術——斷言、防禦式編程 Outline 斷言 什麽是斷言 斷言的應用場景 防禦式編程（不是考點，不加敘述） Notes： ## 斷言 【什麽是斷言】

第二章 第五課 Scratch作品：會畫畫的皮球（運動和方向）

同學們，上節課中我們學習了Scratch中的運動和方向。 今天我們學習幾個新的內容：迴圈、角色的移動和落筆，同時使用新學習的內容做出作品：會畫畫的皮球！ 有關課程的視訊，請參見公眾號： 這節課中只有一個角色，那就是皮球 這個皮球的造型只有一個就可以了 對應的程式碼

第二章 第四課 Scratch作品：聽話的皮球（運動和方向）

同學們，今天我們繼續學習Scratch中的運動和方向。 同時使用新學習的內容做出作品：聽話的皮球！ 課程目標是：皮球會隨著鍵盤上的上下左右的動作而移動。 有關課程的視訊，請參見公眾號： 這節課中只有一個角色，那就是皮球；這個皮球的造型只有一個就可以了。 對應的程式碼如下

C++ 第六章（多型性和虛擬函式）上篇

目錄 多型性 多型性的定義 例子 虛擬函式 虛擬函式的作用 什麼情況下使用虛擬函式 虛解構函式 純虛擬函式和抽象類 什麼是多型性 面對不同的物件傳送同一個訊息，不同的物件

C++ 第六章（多型性和虛擬函式）下篇（虛解構函式和純虛擬函式）

一，虛解構函式 如果用new運算子建立了臨時物件，若基類中有解構函式並且定義了一個指向該基類的指標變數。在程式用帶指標引數的delete運算子撤銷物件時，會發生：系統只執行基類的解構函式，而不執行派生類的解構函式。 #include<iostream> using

第二章第三題

循環 tony end eve class body pen 列表 eric 3、寫代碼，有如下列表，按照要求實現每一個功能 li＝[‘alex‘, ‘eric‘, ‘rain‘] 計算列表長度並輸出 列表中追加元素“seven”，並輸出添加後的列表 請在列表的第1個位置

【軟件構造】第三章第三節 抽象數據型(ADT)

必須 png tar str urn http private 其余 字符數 第三章第三節 抽象數據型(ADT) 3-1節研究了“數據類型”及其特性 ; 3-2節研究了方法和操作的“規約”及其特性；在本節中，我們將數據和操作復合起來，構成ADT，學習ADT的核

【軟件構造】第五章第三節 可復用的設計模式

類方法 iterator weight 獨立 spl temp 委派 inline game 第五章第三節 可復用的設計模式 除了Framework，5-2節所討論的其他技術都過於“基礎”和“細小”，有沒有辦法做更大規模的復用設計？ 本節將介紹幾種典型的“面向復用”的設計

【軟件構造】第六章第三節 面向可維護的構造技術

pre 協議 判斷 regex 格式 png ria 不包含 有一個 第六章第三節 面向可維護的構造技術 學了這麽多OO設計模式，不外乎都是 delegation + subtying，萬變不離其宗。 除了OO，還有什麽其他能夠提升軟件可維護性的構造技術？——本節從委派+子

js學習筆記-第二章變數、作用域和記憶體問題-執行環境和作用域

//執行環境：執行環境（execution context，為簡單起見，有時也稱為“環境”）是 JavaScript 中最為重要的一個概念。執行環境定義了變數或函式有權訪問的其他資料，決定了它們各自的行為 //變數物件：。每個執行環境都有一個與之關聯的變數物件（variable object

損失函式和風險函式

損失函式度量模型預測一次的好壞，即模型預測一次其預測值與真實值之間的差別。 風險函式度量模型平均意義上預測能力的好壞，即模型預測n次預測值與真實值差別的平均。 記f(X)為模型的輸出預測值，Y為對應輸入的真實值，則損失函式為f(x)和Y的非負實值函式，記為L(Y,f(x)

第一章 第三節 JDK與Java的開發環境

1、JDK與JRE 　　如果一個程式設計師要釋出Java程式，一般來說，會發布.class檔案。而如果要執行Java程式，同樣指的是執行.class檔案。因此，執行Java程式，只需要Java虛擬機器和直譯器就可以執行。即JRE，也就是Java Runtime Enviroment的縮寫，指的是Java的執行

全棧工程師之路-中級篇之小程式開發-第二章第五節小程式中的Promise

上一節課最後，我們遇到了一個警告。 說我們太過頻繁的呼叫serData了，因為我們這個頁面的三部分資料是通過三個介面獲取的。 所以我們分別在三個介面返回的時候呼叫了資料繫結。 但是過於頻繁的呼叫setData很容易引起效能問題。 要理解為什麼會引發效能問題，我們要先看一下

手推SVM（三）-軟間隔和損失函式的推導

軟間隔的提出 對偶問題及其化簡 引數的求解 引數的調優 1.軟間隔的提出 上一篇文章（手推SVM（二）-核方法 ）我們用核方法來解決線性不可分問題，但如果即使對映到高維空間中，仍然有部分點不能完美的區分開呢？ 如圖，無論核函式怎麼選取，都不

深入理解計算機系統_第一部分_第二章_資訊的表示和處理

深入，並且廣泛 -沉默犀牛 文章導讀 這一章介紹了計算機中資訊（即二值訊號）的表示和處理。 資訊儲存 1.1 十六進位制表示法：介紹了十六進位制的產生和十六進位制、十進位制、二進位制之間的相互轉換規律 1.2 字資料大小：介紹了在不同機器和編譯器中，資料型別資料