Cs231n課堂內容記錄-Lecture 6 神經網絡一
阿新 • • 發佈:2018-12-23
core alt 正則化 正則 要求 參數 內容 eight 彈幕
Lecture 6 神經網絡一
課程內容記錄:
(上)https://zhuanlan.zhihu.com/p/21462488?refer=intelligentunit
(下)https://zhuanlan.zhihu.com/p/21513367?refer=intelligentunit
1.視頻彈幕中關於課堂例子的解釋:
1:我們通過學習訓練集得到權重W1,對應於可以識別一些feature的模板。
2:輸入新的數據X,結合W1,計算得到一個得分score(中間過程可能會再經過一些非線性變換),也就是h,這裏的h是學習到的一百種模板的得分。
3:得到h後,由於一個類別可能對應於多個模板(template)或者多個feature,比如面朝中間的馬可能會在面朝左和面朝右兩個模板中擁有同樣的分值,而在面朝前的模板中得分更高。我們用W2作為權重對這些同一類別的不同模板對應的得分進行運算(比如將分值累加或者將面朝前的feature對應的分值進一步放大後累加)得到最後的Score:S。S就對應最終分類的最後得分。
註:特征提取的過程往往是要用到非線性變換的,而之後的過程主要是將同一類別不同feature對應的分值合並,線性變換即可滿足要求。
2.ConvNetsJS demo:
https://cs.stanford.edu/people/karpathy/convnetjs/demo/classify2d.html
調節不同層數和神經元數目,對於了解層數和每層神經元數目對分類速度和分類結果的影響有很好的幫助。其中參數l2_decay即為L2 regularization,即正則化強度。
Cs231n課堂內容記錄-Lecture 6 神經網絡一