編者按：在營長的眾多死黨微信群，營長髮現，大家很愛談論機器學習面試，也是，畢竟面試表現越好，銀子也能談得越高，能把自己賣個好價錢，當然關心了。

對於這個話題最為關注的，莫過於研究生畢業的孩紙，和有兩、三年工作經驗的孩紙。這群孩紙，有非常迫切的需求，想知道面試官都會問什麼，畢竟這類崗位面試是很耗費精力體力的：面試會談到各類技術知識，會有筆試、公式推導等。只有提前把相關的方面準備好，才可能在面試中給人留下深刻印象。據說，好的面試能給薪水帶來20%的提升呢。一位有著兩年工作經驗的機器學習演算法人告訴AI科技大本營。（營長注：工作年限更長，或者技術大牛，人妥妥的是被各家搶著挖的物件，去面試那是看得起你）

不過，對於畢業生來說，並沒有什麼經驗，可能不知道該從哪些地方來準備面試；而有了一定面試經驗的從業者，也希望能更清楚地瞭解面試官到底在想什麼，哪些地方能加分，哪些地方是坑，這樣就能更從容一些，並能在下次面試時大幅改進。

為此，營長找到了一篇非常接地氣而又詳盡的知乎帖子，專門談機器學習的面試。這是一位經驗非常豐富的機器學習技術面試官，他掏心窩子地吐露了作為考官，在面試中的感受、以及他會通過哪些地方、以哪種方式對求職者進行考察。

通過面試官的自我解剖，求職者能更清楚：哪些是加分項？哪些需提前準備？面試考題背後有哪些玄機？如何在面試中化被動為主動？如何清晰地將自己的水平講出來？

此外，作者還提到了很多技巧，比如提前做好策劃書，這是絕對的經驗之談和加分項，化被動為主動的利器，並鼓勵求職者要抓住面試機會，多吸收這個特定領域的流行演算法和模型，並藉此發現自己在知識點上的缺失，因為這是很難在書本上學到的。

不過，總的來說，這篇文章偏向於演算法人才的面試，裡面提到的好些指導性原則，這其實還是需要結合長期的積累。別以為看完這篇，就完事大吉了。

進入正文

面試官如何判斷面試者的機器學習水平？

以下內容授權轉自阿薩姆的知乎問答

首先這個問題問的很廣。做機器學習方向很多，有些公司更偏重於資料探勘，而有些更傾向於深度學習。同理，相對應的崗位有些偏重理論也有些偏重實踐。這些因素疊加造成了機器學習相關的崗位分佈廣，如資料分析師，演算法工程師，機器學習科學家等，很難一概而論。

簡單說說我的背景，我從實習生就開始跟著老闆招聘面試機器學習方向的候選人，到現在前前後後大概也參與了20個左右機器學習求職者的技術面試。其中有在讀的研究生(實習生崗位)，也有已經工作了多年或者學術背景深厚的名校博士(相對高階的“科學家”崗位)。

不談具體崗位的前提下，我想從以下幾個問題來聊聊這個話題：

1. 為什麼要避免學科性的偏見 

2. 如何測試面試者的知識廣度 

3. 怎樣測試面試者的知識深度

4. 為何需要確認基本的程式設計和資料分析能力

5. 怎麼提高機器學習面試成功率

1. 避免學科間的偏見與歧視

機器學習作為一個交叉廣度大，各學科融合深的學科，各種背景的面試者都有。我建議一定不要預設立場，無論是數學、統計、物理、計算機，或是其他學科的面試者都有獨特的知識儲備。比如機器學習其實和統計學習有很大部分是重疊的，甚至和優化(如運籌學)、數學(線代等)也有很多相關的地方。而不同領域的人對於同一件事情的描述可能是相似但不相同的，甚至連叫法都不同。舉個簡單的例子，統計學將變數叫做predictors而機器學習傾向於將其叫做feature(特徵)。我聽說過很多面試官就因為對方不能完全的使用他能聽懂的術語就拒掉了候選人，我覺得這個是愚蠢的。

以我們團隊為例，我的老闆是統計學博士和教授(偏計量)，而我是純粹的電腦科學出身。他喜歡用R來建模而我只擅長Python和C++。但正是這種差異性讓我們可以更好的合作，他在無監督學習中很喜歡用各種密度分析(density estimation)或者對分佈直接進行擬合，而我可以給他介紹很多機器學習方向比較流行的演算法，比如Isolation Forests。同理，Python和R都有各自擅長的領域，比如Python做時序分析的難度就遠遠大於R，因為R有非常成熟的package。

因此，我們不要因為領域不同，叫法不同，程式語言不同，或者模型的解釋思路不同就輕易的否定一個面試者。長此以往，我們的思路會越來越窄，而一定程度的包容能拓展思路。

2. 通過廣度測試劃定面試者的知識面

機器學習的專案一般都牽扯資料處理，建模，評估，視覺化，和部署上線等一系列流程，我們希望面試者對於每個步驟都有最基本的瞭解。因為其範圍很廣，我們希望首先在短時間內瞭解一個面試者的知識範圍。有很多基本但經典的問題可以用於瞭解面試者的素質，給出一些例子:

1）資料處理：如何處理缺失資料(missing value)? 各種處理方法有什麼利弊？

2）資料處理：如何將描述變數(categorical variables)轉為連續變數(continuous variables)？

• 如何處理有序變數？

• 如何處理無序變數？

3）資料處理：如何進行選擇特徵選擇？如何進行資料壓縮？

• 特徵選擇：包裹式，過濾式，嵌入式

• 資料壓縮：主成分分析，自編碼等

4）模型解釋: 試解釋什麼是欠擬合與過擬合？如何應對這兩種情況？

5）模型解釋: 什麼是偏差與方差分解(Bias Variance Decomposition)？與欠擬合和過擬合有什麼聯絡？

6）評估模型一般有什麼手段？

• 分類模型評估方法？

• 迴歸問題評估方法？

• 資料不均衡的評估方法？

7）深度學習是否比其他學習模型都好？為什麼？

以如何處理缺失資料為例，可能的回答有：

1. 分析缺失比例決定是否移除；

2. 用均值，眾數，迴歸代替；

3. 用0代替等。比如深度學習是否比別的模型好，我們就期待面試者能說“分情況討論”，若是能提到“沒有免費的午餐定理”更是加分。在這個階段，我們不會深入追問，僅想對面試人的知識範圍有一個瞭解。

這類問題的共性就是無論你是在校學生還是資深科學家都應該有一個基本的水準在，不過沒有必要百分之百的回答正確，因為本身很多答案都沒有標準答案。大部分時候，這個環節我們對於是否錄用這個人就已經有了答案。如果面試者答錯或者不知道其中百分之八十的概念，錄取的概率就很低了。

3. 根據崗位和求職者背景進行深入挖掘

在經過上一階段以後，我們已經對求職者的素養有了大概的判斷，下一步就需要進行深入瞭解，一般根據兩點進行追問:

• 面試者的背景: 如果有與崗位特別相關的工作經歷，會深入詢問。如果有高引用了的文章，也會讓他講一下他的研究。

• 所面試的崗位: 如果沒有與崗位特別相關的經歷，會根據崗位需求進行詢問。

進入這個環節其實就已經沒有模板了。假設我們現在要為保險公司招聘一個機器學習工程師來自動化"騙保檢測"，我們的求職者是一位計算機系剛畢業的碩士生。那我們可能深入詢問的話題包括:

• 在只有少量的有標籤資料的情況下，如何構建一個反保險欺詐系統？

• 如果面試者回答先用監督學習來做，那麼我們可能問：

  • 這種情況下資料是不均衡的，你是採用過取樣還是欠取樣？如何調整代價函式和閾值？

  • 有些人可能會提到使用One-class SVM？那麼我們可能會追問一下SVM相關的問題，比如什麼是最大間隔分類器啊什麼是Kernel，如何選擇Kernel等。

• 如果面試者回答用無監督學習，那我們可能會問：

  • 為什麼K-Means不適合異常值檢測？K-Means和GMM是什麼關係？是否可以用FMM來直接擬合異常值。

  • 如何可以得到無監督學習中的分類規則？

這一類問題的特點是隨機應變，一般都是在一個方向上深入。比如其他答案提到的L1和L2正則化，我們可能希望面試者在白板上畫圖介紹為什麼L1可以得到稀疏解，以及和嵌入式特徵選擇有什麼聯絡。這一類問題我們不期待求職者完全答對或者講得清楚無誤，我們同時也想觀察其在壓力和追問下的心理素質。因為整個過程中肯定會有一些知識盲點，我們會盡量避免尷尬的氣氛，所以作為求職者不必過分緊張。同時，通過和麵試者一起了解他/她曾做過的專案，可以看出其對於這個專業的興趣—興趣是很難演出來的。

在這個環節，如果一個面試者可以有能力進入深入交談，甚至提到一些我們從來沒想過的思路，都是加分的表現。

4. 基本的程式設計能力和資料探勘能力

機器學習崗位，不管你是統計出身還是計算機出身，都避不開建模的過程，因此基本的程式設計能力是必須的。一般對於數學或者統計學出身的面試者，我們會額外給出一個簡單的小程式測試。這種小程式可能簡單如將讀取資料後並儲存為矩陣。這倒不是因為我們喜歡沒事找事，而是因為機器學習太容易成為紙上談兵，而從業者缺乏最基本的程式設計能力。

相似的，我們也希望面試者談談從模型中可以得到什麼結論。我們曾把Kaggle上泰坦尼克的那個資料集處理過以後，讓面試者談談倖存率到底和什麼有關，如何分析。同樣的，我們不追求完美答案，只是希望看到求職者可以解釋一些簡單的模型結果，從中攫取商業價值。

5. 讓面試者有所收穫 & 如何準備機器學習面試

面試不該是一場單純的考試，在參加面試的過程中，也是一個學習過程。拋磚引玉，對於機器學習的崗位面試我有幾點小建議:

5.1. 根據崗位，準備一份專案策劃書。這個乍聽下來有點虛，但我曾無數次使用這個小技巧得到良好的面試反饋和機會。假設你今天面試的崗位是我提到的保險公司的反詐騙組，那麼如果你可以寫一個如何使用機器學習進行反詐騙的專案策劃書。這個過程對於面試者也是一個練習: 

1. 閱讀論文和新聞收集材料的能力

2. 總結分析的能力

3. 總結的能力。

以我曾經面試過的一個人力資源相關的崗位為例，我準備了一份如何用機器學習來進行員工離職預測的策劃書(中間省略掉了幾頁並馬賽克處理了敏感的地方)：

在策劃書中，你可以分析專案需求，提出相關解法，並建議後續計劃和列出相關文獻。這樣的行為不僅可以讓僱主看到你的誠意，並看到你的的領域知識和獨立分析問題能力。

在適當的時機(比如開始面試的時候或者談到崗位職責的時候)，你拿出準備好的策劃書，開始談你的思路。這種做法我曾做過幾次，效果都很驚豔，因為反被動為主動，從被考察變成了講解你所瞭解的知識。作為一個面試官，如果被面試者能做到這個程度，我會在內心對錄取他比較有信心。

5.2. 真誠並且實事求是。大家都是理工科出身，行家一出手便知有沒有。在這種技術性比較強的學科，完全沒有必要假裝自己瞭解一個知識點。同理心告訴我們，大部分人都有知識盲區，我們不期待完美的回答。當你真的不知道一個問題的答案時候，真誠的希望對方能講得更明白或者承認自己不太瞭解。

如果你假裝自己很瞭解一個不明白的領域，我們一般會問的更深入。你成功的引起了我的注意，那個時候就真的收不了場了。相似的，簡歷上請真的不要誇大其詞的描述自己的經歷。我見過很多人只用過Naive Bayes就在簡歷上號稱自己是機器學習專家，我現在還記得他被面試到面紅耳赤的樣子。在這個浮躁的年代，對於高薪的機器學習崗位，希望大家都能守住最起碼的誠信底線。

5.3. 確保自己對基本的概念有所瞭解。再一次，保證對基本知識的瞭解(有基本的廣度)是對面試者自己和麵試官的尊重。什麼程度就算基本瞭解呢？我的感受是：

• 對基本的資料處理方法有所瞭解

• 對基本的分類器模型有所瞭解並有所使用(調包)，大概知道什麼情況使用什麼演算法較好

• 對基本的評估方法有所掌握，知道常見評估方法的優劣勢

• 有基本的程式設計能力，能夠獨立的完成簡單的資料分析專案

• 有基本的資料探勘能力，可以對模型進行調參並歸納發現

其中每一條都說來簡單，但都是血與淚的過程，請勿操之過急。如何就能保證自己有了足夠的基礎知識呢？我覺得能基本看懂周志華老師《機器學習》的前十章，並相對熟練的使用Sklearn中基礎的API進行建模就可以了。也請勿矯枉過正，如果你面試的崗位不是理論性科學家崗位，不要和數學推導死磕。這也是為什麼我說寫一個專案策劃書很有幫助，在查閱文獻和總結的過程中，你對想要面試的領域有了更加深刻的瞭解，有助於提高信心和知識。

5.4. 享受面試。請不要把技術面試當做一場噩夢，或是一個難關。作為一個冉冉升起的新領域，我們大家都是這麼一路摸爬滾打過來的，至少我自己是很理解這一路的不容易。

因為機器學習領域的人才稀缺，一般而言你的面試官的時間都是很寶貴的，即使你最終沒有通過面試，請抓住機會從他們身上有所學習的機會。從我的角度來看，你不僅可以藉此發現自己知識點上的缺失，也可以聽到在特定領域的流行的演算法和模型，這些都是從書上很難學到的。如果你為了準備面試還閱讀了相關領域的論文和總結，那我想來面試這件事已經遠遠超過了你是否被錄取的意義。

路漫漫其修遠兮，吾將上下而求索。與君共勉。

以上內容是知乎使用者阿薩姆對“面試官如何判斷面試者的機器學習水平？”的回答。

原文地址：

https://www.zhihu.com/question/62482926/answer/210531386

給你的面試加點料

學習了上邊的內容，小編再給你的面試加點料。以下是一些比較乾貨的面試題，看看你能答對幾道，挑戰一下吧！

以下內容授權轉自許韓VS許韓的知乎專欄

1. 什麼樣的資料集不適合用深度學習?（來自知乎使用者抽象猴）

資料集太小，資料樣本不足時，深度學習相對其它機器學習演算法，沒有明顯優勢。

資料集沒有區域性相關特性，目前深度學習表現比較好的領域主要是影象／語音／自然語言處理等領域，這些領域的一個共性是區域性相關性。影象中畫素組成物體，語音訊號中音位組合成單詞，文字資料中單詞組合成句子，這些特徵元素的組合一旦被打亂，表示的含義同時也被改變。對於沒有這樣的區域性相關性的資料集，不適於使用深度學習演算法進行處理。舉個例子：預測一個人的健康狀況，相關的引數會有年齡、職業、收入、家庭狀況等各種元素，將這些元素打亂，並不會影響相關的結果。

2. 用貝葉斯機率說明Dropout的原理（來自知乎使用者抽象猴）

Dropout as a Bayesian Approximation: Insights and Applications

http://mlg.eng.cam.ac.uk/yarin/PDFs/Dropout_as_a_Bayesian_approximation.pdf

3. 何為共線性, 跟過擬合有啥關聯?（來自知乎使用者抽象猴）

Multicollinearity－Wikipedia

https://en.wikipedia.org/wiki/Multicollinearity

共線性：多變數線性迴歸中，變數之間由於存在高度相關關係而使迴歸估計不準確。

共線性會造成冗餘，導致過擬合。

解決方法：排除變數的相關性／加入權重正則。

4. CNN最成功的應用是在CV，那為什麼NLP和Speech的很多問題也可以用CNN解出來？為什麼AlphaGo裡也用了CNN？這幾個不相關的問題的相似性在哪裡？CNN通過什麼手段抓住了這個共性？（來自知乎使用者Naiyan Wang）

Deep Learning -Yann LeCun, Yoshua Bengio & Geoffrey Hinton

https://www.researchgate.net/publication/277411157_Deep_Learning

Learn TensorFlow and deep learning, without a Ph.D.

https://docs.google.com/presentation/d/1TVixw6ItiZ8igjp6U17tcgoFrLSaHWQmMOwjlgQY9co/pub?slide=id.p

The Unreasonable Effectiveness of Deep Learning -LeCun 16 NIPS Keynote

http://vdisk.weibo.com/s/AoN5oNl5t04h

以上幾個不相關問題的相關性在於，都存在區域性與整體的關係，由低層次的特徵經過組合，組成高層次的特徵，並且得到不同特徵之間的空間相關性。如下圖：低層次的直線／曲線等特徵，組合成為不同的形狀，最後得到汽車的表示。

CNN抓住此共性的手段主要有四個：區域性連線／權值共享／池化操作／多層次結構。

區域性連線使網路可以提取資料的區域性特徵；權值共享大大降低了網路的訓練難度，一個Filter只提取一個特徵，在整個圖片（或者語音／文字） 中進行卷積；池化操作與多層次結構一起，實現了資料的降維，將低層次的區域性特徵組合成為較高層次的特徵，從而對整個圖片進行表示。如下圖：

上圖中，如果每一個點的處理使用相同的Filter，則為全卷積，如果使用不同的Filter，則為Local-Conv。

5. 為什麼很多做人臉的Paper會最後加入一個Local Connected Conv？（來自知乎使用者Naiyan Wang）

DeepFace: Closing the Gap to Human-Level Performance in Face Verification

https://research.fb.com/wp-content/uploads/2016/11/deepface-closing-the-gap-to-human-level-performance-in-face-verification.pdf?

以FaceBook DeepFace 為例：

DeepFace 先進行了兩次全卷積＋一次池化，提取了低層次的邊緣／紋理等特徵。

後接了3個Local-Conv層，這裡是用Local-Conv的原因是，人臉在不同的區域存在不同的特徵（眼睛／鼻子／嘴的分佈位置相對固定），當不存在全域性的區域性特徵分佈時，Local-Conv更適合特徵的提取。

6. 廣義線性模型是怎被應用在深度學習中?（來自知乎使用者抽象猴）

A Statistical View of Deep Learning (I): Recursive GLMs

http://blog.shakirm.com/2015/01/a-statistical-view-of-deep-learning-i-recursive-glms/

深度學習從統計學角度，可以看做遞迴的廣義線性模型。

廣義線性模型相對於經典的線性模型(y=wx+b)，核心在於引入了連線函式g(.)，形式變為：y=g−1(wx+b)。

深度學習時遞迴的廣義線性模型，神經元的啟用函式，即為廣義線性模型的連結函式。邏輯迴歸（廣義線性模型的一種）的Logistic函式即為神經元啟用函式中的Sigmoid函式，很多類似的方法在統計學和神經網路中的名稱不一樣，容易引起初學者（這裡主要指我）的困惑。下圖是一個對照表：

面試題目參考自：許韓VS許韓的知乎專欄

https://zhuanlan.zhihu.com/p/25005808