目錄

1.緒論

1.1.概述

1.2 機器學習簡史

1.3 機器學習改變世界：基於GPU的機器學習例項

     1.3.1 基於深度神經網路的視覺識別

     1.3.2 AlphaGO

     1.3.3 IBM Waston

1.4 機器學習方法分類和本書組織

在這一章裡面，我們首先審視正在高歌猛進的資料科學，瞭解使用GPU進行機器學習計算的重要性。接下來，我們回顧機器學習的發展歷程，並且檢閱當前機器學習技術的幾項最高成就：人工智慧圍棋（AlphaGo）、深度神經網路影象識別（ImageNet）和IBM Waston人工智慧系統，從而領略機器學習技術震撼世界的腳步。第三部分，我們對機器學習演算法進行概略分類，並且根據分類結果介紹本書內容。

1.1 概述

我們生活在一個偉大的時代，人類文明史上最卓越的心智成就以前所未有的深度、廣度和速度交匯融合，催生出潛力無限的資料科學（data science）。資料科學是在人類社會數字化程度充分發展的前提下，綜合電腦科學、數學和神經科學等領域的理論和技術成果，以資料探勘作為應用形式，通過對資料進行儲存、分析和視覺化等各種處理，從中提煉資訊並形成知識，從而引導優化決策的科學。簡單說來，資料科學就是針對大資料的理論和方法。

當前，資料科學已經深度融入我們的日常生活，我們可以從一天的平凡生活中檢查一下資料科學在怎樣發揮作用的：上下班路上，導航系統會分析資料告訴我們不同路線的擁堵情況並且實時預測預計行程時間，如果乘坐公車的話，還可以通過歷史資料和實時路況預報公車到站時間；我們打電話時，電信運營商會通過採集我們打電話的模式，諸如地點、時間段和服務套餐情況（但是不能使用時頻、語音和個人帳號資訊），推斷我們的身份、生活習慣和經濟狀況，從而確定相應的推送內容；

我們上網衝浪時，搜尋引擎提供的內容當然是對海量網頁進行分析處理的結果，而且也會我把我們的搜尋內容拿去分析，從中提煉熱點搜尋趨勢，並且對我們的行為進行推斷；購物時，無論是電商還是傳統商戶，都可能分析我們的購物歷史決定向我們推薦商品，而在付款之中或之後，銀行的資料分析系統會判斷這是一次正常消費還是一次欺詐；

工作時，即使我們不直接使用資料分析工具，也幾乎不可避免地在產生或者消費資料，有些公司（例如惠普）甚至使用預測軟體分析每個僱員辭職的可能性（ 有趣的是，資料分析師自己經常被判別為潛在離職風險較高的僱員，因為社會需求極為迫切。）

除此之外，還有更多的資料分析系統在暗中“琢磨”我們，比如說醫療保險公司在算計我們未來的健康趨勢，由此決定保費應該怎樣變化，社交網路公司在計算是否發現了你的同學或者熟人，或者怎樣讓你的社交圈通過最短路徑和其它群落連線起來，還有基金公司會分析社交網路上大家的情感趨勢，以此作為預測證券價格漲落的依據，如果你是單身而且在徵婚網站登記的話，還會有資料分析引擎根據你的資料進行分類和匹配，為你尋找合適的另一半。

資料科學向社會生活的滲透正在以不可阻擋的勢頭在更大範圍上更加深化。表1-1是遠不完全（實際上完整列舉資料應用已經成為不可能完成的任務）的典型資料科學應用的清單。

​

表1.1 典型資料應用

隨著人類社會數字化程度的迅速提升，目前全球資料規模已經達到44萬億GB。資料增長的速度更是驚人，我們可以從圖1-1中看看當前各大網站一分鐘的資料量。讀者可以想象一下，在閱讀這一頁的過程中，全球資料又增加了多少。

資料產生的來源和數量增長之快，以至於2013年的一份分析報告指出全球資料的90%是在此前兩年中產生的([1] SINTEF. "Big Data, for better or worse: 90% of world's data generated over last two years." Science Daily, 22 May 2013.)也就是說每兩年產生的資料是此前全部資料的10倍，而且我們可以大膽的猜測到本書出版之時，95%甚至更多的資料實在過去三年內產生的。

資料規模是如此之大，種類又是如此之多，以至於一般認為當前我們能夠分析的資料只是全部資料的0.5%。那麼我們怎樣才能充分利用海量資料，而不是“湮沒在資料中卻飢渴於無法獲得知識（Drowning in Data yet Starving for Knowledge）”呢？答案是顯然的，機器學習演算法必須藉助更強勁的計算硬體（嚴格講應該是能效比更高的硬體。）和更加靈活的程式設計技術。

圖1-1 全球1分鐘內產生的資料

然而，我們手中並沒有一種硬體能夠同時在上述兩項要求上都能表現最佳。圖1-2是對常見計算平臺的比較。在圖1-2的左側，是執行順序程式的CPU，其程式設計模式符合人類的思維方式，程式設計工具完備而成熟，然而效能相對有限。

特別是自從2000年以後，傳統上以增加時鐘頻率提升CPU效能的方法已經遇到瓶頸，繼續提高頻率提升效能有限，反而帶來功耗的大幅度增加。數字訊號處理器是對CPU進行訂製，針對特定應用引入專用指令和硬體從而提高效能的處理器，其程式設計靈活性有所下降，但是能夠提高相應應用的效能。數字訊號處理器曾經是高效能的標誌，但是隨著多核CPU的出現，已經逐漸退出高效能運算市場，主要用於嵌入式產品。

多核CPU是在積體電路工藝的整合能力繼續提升而單核效能飽和的產物，通過引入多個並行執行指令的CPU核心保證整體效能的增加。多核CPU必須使用並行程式才能獲得更好的效能，其程式設計靈活性有所限制。

圖1-2 常見計算平臺的計算能力和可程式設計性

在圖1-2的右端是專用積體電路，即針對特定應用採用特定演算法而設計的硬體平臺，完全不具備程式設計能力，但是效能可以達到極致。

在當前市場需求多元化並且高速變化的背景下，缺乏可程式設計能力是嚴重的缺陷，因此專用積體電路只有在用量極大的前提下才具有競爭力，越來越多的電子產品使用系統晶片，即整合專用積體電路和嵌入式處理器的晶片。以FPGA為代表的可程式設計硬體比專用積體電路效能低一個檔次，但是具有硬體程式設計能力，因此也成為一種重要的計算平臺。

專用處理器也是折衷可程式設計性和效能的產物，其思想是針對特定應用設計指令集，其中某些指令可以通過專用硬體直接執行，從而在保持一定程式設計靈活性的基礎上改善效能。然而，專用處理器的應用範圍比較窄，因此程式設計工具極為有限、使用人群較小，因而也限制了靈活性。

圖1-2的中央是圖形處理器（Graphics Processing Unit，簡稱GPU），其前身是為圖形渲染應用而設計的專用處理器，但是經過30年的發展，隨著圖形應用的複雜度越來越高、效能要求越來越突出，已經演變為具有高度計算能力和高度可程式設計能力的計算平臺。

在各種計算硬體中，GPU比較完美地折衷了效能和靈活性。注意以上討論中，我們所說的效能其實指特定製造工藝下單位面積提供的效能，不同製造工藝下的不同類硬體平臺的效能錯綜複雜。

由於GPU擁有圖形渲染市場的支援，能夠保證其出貨量，因此能夠使用最先進的製造工藝並且製造較大的晶片，從而能夠提供極高的單片效能，在較低工藝下製造的專用積體電路和FPGA反而不容易達到使用最新工藝的GPU的效能。從2006年開始，NVIDIA和AMD等GPU製造商意識到GPU可以成為一種與CPU互補的通用計算平臺，相繼退出一系列程式設計工具，從而極大地開闊了GPU的應用。

從2010年開始，機器學習成為全球化熱點，眾多企業、科研和政府機構開始在日常工作中大量使用資料探勘工具，而機器學習演算法普遍具有計算密集特點，特別適合GPU硬體執行，因此，圖形處理器幾乎一夜之間成為機器學習最重要的應用平臺。

參考文獻

[1] SINTEF. "Big Data, for better or worse: 90% of world's data generated over last two years." Science Daily, 22 May 2013.

關注LinkSpark公眾號，瞭解更多人工智慧相關資訊！