本文由人工智慧觀察編譯

譯者：Sandy

一個月前，谷歌進行了重組，大神Jeff Dean成了新晉掌門人。最近，谷歌還將其研究部門重新命名為Google AI。

本週二，谷歌在其開發者大會上又推出了很多新的特性以及更新，包括為手機開發者提供的ML Kit、TPU 3.0以及升級版谷歌助手。對此，Jeff Dean分享了自己對AI未來的看法。他看到了人工智慧創造新產品的機會，並找到了人類之前從未想過的問題解決方案。

通用智慧AI的出現

如今，大部分人工智慧都是為了完成一個單一任務，比如講句子從一種語言翻譯成另一種語言，但Dean表示他希望谷歌可以建立更多的AI模型，以完成多個任務並實現一種“關於世界的常識的推理”。

他說：“未來，你會看到我們更多地轉向可以做很多工的模型，然後在此基礎上總結經驗，這樣當我們想要訓練一個模型去做其他事情時，就可以建立在現有技能和專業知識之上。”

比如，如果機器人被要求撿東西東西，它會理解手部的動作，重力如何工作以及對世界的其他理解。“我認為這將是未來幾年的一個重要趨勢。”

AutoML的偏見和不透明的挑戰

根據不同的問題物件，AutoML，谷歌的人工智慧可以創建出其他的AI模型，要麼令人興奮，要麼令人恐懼。

訓練機器的機器肯定會讓反對人工智慧的人感到恐懼。但谷歌雲首席科學家李飛飛說，AutoML降低了高階開發人員甚至是普通人建立定製AI模型的難度。

對Dean來說這是令人興奮的，因為它可以幫助谷歌“自動解決問題”，但AutoML的使用也帶來了獨特的問題。

“由於我們使用的是比傳統手工編碼軟體更多的系統，這給我們帶來了很多挑戰，我們正在處理這些問題，”他說。“所以，如果用於訓練的資料中存在偏見問題，那麼學習的機器學習模型本身會使這些偏見繼續延續下去。由此，我們要做的工作有很多，比如，如何培訓沒有偏見形式的機器學習模型。”

另一個挑戰：如何使用AutoML正確地設計安全關鍵系統，為醫療保健等行業建立AI。數十年的電腦科學已經建立了最佳實踐，以便對這些系統進行手工編碼，而機器製造機器也需要這樣做。

Dean表示，在對狗進行分類時犯錯是一回事，在安全關鍵系統中出錯又是另一回事。“我認為這對我們來說是一個非常有意義且重要的應用方向，特別是當我們開始在更安全的關鍵系統中進行機器學習時，這些都會對醫療保健或自動駕駛汽車等專案產生影響。”

安全關鍵型AI需要更多的透明度

週二，谷歌研究人員發表的一篇文章，解釋了AI為什麼對患者做出某些決定，醫生能夠看到醫療記錄建議背後的原理。未來，Dean希望開發一個可以與醫生進行簡單互動的AI模型，通過提問，可以得到答案。

Dean表示，現在人工智慧在谷歌產品中的實行會經歷一個內部審查過程。而且，谷歌也在制定一套評估AI模型中是否存在偏見的指導方針。

“使用者所希望的，本質上與安全審查或產品新功能的隱私審查一樣，我們也希望ML公平審查是將機器學習整合到我們產品中的一部分。”

拒絕AI武器裝備

對於AI武器而言，Dean表示他不認為谷歌應該從事製造自主武器的生意。今年3月，有訊息傳出谷歌正在與美國國防部合作，改進對無人機收集到的鏡頭的分析。

“隨著社會開始發展更強大的技術，機器學習和人工智慧會遇到許多道德和倫理問題，”他說。“我個人已經簽署了一封信，大約六個或者九個月以前的一封公開信，不記得具體時間，但已明確表示我反對使用機器學習來實現自主武器。我想大多數人都會對此感到不安。”

據紐約時報的報道，數千名谷歌員工已經簽署了一封信函，稱谷歌應該遠離“戰爭技術”的建立，因為這可能對谷歌的品牌及公司與公眾之間的信任造成不可挽回的損失。但是，Dean沒有具體說明自己是否也簽署了該信函。

AI驅動新產品和新專案

現在人工智慧的水平已經超越了模仿人類的活動，他們正在幫助谷歌開發新產品以及新服務。

Dean表示，“通過對這些模型進行大量資料培訓，我們實際上可以建立一些系統，讓他們做我們無法完成的事情，這是一個基本的進步。我們現在正在開發經過人工智慧驗證的全新產品，而不是用AI來做我們想做的任何事情，只是相當於一個培訓系統。”

投稿、約訪、合作，聯絡郵箱[email protected]

新增微信aixiaozhijun，更多交流或進AI觀察團