1. 程式人生 > 資訊 >谷歌人工智慧倫理部門動盪不安,已引起外部監管機構關注

谷歌人工智慧倫理部門動盪不安,已引起外部監管機構關注

北京時間 6 月 2 日下午訊息,據報道,谷歌近日向外界表示,它仍堅定致力於以合乎道德規範的方式進行人工智慧研究。該公司還做出承諾,將把人工智慧研究人員數量增加一倍,達到 200 人。谷歌執行長皮查伊也表示,將為更多符合倫理規範的人工智慧專案提供資金支援。

六個月前,谷歌的人工智慧倫理明星研究員蒂姆尼特・格布魯(Timnit Gebru)遭到解僱,原因是她在一篇學術論文中對谷歌的一項人工智慧技術提出了倫理質疑。今年五月份,谷歌人工智慧負責人傑夫・迪安(Jeff Dean)表示,儘管格布魯離職事件影響到了谷歌的聲譽,但人們需要向前看。

然而,對谷歌人工智慧倫理團隊的部分成員來說,現實與谷歌高管的公開宣示卻有所不同。該團隊是谷歌新成立的一個人工智慧分支研究機構,共有成員十人,主要任務是研究人工智慧如何影響社會。根據成員的反映,該團隊幾個月來一直處於一種前途未卜的狀態。團隊成員懷疑,公司是否能在學術界重建信譽,以及公司領導是否會聽取團隊的建議。目前,兩位團隊領導已經離職,而谷歌尚未聘請到合適的繼任者。許多成員感到職業前景不穩定,一些人開始考慮離開谷歌,準備去其他科技公司工作或者重返學術界。

谷歌人工智慧部門的發言人已拒絕就人工智慧倫理團隊的事情發表評論。

谷歌的研究機構擁有數千研究人員,但專門研究人工智慧倫理的僅有十人。人工智慧倫理團隊以發表了有關人工智慧訓練資料集的演算法公平性的開創性論文而聞名於世。該團隊為谷歌在學術界建立起了學術聲譽,證明谷歌有能力進行前沿、有時甚至是批判性的研究 —— 這對谷歌來說非常重要。畢竟,每天都有幾十億人依賴谷歌的產品來遨遊網際網路,而該公司的核心產品,比如搜尋引擎,正越來越依賴人工智慧。

雖然人工智慧在癌症診斷、地震探測和與人類互動方面具有改變世界的潛力,但這一正處飛速發展階段的技術也會有可能擴大對女性和少數族裔的偏見,對個人隱私構成威脅,以及導致碳排放的增加。谷歌為此建立了一個審查程式,用以確定新的人工智慧技術是否符合其在 2018 年提出的人工智慧倫理原則。在這一背景下,人工智慧倫理團隊的職責是幫助谷歌尋找公司在人工智慧領域的盲點,確保公司負責任地開發和應用人工智慧技術。然而,人工智慧倫理專家格布魯的離職引發了巨大的爭議,並導致了人工智慧倫理團隊的人事動盪。一些學者開始擔心,谷歌在開發有可能改變世界的人工智慧新技術時,可能無法充分處理公司內部的倫理反饋意見。

例如,今年 5 月,谷歌釋出了一款新的面板病人工智慧檢測應用程式,但這款應用程式引發了批評,因為它有一個明顯的缺點:它在測試資料中大大低估了較淺膚色與較深膚色的對比。如果在釋出前能事先諮詢一下人工智慧倫理團隊,這一問題原本有可能加以避免。

在過去的幾個月裡,谷歌倫理研究團隊的領導層一直處於持續動盪的狀態。在短短几個月的時間裡,該團隊繼格布魯研究員離職後,又先後失去了兩位領導人。今年 2 月,谷歌解僱了梅格・米切爾(Meg Mitchell),正是她負責建立了谷歌人工智慧倫理團隊,並與格布魯共同領導該團隊。到了 4 月份,米切爾和格布魯的直接領導、頂尖人工智慧科學家薩米・本吉奧(Samy Bengio)也宣佈辭職。本吉奧曾向外界表示,他對格布魯的解職感到“震驚”。本吉奧是谷歌大腦研究部門的負責人,谷歌人工智慧倫理團隊正是在其領導下開展工作。從谷歌離職後,他將領導蘋果公司一個新建立的人工智慧研究團隊。

2 月中旬,谷歌任命前工程副總裁瑪麗安・克勞克(Marian Croak)為新成立的人工智慧責任部門(Responsible AI Department)的負責人,人工智慧倫理團隊也劃歸該部門管理。然而,克勞克的行政級別太高,因此並不直接參與該團隊的日常運作。

這樣一來,人工智慧倫理團隊的運作就變得比較尷尬。他們不得不向上述已經離職的領導人尋求非正式的工作指導和研究建議。團隊成員搭建了臨時的組織架構,讓每位成員輪流負責每週的部門會議。他們還自行指定了兩名研究人員,定期與谷歌其他團隊溝通,以讓他們瞭解團隊的最新成果。由於谷歌在全球僱用了超過 13 萬名員工,對像人工智慧倫理團隊這樣的小團體來講,一般很難知道他們的工作成果是否真正應用到了公司的產品中。

過去的半年對該團隊的新成員來說顯得尤其困難,他們有時甚至不知道該如何領取自己的薪水,以及如何才能訪問谷歌的內部研究工具。一些團隊成員在看到格布魯和米切爾的遭遇後,開始覺得他們正在從事的工作有風險,擔心如果以後他們的工作成果也引發了爭議,那麼他們也可能會被解僱。

克勞克是一位有成就的工程研究領導人,但在人工智慧倫理領域經驗不足。在與人工智慧倫理團隊的會面中,她試圖向員工保證,她是團隊的盟友。克勞克是谷歌級別最高的黑人高管之一。在谷歌,黑人女性只佔員工總數的 1.2%。她承認,谷歌在改善員工種族和性別多樣性方面缺乏進展。據幾位研究人員稱,克勞克在與人工智慧倫理團隊的會面中,也向團隊成員表達了歉意,對團隊目前的困境表示感同身受。

然而,又有訊息稱,這位高管與人工智慧倫理團隊的關係還是出現了問題,因為他們覺得她只是做出了一些空洞的承諾。在克勞克被正式任命為人工智慧責任部門負責人之前幾周,她就已經與人工智慧倫理團隊的成員進行了非正式的交流,討論如何修復對團隊造成的損害。然後,人工智慧倫理團隊的成員共同起草了一封信,提出了包括對團隊進行“結構改革”在內的一些建議。谷歌後來確實對團隊進行了重組,並將團隊劃歸新組建的人工智慧責任部門管理。然而,團隊成員是公司內部最後得知此事的人。因此,當團隊成員得到訊息時,他們是一臉的懵逼。團隊成員對此感到很不滿,認為重組過程與他們缺乏溝通,不尊重他們。

一些團隊成員對自己在谷歌的未來感到悲觀,並開始懷疑是否真正擁有展開研究所必需的自由環境。他們要求谷歌公開承諾學術自由,並澄清其學術研究審查程式。截至目前,谷歌尚未對這些要求有所迴應。此外,團隊成員還希望谷歌向已經離職的格布魯和米切爾道歉,並向她們再次提供工作機會 —— 但目前看來,這些要求極不可能實現。而且,格布魯也已經表示,即使谷歌再次向她提供工作機會,她也不會回來。

一些團隊成員表示,他們正在考慮離開公司。在競爭激烈的人工智慧領域,頂尖研究人員可以拿到七位數的薪水,如果這些人員離職,那將是谷歌的一個巨大損失。

現在,谷歌在學術研究領域的地位正變得岌岌可危。到目前為止,谷歌是科技行業最大的研究資助者之一 —— 它去年在研發領域投入了 270 多億美元,這甚至超過了美國宇航局(NASA)的年度預算。但谷歌人工智慧倫理團隊近期出現的這些爭議性事件,讓一些學者質疑,谷歌的讓研究人員自由開展研究的承諾,是否已被公司的商業利益所束縛。

數千名電腦科學教授和研究人員曾簽署了一份請願書,批評谷歌解僱格布魯的舉動,稱之為“前所未有的學術研究審查”。谷歌的人工智慧高管心裡很清楚,谷歌已經失去了學術界的信任。迪恩在今年 2 月的一次員工研究會議上發表評論稱,重建信任的策略是“繼續發表‘非常有趣’的前瞻性工作”。他說,“重新獲得人們的信任需要一點時間。”

然而,重建信任所需的時間恐怕不止“一點”。加拿大安大略西部大學(Western University)的研究人員盧克・斯塔克(Luke Stark)評論說:“我認為,目前谷歌基本上是無法挽回其在學術界的聲譽的,至少中期來看是如此。”斯塔克最近還拒絕了谷歌的六萬美元的不受限制資助,以抗議格布魯的被迫離職。據報道,他是有史以來第一個拒絕谷歌研究資助的學者。此外,還有另外兩個人工智慧研究團體也已經表示將拒絕谷歌的任何資助。

目前,至少有四名谷歌員工,包括一名工程總監和一名人工智慧研究人員,已經離開公司,並且是以格布魯被解僱作為辭職理由。當然,這些離職僅代表了一個大群體中的少數人。其他人選擇留下是因為他們仍然相信事情會有轉機。一位不屬於人工智慧倫理團隊的員工表示,他和同事們強烈反對谷歌解僱格布魯的決定,但他們也覺得,留下來繼續做有意義的工作是他們的責任。

對谷歌如何處理人工智慧的倫理問題表示擔憂的遠不止學術界,監管機構也開始關注此事。去年 12 月,9 名國會議員致函谷歌,要求谷歌就格布魯被解僱一事作出解釋。頗具影響力的族裔正義組織“Color of Change”也呼籲,對谷歌解僱格布魯一事所可能存在的種族歧視展開外部調查。

這些外部團體正密切關注谷歌人工智慧部門內部發生的事情。他們意識到人工智慧將在人類生活中發揮越來越大的影響。幾乎所有主要的科技公司,包括谷歌在內,都將人工智慧視為現代世界的一項關鍵性技術。基於反壟斷的考慮,谷歌已經成為了政治上的熱門話題,谷歌人工智慧部門正面臨著很高的政治風險。