論文被撤！谷歌AI倫理專家被谷歌解雇

2020-12-07 09:26:42來源：網易科技

當地時間周四，谷歌人工智能倫理團隊負責人之一蒂姆尼特·格布魯(Timnit Gebru)表示，自己被谷歌解雇，而原因是自己發送的一封電子郵件讓公司管理層認為其舉動“與公司對谷歌經理的期望不一致”。

這封電子郵件是對谷歌要求格布魯撤回自己與其他6人合著的人工智能倫理學論文提出不同意見。論文合著者中還有4名谷歌員工。格布魯周四接受采訪時表示，如果自己不想撤回這篇已經提交給明年行業會議審議的論文，谷歌要求至少要刪掉谷歌員工的名字。

格布魯向谷歌研究部門副總裁梅根·卡奇利亞(Megan Kacholia)尋求解釋，并告訴后者，如果對這篇論文的處理方式沒有更多討論，她計劃在一段過渡期后辭職。她還想就團隊未來可能進行的類似研究項目討個明確說法。

她說：“我們就是人工智能倫理團隊，當然會寫關于人工智能的問題。”

與此同時，格布魯還參與了一個名為Google Brain Women and Allies的電子郵件交流小組，評論其他人正在撰寫的一份報告，報告內容是疫情期間，谷歌雇傭的女性少之又少。格布魯坦言，以自己的經驗判斷這種報告不會有效果，因為在谷歌沒有人會被追究責任。她提到了自己在提交人工智能論文方面的經驗，并將其與報告鏈接起來。

格布魯在郵件中寫道：“不要再寫這種報告了，沒什么用。”“這種內容不可能有任何效果。”

第二天格布魯說自己被解雇了，相關郵件來自谷歌人工智能部門負責人杰夫·迪恩(Jeff Dean)，稱谷歌無法滿足她的要求，因此尊重她離開谷歌的決定。根據格布魯發布的推文，郵件還說，“你昨晚發給非管理人員的郵件某些內容與一個谷歌經理并不相稱。”

“這是徹底的沉默，”格布魯談到谷歌對她論文采取的行動時說。“你甚至不能發出科學的聲音。”

谷歌代表沒有回復記者的多次置評請求。

格布魯的研究論文涉及處理大型語言模型可能存在的倫理問題，OpenAI、谷歌和其他研究人員都正在這一領域進行研究。格布魯說，她不知道谷歌為什么會擔心這篇論文。她說，這篇論文事實上已經得到了主管的批準，并提交給了谷歌其他員工征求意見。

格布魯說，谷歌要求其研究人員發表的所有論文都必須事先獲得批準。公司告訴她，這篇論文沒有遵循適當程序。

這篇論文指出了使用大型語言模型來訓練算法的危險性。論文稱，這些模型基本上是通過分析來自互聯網的語言進行訓練的，但這些語言并不能反映全球不能上網的大部分人的表達方式。格布魯強調風險是這些模型只會反映那些有幸成為訓練數據的一部分人的世界觀。

作為斯坦福人工智能實驗室的合作方，格布魯也是人工智能道德應用領域的主要倡導者之一。她因2018年一項具有里程碑意義的研究而聞名，該研究顯示，面部識別軟件對黑皮膚女性的識別錯誤率高達35%，而對白人男性的識別則近乎精確。

她還直言不諱地批評包括谷歌在內的科技公司缺乏多樣性，以及在待遇方面對黑人員工不公平。格布魯說，自己被解雇是在向谷歌其他員工傳遞一個信息，讓他們不要說話。

格布魯周三晚上公布了被解雇的消息后，得到谷歌一些同事和其他同行的支持。

一年前，谷歌以違反數據安全政策為由解雇了4名員工。格布魯當時公開支持那些失去工作的人。而對谷歌來說，格布魯被解雇的當口正值公司面臨美國國家勞資關系委員會(NLRB)投訴谷歌對員工進行非法監視、訊問或停職。

格布魯是公司內部少有的公開批評聲音。她講述同事和主管如何試圖控制她的話語，為騷擾或種族主義行為找借口，或者無視她的擔憂。