首頁 > 行業(yè) > 正文

只因聲援Timnit 谷歌關(guān)停倫理AI部門高管賬戶

2021-01-22 11:05:03來源：新智元  

谷歌非裔倫理學家 Timnit Gebru「被辭退」事件持續(xù)發(fā)酵。報道稱，谷歌關(guān)停了倫理AI部門高管 Margaret Mitchell 的賬戶，稱其與公司外部人員共享了數(shù)千個內(nèi)部文件。實際上，Mitchell 一直是 Timnit 的積極維護者。

前不久，一場解雇風波在谷歌上演。

Jeff Dean 辭退了谷歌倫理人工智能團隊的技術(shù)聯(lián)合負責人 Timnit Gebru。

Timnit 被辭退一事被炒得沸沸揚揚，致使谷歌內(nèi)訌升級，員工聯(lián)名要求 Jeff Dean 道歉，更有超過 4000 名學術(shù)界、工業(yè)界和民間人士簽署一份聲明要求谷歌作出實質(zhì)性改變。

今日，報道稱，谷歌又對另一位倫理AI部門的高管采取了措施，關(guān)停倫理AI的聯(lián)席主管 Margaret Mitchell 的賬戶，稱其與公司外部人員共享了數(shù)千個內(nèi)部文件。

解雇風波再發(fā)酵：谷歌關(guān)停倫理AI部門高管賬戶

谷歌對 Margaret Mitchell 賬戶的關(guān)停是 Timnit「被辭退」事件的發(fā)酵。

自 Timnit 在12月被迫退出谷歌以來，Mitchell 一直對谷歌的做法持批評態(tài)度。

Mitchell 領(lǐng)導 Alphabet 的倫理人工智能(Ethical AI)部門，其目標是通過對社會負責任的方式開發(fā)技術(shù)。

一位消息人士稱，Mitchell 一直在使用自動腳本查找顯示在賬戶鎖定之前對 Timnit Gebru 進行歧視對待的消息。

Timnit Gebru 發(fā)表推文稱，Mitchell 的公司權(quán)限已經(jīng)被鎖定，這種情況至少還會持續(xù)幾天。

谷歌發(fā)言人表示，該員工的企業(yè)賬戶被檢測到竊取了數(shù)千份文件并與外部賬戶共享，觸發(fā)了公司系統(tǒng)自動關(guān)停了 Mitchell 的賬戶，公司正在調(diào)查此事件。

谷歌發(fā)表的申明如下：

當員工的企業(yè)帳戶被檢測到由于證書問題而存在被泄露的風險，或觸發(fā)了涉及敏感數(shù)據(jù)處理的自動規(guī)則時，我們的安全系統(tǒng)會自動鎖定該員工的企業(yè)帳戶。在這個事件中，我們的系統(tǒng)檢測昨天到一個帳戶已導出了數(shù)千個文件，并與多個外部帳戶共享。我們今早已經(jīng)向員工解釋了此事。

Margaret Mitchell 暫未對谷歌關(guān)停她的賬戶做出回應(yīng)。

Timnit被辭，內(nèi)訌升級，谷歌多元化變革迫在眉睫!

站隊 Timnit，這是否成為谷歌關(guān)停 Margaret Mitchell 賬戶的的原因?

至于被解雇的原因，Timnit Gebru 曾表示，是因為她寫的一篇名為 On the Dangers of Stochastic Parrots: Can Language Models Be Too Big 的論文被駁回，無法發(fā)表。

因此她認為自己遭到了非人性化的待遇，公司沒有公平、公正地對待她。

成千上萬的科學家簽署了聯(lián)名信，而 Timnit 的離開也被 Alphabet 工人工會的公告所引用。

谷歌首席執(zhí)行官 Sundar Pichai 試圖平息這種憤怒，但他的努力遭到了包括 Mitchell 在內(nèi)的員工的批評。

在有關(guān) Timnit 被停職的消息傳出的幾個小時前，Mitchell 就抨擊谷歌「一貫疏遠黑人婦女」。

就在周二，Mitchell 發(fā)推批評 Sundar Pichai 計劃與歷史悠久的黑人學院和大學領(lǐng)導人舉行會議，寫道：

假設(shè)你始終與黑人婦女疏遠，并且給她們的生活造成了嚴重傷害。

你可以：

A)消除這種傷害

B)嘗試找到更多喜歡你的黑人

祝你好運~

谷歌的解雇風波這業(yè)界引起了轟動，引發(fā)了人們對該公司對異議的容忍度的質(zhì)疑。

Timnit 的停職將加劇谷歌員工與管理層之間日益緊張的關(guān)系。

從2018年至今，谷歌內(nèi)部已經(jīng)發(fā)生過多次大規(guī)模的抗議活動。幾周前，多位谷歌員工宣布共同成立 Alphabet 工會，希望在薪酬和倫理等問題上向公司施壓。

這表明谷歌內(nèi)部的變革至關(guān)重要。

黑人+AI倫理，利益為重，科研或成危險之地?

大型高科技公司的研究部門過去已經(jīng)取得了許多技術(shù)突破。

但是，隨著技術(shù)在社會中扮演著越來越重要的角色，并且越來越多的公司支持的研究集中在技術(shù)對社會的影響上，研究人員的發(fā)現(xiàn)并不總是與公司目標保持一致。

來自谷歌等公司的研究在AI等關(guān)鍵主題的廣泛研究工作中占據(jù)了相當大的比例。

Timnit 的事件中也提出了關(guān)于公司研究在很大程度上受公司利益影響的問題。

最近的一項研究發(fā)現(xiàn)，在四所重點大學中，58%的終身制教授都是從大型科技公司獲得資金的。

紐約大學的研究科學家 Meredith Whittaker 曾在谷歌進行研究項目的工作將公司與學術(shù)研究聯(lián)系在一起。

事實上這件事愈演愈烈，實際上也和 Timnit Gebru 黑人女性身份有著很大的關(guān)系。

Timnit 一直是減少AI偏見的堅決擁護者，她與他人合作的論文揭示了性別和種族是如何被構(gòu)建到許多面部識別系統(tǒng)中的。

而當黑人與AI倫理兩大話題放在一起時，更是人們關(guān)注的焦點。

此前，圖靈獎得主 Yann LeCun 卻因一則言論被群攻 。他曾發(fā)推表示 PULSE 算法會出現(xiàn)奧巴馬被洗白的情況。

很多AI研究人員紛紛將斗爭的矛頭指向了 Yann LeCun。

LeCun，被有些人奉為「神一樣的人物」，最終還是為自己的言論道歉了。

受公司利益左右的研究會與真正的研究產(chǎn)生偏差和沖突，同時AI偏見仍舊是未來科研中需待解決的問題~

讓科研不再成為危險之地。

關(guān)鍵詞： 谷歌 AI部門

相關(guān)閱讀