人工智能6個(gè)小時(shí)識(shí)別了40000種假想的生物武器化學(xué)品

人工智能的尖端數(shù)字計(jì)算能力意味著人工智能系統(tǒng)能夠在早期發(fā)現(xiàn)疾病，管理化學(xué)反應(yīng)，并解釋宇宙的一些奧秘。

但是，這種幾乎能力無限的人工智能也有一個(gè)缺點(diǎn)。

新的研究強(qiáng)調(diào)了人工智能模型可以很容易地被訓(xùn)練成善意的，它也能設(shè)計(jì)成找到假想的生物武器制劑。用現(xiàn)有的人工智能進(jìn)行試驗(yàn)，研究員在短短6個(gè)小時(shí)的時(shí)間里，識(shí)別了40000種假想的生物武器化學(xué)品。

換句話說，雖然人工智能可以令人難以置信地強(qiáng)大，當(dāng)涉及到發(fā)現(xiàn)化學(xué)組合和藥物化合物以改善健康時(shí)，同樣的力量可以被用來產(chǎn)生出潛在的致命物質(zhì)。

該團(tuán)隊(duì)在一次國際安全會(huì)議上進(jìn)行了試驗(yàn)，讓一個(gè)名為MegaSyn的人工智能系統(tǒng)檢測分子的毒性。在實(shí)驗(yàn)中，有毒分子被保留而不是被消除。更重要的是，該模型還被訓(xùn)練成將這些分子組合在一起，在極短的時(shí)間內(nèi)產(chǎn)生假想的4萬個(gè)生物武器。

結(jié)果發(fā)現(xiàn)，許多生成的化合物甚至比烈性神經(jīng)毒劑VX的毒性更強(qiáng)。因此，這項(xiàng)新研究背后的作者對他們研究的一些細(xì)節(jié)進(jìn)行了保密，并認(rèn)真討論了是否完全不公開這些結(jié)果。

在接受The Verge采訪時(shí)，這篇新論文的主要作者和研究所在的Collaborations Pharmaceuticals公司的高級(jí)科學(xué)家Fabio Urbina解釋說，從“好”的人工智能轉(zhuǎn)變?yōu)?ldquo;壞”的人工智能并不需要太多步驟，該實(shí)驗(yàn)是對人工智能帶來的危險(xiǎn)的警告。

研究人員現(xiàn)在呼吁“重新審視”人工智能系統(tǒng)可能被用于惡意的目的。

關(guān)鍵詞： 生物武器 人工智能 生物武器化學(xué)品 武器化學(xué)品