AI可六小時合成四萬種潛在新化學武器

    據最新一期《自然 · 機器智能》刊發的論文，美國科學家發出警報，人工智能(AI)很容易被濫用。實驗顯示，AI在被研究人員賦予任務之後，在短短六小時內就合成了四萬種新的致命化學武器化合物。

    北卡羅來納州羅利的生物技術創業公司Collaborations Pharmaceuticals科研團隊正在使用人工智能尋找可用於治療疾病的化合物，其中一部分涉及過濾掉任何可能致命的化合物。作為檢測新技術潛在負面影響的一部分，研究小組在其人工智能算法中“打開了一個開關”，並讓它找到最致命的化合物。該團隊想看看，如果人工智能算法被設定在一個負面而非正面的任務上，它可以多麼迅速和容易地被濫用。

    化學武器的定義為以軍事形式（彈藥、炸彈等武器形式）出現時可對人類造成傷害的任何化學物質。例如，氯氣以炸彈形式發射時被視為化學武器，它在人體吸入時會刺激鼻子和呼吸道，在肺部積聚後會導致窒息。

    根據The Verge的一份報告，一旦進入“壞模式”，人工智能就能夠發明數以千計的新化學組合，其中許多類似於今天使用的最危險的神經毒劑。在人工智能發明的化合物中，有一些類似於VX，一種毒性極強的神經毒劑，即使是很小的劑量也能引起抽搐。

    然而，VX的致命之處在於它實際上阻止了你的橫膈膜和肺部肌肉的活動，從而使你的肺部癱瘓。

    研究人員表示，他們發現最可怕的是，利用廣泛可用的有毒化學品數據庫，並使用人工智能來設計類似於目前最危險的化學武器是多麼容易。

    論文的主要作者烏爾比納說：“我們使用的很多東西都是免費，你可以從任何地方去下載一個毒性數據庫。如果有一個人知道如何用Python編程，並且有一些機器學習能力，那麼可能在一個周末的工作中，他可以建立類似於這種由有毒數據庫驅動的生成模型。”

    此前科學界並沒有太多關於人工智能創造新藥的雙重用途的討論，一方面它們可能是有益的，另一方面它們是非常有害的。研究人員希望，這些新資料將有助於開發更好的機制，以遏制現在和將來在化學戰的背景下人工智能的進步被濫用。

    月    比