3月27日，俄羅斯連塔網發表題為《有毒資產：人工智能造出數萬種致命武器》的報道，關注到美國“臨界點”網站(The Verge)近日對美國一家藥企的采訪。文中提到，科學家們發現，AI(人工智能)程序有被“濫用”的風險，在短短6小時內就能合成近4萬個危險分子。

6小時內合成近4萬個危險分子

據介紹，這家公司名叫“協作制藥公司”，是美國一家專注于開發罕見病藥物的公司。接受采訪的法比奧·烏爾維納正是該公司的高級科學家，同時也是這項研究的主要作者。

3月7日，英國《自然》雜志子刊《機器智能》最新一期刊發了這篇研究論文。

烏爾維納告訴記者，公司之前創建了基于人工智能的MegaSyn程序，該程序的主要任務是開發新藥，而科學家們的工作就是要訓練機器學習算法以檢測藥物的毒性。

“不管你嘗試開發哪種藥，首先都要確保它沒有毒，是安全的。如果你開發出一種神奇的藥物，可以達到非常好的降壓效果，但會對身體的重要部位——比如心臟——造成損傷，那就行不通了，因為這太危險了。”烏爾維納解釋道。

在這次的研究中，為檢測新程序的潛在負面影響，科學家們決定，改變毒性參數，將原來的模式“顛倒”過來。以前，該系統產生的分子毒性最低，這是制造藥物所必需的。

科學家們經過研究發現，該程序一旦進入“壞模式”，不僅能在短短幾個小時內生成上萬個危險的化合物，且其中很多化合物甚至和VX神經毒劑的成分幾乎相同。

公開資料顯示，VX神經毒劑，是一種比沙林毒性更大的神經性毒劑，是最致命的化學武器之一。

據介紹，VX神經毒劑也是一種無色無味的油狀液體。工業品呈微黃、黃或棕色，貯存時會分解出少量的硫醇，因而帶有臭味，主要是以液體造成地面、物體染毒，可以通過空氣或水源傳播，幾乎無法察覺。

人體與之接觸或吸入就會導致中毒，頭痛惡心是感染后的主要癥狀。VX毒氣可造成中樞神經系統紊亂、呼吸停止，最終導致死亡。

“VX神經毒劑的致命之處就在于，能使你的肺‘完全癱瘓’。”烏爾維納解釋說。

“我擔心的是這有多容易做到”

烏爾維納在采訪中表達了對AI技術被濫用的擔心。

“對我來說，我擔心的是這有多容易做到。我們用的很多東西都是免費的，人們可以在任何地方下載毒性數據庫。如果一個人知道如何用Python編程，又有機器學習的能力，那他說不定在一個周末就能構建出類似這種由毒性數據庫驅動的生成模型。”烏爾維納說。

烏爾維納還表示，這也是研究團隊考慮到把這篇論文公開發表的原因，“對于這種類型的濫用，它的進入門檻是如此的低。”

關鍵詞： 美藥企AI程序被曝可開發生化武器 AI技術被濫用 人工智能負面影響 引導技術向善重要性