AI最大的威脅來自生物學而非機械人2026.09.28
全文共2346字,讀完約需8分鐘

AI已經或很快會顯著增加生化武器風險

這是一個噩夢般的場景,但它並非科幻小說

近日,Anthropic 的研究員科克森(Jacob Coxon)辭職,並在社交媒體上發文稱,原因在於「開發AI的人真心相信,到本十年末,AI可能會殺死所有人類」。該人工智能公司對齊科學團隊的負責人胡賓格(Evan Hubinger)認為,未來10年內發生這種情況的機率超過10%。Anthropic行政總裁阿莫迪(Dario Amodei)呼籲放緩前沿AI的發展,以降低相關風險,OpenAI行政總裁奧爾特曼(Sam Altman)和xAI行政總裁馬斯克也表達了類似觀點。

你腦海中浮現的,或許是帶著濃重奧地利口音的殺人機械人。但最大的威脅,其實來自細胞,而非鋼鐵。安全與技術研究所(Institute for Security and Technology)對111名國家安全從業者開展調研,70%的受訪者認為,AI已經或很快會顯著增加生化武器風險。試想,一名借助AI的研究者,將一個能夠干擾免疫反應的基因植入痘病毒。改造後的病毒會強力壓制宿主的免疫反應,所有未接種疫苗的受感染動物都會死亡,甚至大部分已免疫個體也在劫難逃。

這是一個噩夢般的場景。但它並非科幻小說。早在25年前,在完全沒有AI説明的情況下,這樣的事情就已經發生過。攜帶白細胞介素-4基因的鼠痘病毒對小鼠造成的結果正是如此,相關論文於2001年2月發表在《病毒學雜誌》(Journal of Virology)上。開展這項實驗的澳洲研究人員,初衷甚至不是殺死小鼠,只是想抑制小鼠的繁殖。

自然界為潛在恐怖分子提供了大量現成的病原體。改造病原體增強毒性這件事,人類已經能夠做到,只是難度不小。AI或許會降低這一門檻,但它從來不是最主要的障礙。真正棘手的是把(天然或人工改造的)病毒基因組轉化為具備殺傷力的毒株。這一步依舊離不開實驗室與受過專業訓練的科研人員。所需技能很難單憑教科書習得,這就是所謂「默會知識」,長期以來,人們認為它必須通過實踐和師徒傳授才能獲得。

1917年,法國委託美國仿製本國75毫米野戰炮。雖然拿到了完整圖紙,美國仍未能在戰爭結束前的18個月裡造出哪怕一門成品。原因是圖紙未標明炮架的螺紋規格;美國人實測一門野戰炮後,發現上面有六種不同的螺紋,而炮架所用的規格不在其中。軍事史學家德維爾德(H.A. De Weerd)寫道:「法國後坐系統唯一的秘密,就是製造的難度。」這便是默會知識。

默會知識的重要性往往會隨著時間推移逐漸降低。如今,一家工廠僅憑郵件收到的圖紙檔,就能造出這樣的火炮。儘管默會知識仍是一道重要防線,但在生物學領域,這一過程才剛剛開始。我早在AI出現之前很久,已經開始擔心這件事對生物風險的影響。2009年,我與麻省理工學院的奧耶(Kenneth Oye)和波士頓大學的莫爾(Scott Mohr)合寫了一篇論文,指出合成生物學試圖降低默會知識在生物工程中的重要性,而這可能反過來加劇生物安全威脅。

相較於合成生物學,AI對默會知識重要性的衝擊可能更為深遠。生物學家布倫特(Roger Brent)與蘭德(RAND)麥凱爾維(Greg McKelvey Jr.)提出,我們不能再默認生物實驗離不開默會知識。二人研究證實,2024年可用的基礎大模型,已經能夠提供「準確操作指引」,指導研究者利用商用管道獲得的合成DNA構建體,復原出活的脊髓灰質炎病毒。

風投機構也在投資「自動化實驗室」。理論上,這類設施可以大幅削減生物實驗對人工技能的依賴,顯著提升實驗推進速度。對防禦者、對希望推動醫學快速進步的人而言,這無疑是好消息。但如果沒有必要的防護措施,對攻擊者而言,這同樣可能是個好消息。

一項關鍵防護手段,是強制要求對所有人工合成DNA序列進行篩查,以判斷其是否可能被用於製造病原體。如今,大多數合成DNA都是從商業公司購買的,但桌面型DNA合成儀也已經上市。許多、但並非所有DNA合成公司,都已經開展此類篩查。但一個由微軟(Microsoft )牽頭的團隊發現,AI蛋白質設計工具已經能生成一些可以繞過現有篩查軟件的序列,只是這些序列是否仍能發揮作用,尚未得到驗證。

目前,聯邦政府只是宣導相關機構進行篩查,並未出台強制規定;而自一項行政命令要求建立新的框架以來,修訂後的框架已經擱置了16個月。篩查應當被定為硬性要求。DNA篩查企業和前沿AI實驗室也應當共同出資設立懸賞機制,獎勵任何能夠攻破AI驅動的DNA篩查系統的人。隨著自動化實驗室越來越多,它們還應當只向經過核實、來自獲認證研究機構的研究人員開放,並接受與其他機構同等的篩查要求。

這些政策百利而無一害。即使沒有AI,它們也值得實施;有了AI,它們就更加必要。若有聯邦政府的支持,落實起來會容易得多。遺憾的是,白宮非但沒有出力,反而反對AI監管。總統特朗普稱,「AI接管世界、毀滅人類,以及其他所有壞事,都是騙局」,還說,「AI唯一需要的管控或『護欄』,就是一位強大而聰明(高智商!)的總統,而美國恰好就有這樣一位,能力綽綽有餘!」

萬一這位「高智商總統」需要一些專家建議,本可以把相關專業力量制度化、留在政府體系內,而不是解散國家反擴散與生物安全中心以及國土安全部負責應對大規模殺傷性武器的辦公室。本屆政府甚至暫停了更新版篩查框架,這套框架本可以堵住新型病原體的監管漏洞。

在政府出手之前,私營領域的領軍者必須填補這一空缺。Anthropic披露,已經有五次利用Claude開展可能有助於生化武器研發的嘗試被其攔截。該公司表示,已經不能再假定其最新模型不足以對生化武器研發提供實質性幫助。哪怕只發生一起借助AI研發的生物製劑小規模襲擊事件,也必然招致扼殺整個行業的監管。我們必須確保自己最終不會落得那些澳洲小鼠一樣的下場。