如果AI 製造生化武器 我們該怎麼辦

編譯／黃竣凱

新冠病毒疫情造成了全球性災難，但基於人工智慧（AI）的發展，未來的疫情可能會更加致命，隨著強大的AI模型結合新型實驗室工具，流氓科學家或國家可能很快就能設計出一種傳播速度更快、對疫苗抵抗力更強且致死率更高的病原體，專家呼籲，各國政府、科技公司與科學研究人員應立即採取行動，降低這一風險。

生化武器研製門檻降低

據報導，以往開發生物武器受到科研人員數量與技術工具的限制，但現代科技正突破這些障礙，大型語言模型（LLM），如OpenAI的ChatGPT，能迅速綜合大量知識。例如，在一項實驗中，聊天機器人僅用一小時，就指導了一群MIT學生如何設計四種潛在致命病原體，並告訴他們，該如何無痕取得所需的DNA。

參考資料：醫療保健中的 AI 有比看病還麻煩的難題

新興技術加劇威脅

儘管目前製造與分發有效生物武器的難度仍然較高，但科學家警告，隨著技術的快速發展，這一情況可能在幾年內改變，從讓研究人員能自行創造DNA片段的合成器，到可利用機器人與自動儀器遠端實驗的「雲端實驗室」，AI將進一步降低測試與生產生物武器的門檻，專家表示，這些工具未來可能加速研發出全新且具有致命特性的病原體，甚至可能針對特定人群。

加強AI模型監管以降低風險

對此，專家也建議，各國應首先從AI模型入手進行監管。儘管部分美國開發者已自願將其最強大的LLM提交政府進行進一步評估，但對於那些基於敏感生物數據的高風險模型，應加強審查，美國國會應與AI開發者與科學家合作，制定需進行正式審查的模型標準，並對風險最高的模型設置防護措施。

防止AI設計的病毒進入現實世界

其次，要防止AI設計的病毒進入現實世界，合成核酸的供應商也應被要求了解其客戶，並篩查可疑的訂單，並紀錄所有請求，以便在病原體釋放後追蹤其來源，同時，新的合成器應內建控制措施，讓雲端實驗室加強對客戶與請求的審查，並要求人員參與監控高風險實驗。

國際合作強化全球防護措施

最後，專家還呼籲美國，敦促其他國家採取類似的保護措施，以防流氓行為者轉向不道德的供應商，如果由於外交摩擦無法強化《禁止生物武器公約》，志同道合的國家至少應達成一套最佳實踐方案，以避免悲劇的發生。

參考資料：Twin Cities

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！

瀏覽 1,704 次