拜登憂AI風險！施壓 7大巨頭許諾 8大安全承諾

編譯／夏洛特

日前，在一場美國總統拜登與科技領袖於白宮舉行的AI會議上，包括OpenAI、Anthropic、Google、Inflection、微軟、Meta 和亞馬遜在內的7家頂級人工智慧（AI）公司「自願承諾」，要在拜登政府的AI監管命令發布之前，優先實施一系列自我監管的安全措施。包括為消費者創造識別AI生成的內容的方法，以及在公開發布新AI工具之前進行安全測試等。

自 OpenAI 於2022年底發布 ChatGPT 以來，AI的安全性已成為該領域的首要關注點，隨著AI造假的功能越來越強大，人們擔心網路上將充滿假的和誤導性的內容。在會議上，拜登就提到AI的巨大風險與前景，並指出：「在未來10年、或數年內，我們將看到比過去50年更多的科技變革，而現場的各位在引領負責安全上非常重要」。

更多新聞：AI爆炸式增長　專家：若不監管危機迫在眉睫

以下是這些公司對拜登許下的八大承諾：

• 開發一種讓消費者識別AI生成式內容的方法，如浮水印。

• 在向公眾發布新AI工具之前，請專家評估其工具的安全性，並對AI進行內部和外部安全測試。

• 對整個行業以及與政府、民間社會和學術界公開共享有關管理AI的資訊。

• 允許第三方查找並回報其系統中的漏洞。

• 公開AI技術的局限性，包括系統的能力、限制以及適當和不適當使用的方式。

• 優先研究AI的社會風險，包括歧視和隱私問題。

• 將緩解氣候變化和疾病等社會挑戰作為開發AI的目標。

• 投資網路安全和內部威脅防護措施，以保護專有和未發布的模型。

美國商務部長Gina Raimondo將這一系列新承諾稱為「第一步」，並指出：「國會需要一段時間才能通過一項監管AI的法律。而總統也知道我們沒有時間。 AI的發展比我們見過的任何技術都要快。AI的潛力、優點和缺點都是我們以前從未見過的。」

Raimondo還說，讓AI公司保持透明度，和知道大家都在關注非常重要。她說：「不要低估透明度的力量，也不要低估這些AI公司知道我們在關注、他們的客戶也在關注的事實，並要讓他們承擔責任。」

參考資料：CNBC、The New York Times、Tech Crunch

※更多ChatGPT相關訊息，請參考【生成式AI創新學院】。

瀏覽 747 次