加州擬管控 AI 技術 科技巨頭牙起來
編譯／莊閔棻
美國加州正在推動一項可能徹底改變人工智慧（AI）產業發展進程的法案「SB 1047」。這項由州參議員Scott Wiener於今年2月提出的法案，旨在為大型AI系統的開發建立安全標準，並在立法過程中，獲得了來自兩黨立法者的支持，然而，自SB 1047提出以來，受到了多方的反對，包括前眾議院議長裴洛西，和以 Meta、OpenAI和Anthropic為代表的大型科技公司。
法案具體內容
據報導，目前，該法案已通過州參議院隱私與消費者保護委員會以及州議會撥款委員會的審議，預計將於本月底由加州議會全體投票決定其命運，SB 1047的作者指出，該法案的目標是「確保大型AI系統的安全開發，為最強大AI系統的開發者建立明確、可預測的安全標準，」法案適用於訓練成本超過1億美元或需要高運算能力的AI公司，要求這些公司在新技術公開使用前進行安全測試，並設置「全面關閉」功能，對技術應用的責任負全責。
此外，法案還設立了AI開發者的法律標準，規定了加州檢察長可提起訴訟的違法行為、為吹哨人提供保護，以及成立一個監管委員會來設定AI模型的計算限制，並提供指導意見。
來自政界的批評聲浪
然而，裴洛西就指出，「我們希望加州能在保護消費者、數據和知識產權方面引領AI發展，但SB 1047在這方面反而弊大於利，」而眾議院科學、太空與技術委員會的資深成員Zoe Lofgren也認為該法案，可能會為公眾和加州經濟帶來「不必要的風險」。
面對這些批評，參議員Wiener為該法案進行了辯護，並強調，「創新與安全並不相互排斥，」Wiener還指出，儘管大型科技公司承諾進行安全測試，但他們「對監管和監督卻感到抗拒」，他進一步表示，AI領域的大多數創新者都是有高度道德感的人，但歷史告訴我們，單靠行業自我監管往往對社會不利，Wiener也回應了來自裴洛西的批評，強調該法案不會影響新創企業。
科技公司的反應與影響
但儘管政策執行者與大型科技公司、新創企業及學者進行了多次溝通，目前仍沒有一家大型開發者支持SB 1047， Meta、OpenAI和Anthropic就認為，該法案會扼殺創新，並影響開源模型的發展，Meta在6月致信Wiener時表示，該法案會使企業難以開源模型，進而抑制小型企業利用這些模型創造新商業模式和工作機會。
Anthropic則對法案早期版本提出質疑，主張應更加注重阻止不安全模型的開發，而非在災難性事件發生前嚴格執法，該公司還表示，達到1億美元門檻的公司，應能自行設立安全測試標準。在科技界的壓力下，加州立法者對法案進行了部分修改，如該法案最初要求成立一個新的政府機構，但此後它已將其簡化為州政府營運機構內的一個委員會。
新創企業感到擔憂
對於規模較小的AI公司來說，法案的影響也不容忽視，但反對聲浪卻沒有大企業這麼大，企業級生成式AI公司Articul8的創始人兼CEO Arun Subramaniyam認為，法案將影響不僅是大型科技公司，甚至資金充裕的新創企業，也可能達到1億美元的門檻，但他支持法案中提出的公共雲端運算集群，認為該集群能為資源有限的研究人員和團體，提供更多公平的機會。
此外，他認為開發者報告要求將增加透明度，從長遠來看有助於Articul8的發展，Subramaniyam表示，「業界的未來取決於通用模型的監管方式，提前進行監管是好的，但措辭需要更加平衡。」
參考資料：Insider、Coin Telegraph
※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！
瀏覽 245 次
