州議會月前通過立法，要求建立全國首批安全措施規(guī)范大型人工智能(AI)模型，但29日遭州長紐森否決，被認為對加州以至全國試圖控制近年急速發(fā)展的AI產業(yè)是一大打擊。
紐森本月初出席軟件企業(yè)Salesforce年度大會Dreamforce時表明，由于聯(lián)邦對AI的放任，加州必須領導規(guī)范AI的工作，但SB 1047法案“對產業(yè)會產生寒蟬效應”，且透過建立硬性要求來傷害這個出自加州的產業(yè)。
▲州長紐森否決SB 1047法案。美聯(lián)社資料圖片
紐森指出，SB 1047“未考慮AI系統(tǒng)是否部署在高風險環(huán)境、涉及重要決策或敏感資料的使用”，反而“對大多數(shù)基本功能采取嚴苛標準”，不認為是保護公眾免受AI威脅的最佳方法。
法案由代表舊金山的州參議員威善高(Scott Weiner)提出，引發(fā)不少批評，包括來自AI新創(chuàng)公司、科企和普洛西等多名民主黨國會眾議員，認為法案恐“扼殺加州科技和創(chuàng)新”，妨礙AI開發(fā)人員投資大型AI模型或分享開源軟件。
▲提出法案的三藩市州參議員威善高。美聯(lián)社資料圖片
包括電動車特斯拉創(chuàng)辦人馬斯克和AI新創(chuàng)公司Anthropic等支持者認為，法案可為大型AI模型注入一定程度的透明度和問責，因為開發(fā)人員與專家表示尚未完全掌握AI模型的行為方式。
法案要求公司測試它們的AI模型和對外公布其安全措施，以免AI模型對公共基建構成威脅或成為生化武器。有專家認為，隨著AI產業(yè)持續(xù)急速發(fā)展，這些情況都有可能發(fā)生。法案還保護舉發(fā)AI問題的員工。法案針對建造成本1億美元以上的AI模型。雖然目前尚無AI模型達到這門檻，但專家認為明年就有可能。
對于法案被否決，威善高形容對每位相信對大企業(yè)進行監(jiān)督的人來說是一種挫折。他認為，即使大型AI實驗室在監(jiān)控和減輕AI相關風險上做出承諾，“事實上這些承諾無法執(zhí)行，且對公眾缺乏良好效果”。
威善高認為，圍繞法案的討論已大幅推進AI安全相關議題，他將繼續(xù)強調這一點。
紐森同時宣布，加州將與反對SB1047的李飛飛等多名AI專家合作，為強大的AI模型建立防護措施。
