【2024年09月30日訊】（記者陳霆綜合報導）加州州長紐森（Gavin Newsom）週日（9月29日）否決了州議會8月份批准的爭議性的人工智能（AI）監管法案。此前，大部分科技企業都反對此法案，認為這可能讓AI公司離開加州，阻礙創新研發。
日前，加州議會通過了旨在監管強大AI模型的《前沿人工智能模型安全創新法案》（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act，SB 1047）。紐森必須在9月30日之前簽署或否決該法案。
這項法案要求大型「前沿」AI模型的開發者採取預防措施，例如部署前測試，以確保它們不會導致大規模死亡、對公共基礎設施的攻擊，或被用於網絡攻擊。
該法案還將設立舉報人保護措施，為希望分享安全擔憂的AI公司的員工提供舉報人保護；以及為了公共利益，開發AI的公共雲服務等。法案還要求創建加州前沿模型委員會（Board of Frontier Models），以監督AI模型的發展。
紐森在否決該法案時，對其進行了全面審查，指出該法案可能「限制創新，而創新正是推動公益事業發展的動力」。
他還表示，該法案以一刀切的方式對AI進行監管，缺乏對AI所帶來的真正威脅的實證分析。
他寫道：「制定只適用於加州的法規可能是有道理的——尤其是在國會沒有採取聯邦行動的情況下——但這些行動必須建立在實證與科學的基礎上。」
紐森還對該法案主要適用於成本昂貴的AI模型提出了質疑。該法案計劃讓開發者對其模型造成的損害承擔責任，但僅適用於訓練成本超過1億美元的AI模型。目前還沒有模型達到這個數字。
紐森認為，廉價的AI模型同樣可能對公共利益或關鍵基礎設施構成威脅。
紐森寫道：「與SB 1047所針對的模型相比，更小、更專門的模型可能同樣危險，甚至更加危險。」
州長說，這項立法的代價，可能是延緩公益事業的發展，並在AI方面給公眾帶來「虛假的安全感」。
紐森說，他認為加州必須通過一項法律來監管人工智能，他將繼續致力於與立法機構、聯邦合作夥伴，以及其他各方人士合作，「找到合適的前進道路，包括立法和監管」。
「加州不會放棄自己的責任」，他補充道，「應實施積極主動的防範措施，不良行為者必須承擔明確且可執行的嚴重後果。」
過去幾個月裡，該法案的支持者與反對者，都向紐森施加了巨大壓力。
該法案的支持者包括馬斯克（Elon Musk）、人工智能初創公司Anthropic、人工智能安全中心（Center for AI Safety，CAIS）、科技公平非營利組織Encode Justice、全國婦女組織（National Organization for Women，NOW），以及人工智能公司OpenAI的舉報人等。
上週，超過120名好萊塢人士寫了一封公開信，敦促紐森簽署這項立法，他們寫道「最強大的AI模型可能很快就會帶來嚴重風險」。
根據人工智能政策研究所（Artificial Intelligence Policy Institute）於8月4日至8月5日進行的在線民調，在1000名加州選民中，65%的受訪者支持SB 1047。調查誤差為4.9個百分點。
該法案的反對者包括谷歌、Meta和OpenAI等科技巨頭，他們表示，該法案將破壞加州的經濟和人工智能產業。
他們還表示，該立法追究開發人員的責任，而非處罰AI模型的濫用者，並認為AI技術的安全法規應由聯邦機構制定。
甚至聯邦議員也加入了辯論，前眾議院議長佩洛西（Nancy Pelosi）和其他一些加州政界人士都反對該法案。
佩洛西上個月表示，國會中的「許多人」認為這項立法「意圖良好，但缺乏充分了解」。
本月早先，紐森已簽署了一系列法案，旨在防止AI的濫用，加強保護演員和其他演出者的數位肖像權，並打擊經常出現於政治廣告中的深偽技術。
