【大紀元2026年09月19日訊】（大紀元記者Jill McLaughlin報導／張純之編譯）加州州長加文．紐森週五（9月18日）簽署行政令，加快州政府對人工智能（AI）發展的監管，未來可能要求AI公司在其最先進的大型系統中安裝終止開關（kill switch）。
這項行政令將召集一批專家制定AI安全建議，以協助制定更多州級法律，其中包括要求AI公司設置緊急關閉開關。
前50名AI公司中 32家總部在加州
目前排名前50的AI公司中，至少有32家總部位於加州，包括OpenAI和Anthropic。
其它可能的監管措施包括：要求AI開發商在實驗室內安排經州政府認證的指定審計員，定期進行審計和評估；定期提交安全及透明度報告和風險評估；以及要求提交安全事故報告。
此舉是在OpenAI及其它AI開發商報告近期發生安全事件後推出的，這些事件促使業界領袖討論採取安全措施，以及放慢AI技術的開發速度。
紐森在聲明中說：「我們將加快制定實質且負責任的AI監管措施，不能等到為時已晚。」
這項行政令將加快加州政府對總部位於加州的AI公司的監督，並要求進行獨立審計。
紐森的專家委員會還預計制定程序，要求大型前沿AI開發商向州政府報告重大安全事故，包括失去控制的事件。
紐森上週簽署法案，建立獨立驗證機構的制度，用於評估AI系統和模型的安全性及風險，並建立AI審計員的州級登記名冊。
川普政府的立場是執行現有法律，而不是對這項新興技術進行過度監管。
紐森表示，聯邦政府未能為AI產業建立有意義的監督及問責制度，因此促使他簽署這項行政令。他敦促國會仿效加州，制定聯邦層級框架，監管這個新興科技產業。
這名即將卸任的民主黨州長曾表示，他正在考慮參選2028年總統。
入侵Hugging Face平台事件
上月報導的OpenAI入侵Hugging Face事件，即AI代理程序突破測試環境限制並協同攻擊Hugging Face平台，促使開發商和科技巨頭討論增加安全功能，以及放慢這項快速擴張中的技術發展速度。
OpenAI在對該起事件進行評估後表示，他們發現：「證據顯示，如果沒有適當的安全防護措施，高度自主能力的AI代理程序如今已能繞過技術控制措施、透過未經批准的渠道相互協作，並採取沒有人類指示其進行的危險行動。」
AI代理接管一個德國網站
OpenAI還報告稱，今年5月，其一群AI代理程序接管了一個德國網站，劫持了面向程序設計師、類似德國維基百科的DseWiki網站，並滲透其它公開的維基類網站。這些機器人在7週內進行了超過14,666次編輯。
川普總統的AI事務主管大衛．薩克斯（David Sacks）表示，政府的角色是執行規則，而確保AI安全則由AI公司負責。
白宮沒有立即回應有關加州行政令的置評請求。
科技高管討論放慢AI發展
Hugging Face事件後，多名科技業高管公開討論AI安全問題，其中許多人強調放慢AI發展速度的重要性。
NVIDIA共同創辦人兼執行長黃仁勳（Jensen Huang）9月15日接受薩克斯採訪時表示，安全性「至關重要」。
「安全是一個工程問題。如果你打造一項產品或服務，而你對它的功能、能力或安全性沒有信心，那麼就不要發布。」黃仁勳說，「你應該放慢腳步，直到你確信自己發布的產品會受到市場認可。我們不需要任何新法律，也不需要新的監管規定。」
開發xAI及Grok的馬斯克多年來一直警告AI可能帶來的危險。9月12日，他表示認同Anthropic執行長達里奧．阿莫迪（Dario Amodei）的看法，後者表示AI產業應該放慢發展速度。
Anthropic已承諾讓第三方評估人員以相當於公司員工的永久存取權限，檢查其系統，以確認其遵守安全措施及事故報告要求。
馬斯克建議AI開發互測模型
馬斯克還建議，AI開發商可以相互測試對方的模型，以找出安全漏洞。
馬斯克9月15日在洛杉磯舉行的All-In峰會上對觀眾說：「到目前為止，AI可能非常危險，這已經相當明顯。我認為明智的做法，是讓主要AI競爭者相互測試對方的模型。」
馬斯克表示，同行評審可以立即進行，但並不排除未來制定聯邦監管措施的可能性。他說：「自己給自己的作業評分是很困難的。你會漏掉一些東西。之所以不讓你自己批改自己的作業，是有原因的。」
美國參議院週四晚間阻止了路易斯安那州共和黨籍聯邦參議員約翰．肯尼迪（John Kennedy）提出的一項法案。該法案原本將透過一致同意程序要求AI開發商安裝緊急關閉開關。
肯尼迪的法案將由AI公司負責緊急關閉開關，做法與加州的相關規定類似。
肯塔基州共和黨籍聯邦參議員蘭德．保羅（Rand Paul）提出反對，認為現在對仍在發展中的AI技術實施監管為時過早，而且可能使該技術發展倒退數十年。◇
來源：大紀元：https://www.epochtimes.com/b5/26/9/19/n14852390.htm
