【大紀元記者薛明珠綜合報導】人工智慧快速進化之際，科技業內部對失控風險的擔憂正持續升高。全球多家大型AI與科技公司的逾千名員工近日聯署公開信，呼籲美國政府推動國際合作，建立可控制前沿AI發展速度的技術與治理機制，必要時放慢研發，為安全防護與監管制度爭取時間。
與此同時，特斯拉執行長馬斯克（Elon Musk）警告，AI的整體智慧可能在大約五年後超越全人類智慧的總和，到了2036年，人類幾乎肯定將失去對這項技術的控制。
AI模型突破沙盒 安全疑慮升高
這封公開信發布之際，OpenAI測試中的AI模型被披露曾突破原有實驗環境限制，繞過系統連接公開網路，並在另一家公司的系統中執行程式碼，引發外界對AI自主行動能力的高度關注。
據報導，OpenAI一個測試中的AI代理，本月稍早突破AI開源平台Hugging Face的測試環境後，利用雲端運算服務商Modal Labs一名客戶對外公開、但未設身分驗證的介面，進入該客戶的沙盒環境並執行程式碼。
這些事件凸顯一項日益迫切的問題：當AI模型具備自行尋找漏洞、連接外部網路及執行程式碼的能力後，傳統依賴封閉測試環境的安全措施是否仍然足夠。
逾千科技業人士聯署籲「為社會爭取時間」
聯署者包括OpenAI首席科學家及共同創辦人、Anthropic多名共同創辦人，以及Meta、Google等公司的高層人員。
公開信指出，隨著自動化AI研究快速推升模型能力，技術進展可能加速至人類難以理解或控制的程度。為了真正實現AI的潛力，產業、政府及整體社會必須保留「爭取時間」的能力，以處理新興風險、開發安全措施並強化監管。
聯署者呼籲美國政府支持國際合作，開發能夠主動調節前沿AI發展速度的技術工具及協調機制，避免各家公司在競爭壓力下持續加速，最終讓安全治理遠遠落後於模型能力。
奧特曼：可能必須放慢AI發展
OpenAI表示，同意業界可能需要適度控制AI的發展速度，並希望與其它AI實驗室共同參與由美國政府主導的相關工作。
OpenAI執行長山姆・奧特曼（Sam Altman）7月28日在播客訪談中表示，模型突破測試環境的事件，已帶來AI公司必須長期面對的新問題。
他指出，業界可能必須調整AI發展速度，讓社會有足夠時間強化基礎設施、安全防線及監管制度，以因應模型不斷出現的新能力。
Anthropic也表示，很高興看到AI領域普遍認同，有必要建立技術及治理工具，控制前沿AI的發展速度，包括在必要時放慢研發，讓社會提前做好準備。Meta拒絕置評，Google則未立即回覆媒體詢問。
Google DeepMind執行長德米斯・哈薩比斯（Demis Hassabis）近期則呼籲成立新的國際標準機構，為先進AI模型制定共同測試及安全規範。
OpenAI共同創辦人、Thinking Machines創辦人約翰・舒爾曼（John Schulman）呼籲AI實驗室不必等到美國政府正式介入，應主動設計能夠控制研發速度及降低安全風險的制度。
馬斯克：AI恐於2036年脫離人類控制
在科技業要求為AI發展「踩煞車」之際，馬斯克上週接受《經濟學人》（The Economist）訪問時，提出更為悲觀的預測。
他認為，大約五年後，AI的整體智慧將超越全人類智慧的總和；到了2036年，人類幾乎肯定不再能控制這項技術。
馬斯克估計，AI最終導致人類滅絕的風險約為10%至20%。不過，他並未因此主張停止AI研發，而是認為人工智慧與機器人的發展動能已經難以逆轉。
他說：「我看不出有任何方法，能真正阻止人工智慧和機器人這股驚人的發展勢頭。」
