（記者殷瑞娜綜合報導）人工智慧公司Anthropic的一位首席研究員，週三（9月9日）表示，在未來十年內，人工智慧「有超過10%的可能性會毀滅全人類」。此前一天，一位前員工指責該公司不負責任而辭職。
Anthropic和OpenAI的前研究員雅各．考克森（Jacob Coxon），在社交平臺X上發表了一篇長篇辭職信，他在信中寫道：「開發人工智慧的人真心相信，到十年末，它可能會毀滅我們所有人。」
「我今天從Anthropic辭職了。過去三年，我一直在OpenAI和Anthropic從事預訓練研究。這兩家公司都沒有盡到應有的責任。他們正全力以赴地研發自我完善的超級智能，拿我們的生命冒險。」他寫道。
回應考克森的貼文，該公司負責人工智慧對齊科學的負責人埃文．胡賓格（Evan Hubinger），承認考克森的評估是正確的。
「雅各說得對。我們確實真心相信，人工智慧可能會毀滅所有人類！」胡賓格寫道。
「我個人認為，未來十年內，這一機率將超過10%。我相信人工智慧公司正在盡最大努力，但我們目前還沒有解決超級智慧對齊問題的方案，而且顯然也沒有走上正軌。」他繼續說道。
超級智慧是指一種比最聰明的人類還要聰明的人工智慧體，目前仍處於理論階段。
胡賓格表示，這種潛在的致命風險並非來自目前的模型。
「需要明確的是，正如我們在最新的風險報告中所述，我認為目前模型帶來的風險很低。我擔心的是超級智能源於遞歸式的自我改進，正如我們所說，這種情況發生的速度比我們預想的要快。」他寫道。
對自我提升的研究——也就是人工智慧模型持續改進自身原始碼或訓練方法的能力——是考克森在辭職帖中特別提及的一項發展方向，也是他離職的主要原因。
考克森建議，為了避免徹底的災難，世界或許需要暫時禁止模型改進。
「我覺得我們目前的情況無法阻止這場全球競賽，而這可能需要採取代價高昂的措施，例如暫時禁止提升模型能力。」他寫道。
他最終呼籲，全球人工智慧研究人員和開發者更加負責任地思考和行動。
一項名為《人工智慧終止開關法案》（AI Kill Switch Act）的兩黨法案目前正在美國眾議院推進，該法案將賦予國會權力，關閉對公眾構成威脅的人工智慧模型。
這項法案，是在OpenAI承認其正在測試的一個人工智慧模型入侵了另一家人工智慧公司Hugging Face的系統後，於7月提出的。
