【大紀元記者殷瑞娜綜合報導】人工智慧（AI）的發展日新月異，很快就能在無人干預的情況下自我提升。因此，Anthropic警告人工智慧產業：必須建立「煞車」機制，否則將面臨失去對其控制權的風險。
Anthropic負責人瑪麗娜·法瓦羅（Marina Favaro）和聯合創始人傑克·克拉克（Jack Clark），在一篇博文中表示，能夠自我提升的人工智慧系統，即所謂的「完全遞歸式自我改進」（Full recursive self-improvement），雖然可能對科學和醫療保健帶來巨大益處，但也對人類構成巨大風險。
他們寫道：「完全遞歸式自我改進，也可能增加人類失去對人工智慧系統控制的風險。如果系統能夠完全構建自身的後續版本，那麼我們如何保護它們、監控它們，以及塑造它們的行為就變得至關重要。」
他們警告說，其研究表明，「遞歸式自我改進」這一現象的到來可能比預期更快。科技公司應該考慮放緩或暫停前沿人工智慧的研發，以便研究人員有時間更了解自我改進型人工智慧可能帶來的潛在社會危害。他們也表示，研究人員應該建立一套機制，以便在情況失控時讓人類介入。
OpenAI也發布了其對「遞歸式自我改進」的研究和擔憂。在2025年12月的一篇部落格文章中，OpenAI將其描述為一種潛在的危險現象。
據報導，Anthropic計劃在未來幾個月內，與立法者就AI遞歸式自我改進問題進行溝通。
上個月，Anthropic完成了一輪融資，公司估值達到9,650億美元（7,170億英鎊）。Anthropic由一群前OpenAI員工於2021年創立。週一，該公司祕密提交了首次公開募股（IPO）申請。◇
發佈：2026-06-05 13:39 | 修改：2026-06-05 17:55
