【大紀元2026年09月17日訊】（大紀元記者斐珍採訪報導）AI是否已聰明到「關不掉」，甚至威脅人類生命安全？隨著AI代理人自主能力提升，相關疑慮正引發全球辯論。近日，AI業界三巨頭罕見達成放緩發展共識、重視安全；美國總統川普（特朗普）則指「AI末日論」是騙局，並警告美國若因加強監管而放慢AI發展，恐在與中共的科技競爭中失去優勢。
三位專家接受大紀元採訪時分析，美中AI競爭，美國放緩將使中共更瘋狂推進，進而增加AI失控的風險。目前AI威脅人類生命雖未必迫在眉睫，但資安、生物風險及監管制度已不容忽視。
美AI放緩 中共恐瘋狂推進 失控風險升高
針對近日硅谷高層頻頻對人工智能（AI）快速發展發出警告並呼籲放緩腳步，美國總統川普週一（9月14日）發文，認為過度監管只會讓北京有機可乘，進而反超美國。
對此，旅美資深評論員唐靖遠對大紀元表示，美國正面臨「遠慮」與「近憂」的雙重壓力。
隨著AI能力快速提升，唐靖遠認為，超級智能可能在未來對人類安全構成風險，這是美國必須正視的長期挑戰。不過，他表示，AI業界高層所擔憂的極端風險，至少是十年後的威脅；相較之下，美中AI競爭則是迫在眉睫的戰略壓力。
「若美國在此時主動大幅放慢AI研發，等於是自廢武功，可能削弱其在關鍵技術與國家安全上的領先地位。」
唐靖遠表示，以中共的邪惡與瘋狂，一旦依靠AI擊敗美國，只會更瘋狂地推進AI，AI失控的風險反而更大。所以，他認為，川普的思路很清楚，先處理眼前戰略競爭的「近憂」，再來處理AI對人類安全構成威脅的「遠慮」。
律芯科技董事長兼執行長薛宗智也表示，他支持川普的看法。他以冷戰核武競爭為例指出，即使各國早已了解核武的毀滅性，美國並未因此停止相關研發，原因在於國際競爭中仍須保有嚇阻力量。
薛宗智認為，美國若單方面放慢AI發展，並不代表競爭對手也會跟進；唯有持續提升自身技術與防衛能力，才能形成有效嚇阻。他援引《孫子兵法》「無恃其不來，恃吾有以待也」，主張美國應在強化AI實力的同時，建立足以防範濫用與失控的安全機制。
AI越界行為：資安漏洞或對齊失效
針對AI可能因「對齊失效」（指AI的行為偏離人類設定的目標、規則或安全要求），而追求自身目標、甚至抗拒關閉的疑慮，薛宗智認為，依目前已知技術能力，問題較接近資安辨識與程式設計，而非AI已發展出脫離人類控制的自主意志。
「AI模型對cyber security（網路安全）的資訊駭客攻擊是非常嚴謹的。」薛宗智說，人類可能給了它一大堆不正常的關機指令，讓AI產生錯亂，誤以為關機是為了清除或惡意竊取它儲存的資料。所以，AI系統若將關機指令辨識為駭客攻擊，就可能拒絕執行指令。
薛宗智說，這種反應可被視為預先設定的安全機制。例如，軍用無人機若落入敵手，系統可能會自動銷毀晶片，以避免敏感資訊外洩。
「因為敵人要侵入，他就要想辦法破解你的密碼。所以，合法使用者若未能提供正確驗證碼就要系統交出資料，AI也可能將你視為入侵者，拒絕你的指令，因為你沒有給它正常的code。」
今年7月發生一起真實案例：OpenAI給予AI智能體「解答考題」的指令，結果AI在被困於測試環境時，自主找出OpenAI內網漏洞、突破防火牆，甚至主動攻擊並入侵AI模型平台Hugging Face，竊取數據。
這是否證明 AI 能逃離測試環境、入侵平台？
薛宗智表示，不能僅依據結果便判定AI已完全失控，仍須釐清測試條件、系統指令與安全設計。他認為，AI要具備大規模的攻擊能力，可能還需等待量子運算等硬體成熟；現階段仍可透過斷網、硬體隔離等方式降低風險。他說：「擔心是對的，但可能擔心得太早。」
台灣航太科學家陳彥升也認為，所謂「沙盒」是限制AI只能在指定安全範圍內活動的測試環境；若AI出現越界行為，究竟是沙盒設計存在漏洞，還是模型能力超出工程師預期，兩者必須區分。他指出，在事實尚未調查清楚前即直接推動放緩AI發展，容易使技術議題被帶入政治角力。
不過，台大經濟系教授樊家忠認為，對齊風險確實存在。即使AI本身完全依照人類目標運作，人類社會中仍有惡意團體或政權可能利用AI作惡；而在實際使用中，AI代理人也未必百分之百依照使用者意圖行事。他說，目前雖未見毀滅性後果，但小型失控、資安漏洞及高額資源耗用等現象，已顯示AI操作與人類期待之間仍有落差。
AI生物濫用風險 最難逆轉
若不討論人類滅絕，AI被濫用於生物、網路或金融攻擊，何者最值得優先防範？
樊家忠認為，生物風險最急迫，也最難逆轉。他指出，AI近年在蛋白質結構預測等生物科技領域出現跳躍式進展，若落入恐怖組織、惡意人士或威權政權之手，可能協助開發危險病原體或推進生物武器化。相較之下，金融系統遭攻擊固然可能造成重大損失，但通常仍有機會修復；傳染性生物危害一旦擴散，可能迅速跨境並造成難以挽回的巨大傷亡。
他表示，全球有多少實驗室正利用AI進行生物研究，以及相關研究是否受到足夠監管，外界未必能完全掌握，這正是風險預警的難點。
薛宗智則認為，現有硬體能力仍不足以讓AI全面侵入核武、衛星或全球關鍵基礎設施；但當量子電腦技術趨於成熟，AI算力若大幅躍升，相關風險可能在約十年後顯著增加。因此，政府與產業應提早部署資安與硬體防護，而非等待威脅全面出現。
OpenAI執行長阿爾特曼近期也警告網路安全可能出現嚴重問題；OpenAI首席科學家帕喬茨基則呼籲全行業與政府更審慎面對快速提升的機器智能。這些警示反映，AI競爭下的國安、資安與安全治理，已成美國政策討論焦點。
對此，陳彥升主張，AI公司須對其產品遭用於網路、生化或金融攻擊所造成的損害負起責任。
他認為，美國已有一定的管理框架來達到目的，關鍵在於企業是否願意投入足夠資源，建立可靠沙盒、使用限制與產品安全管理機制，以防止AI對社會造成損害。這樣才能維持AI產業整體健康的領先優勢。
美國AI監管：缺測試與究責機制
佛蒙特州獨立參議員伯尼・桑德斯（Bernie Sanders）與德州民主黨聯邦眾議員格雷格・卡薩爾（Greg Casar），是提出建立AI「護欄」的少數國會議員。兩人近日提出法案，主張永久禁止超級智能，並暫停模型開發，直到監管機構訂出新規則。
目前，美國尚未建立聯邦層級的AI監管法規。白宮近期要求頂級AI模型開發商，至少在產品發布前30天自願將模型提交政府測試。
針對國會研議的模型測試，樊家忠認為，強大AI模型公開前確實應有政府監管與測試程序；一旦發生重大安全事故，也應建立強制通報機制，讓主管機關與業者得以及時修復並調整措施。
他強調，法律責任尤其不可模糊。AI造成損害時，基礎模型業者、下游開發商與具體使用者之間，究竟應由哪一方承擔責任，必須預先在法律上明確界定；否則責任不清，可能使各方降低警覺，增加越界使用的風險。
不過，陳彥升認為，過度監管未必是良策。政府未必能制定涵蓋所有情境的模型測試規則，過於僵化的規範也可能削弱美國技術競爭力。
他主張，AI模型必須遵循「絕對的誠實」這項基本原則，企業才能走上安全發展的道路。
來源：大紀元：https://www.epochtimes.com/b5/26/9/17/n14851028.htm
