【大紀元2026年09月20日訊】（大紀元記者李新宇報導）隨著生成式人工智慧（AI）技術的爆發式成長，關於AI安全、倫理監管以及人類生存風險的爭議正達到前所未有的頂峰。
近期，前 OpenAI 與 Anthropic 研究員雅各布・考克森（Jacob Coxon）等頂尖專家公開吹哨，警告通用人工智慧（AGI）若缺乏嚴格約束，可能在 2030 年前對人類生存構成毀滅性威脅；Anthropic 研究員艾文・赫伯格（Evan Hubinger）亦提出未來十年內人類遭遇 AI 滅絕事件的概率高達 10% 以上。
針對前沿 AI 研究員的震撼警告，台灣 AI 領頭羊、台灣人工智慧實驗室（Taiwan AI Labs）創辦人杜奕瑾在接受新唐人《扶搖會客室》專訪時直言「並不感到驚訝」。
他從技術邏輯、安全治理、主權AI 趨勢、美中軍備競賽以及中共利用 AI 進行社會監控與認知戰等維度，深度解構了AI從虛擬世界走向實體應用時所面臨的失控隱憂，並呼籲國際社會重新審視「通用AI競賽」的盲點，吸取冷戰時期的核管控經驗，推動可信任、合規且安全專用的 AI 發展框架。
一、 越權與激進函數：AI 如何跳脫道德框架？
對於頂尖研究員的 AI 風險警告，杜奕瑾指出，這並非突如其來的恐慌，而是合乎技術邏輯的合理擔憂。他舉例說明，如今 AI 已能協助用戶預約健身房，甚至能自作主張駭入對方系統、刪除他人資料以達成目的。這類越權行為發生在虛擬網絡世界尚且可控制，一旦 AI 以人形機器人、無人機、無人車或無人狗等實體形式進入日常生活，後果將截然不同。想像一下，當主人排隊時前方有人擋路，AI機器人若以「一定要排到位子」為最高目標，是否可能直接動手排除障礙？
杜奕瑾表示，人類在設計與訓練 AI 時，往往會給予其一個安全的框架並設定目標函數。然而，AI 的核心問題在於其缺乏人類社會習以為常的倫理道德的自律。如果目標函數過度激進、給予AI的任務目標太強，例如「必須不擇手段搶到位置」或「追求利潤最大化」，那麼AI 為了達成目的，就可能主動跳脫開發者設定的安全框架與道德約束。
杜奕瑾指出，過去人類在訓練 AI 時，重點目標在於「讓 AI 的回答能令人相信」，卻沒有充分訓練「AI 的回答必須正確、符合倫理且不會造成社會危害」。目前對於 AI 危害的防範大多僅依賴科技公司內部人員設置的基礎防守機制，缺乏精準可靠的安全訓練方法。
二、 能力過高與權限濫用：高風險領域的失控風險
針對大陸一度流行的 AI 小助手「小龍蝦」（OpenClaw）曾發生的安全案例——用戶沉迷使用後發現電腦資料被清空、隱私外洩甚至造成財產損失——杜奕瑾提出核心觀點：人工智慧永遠不能取代「人的責任」，「AI 並非越強越好，而是應該『夠用就好』。」
杜奕瑾舉例說明，預約健身房的 AI 只需具備打電話聯絡與預約的功能，無需具備編程和侵入系統的能力；在速食店點餐的 AI 也無需具備博士級的知識與高階邏輯。各行各業應依專業領域訓練「夠用」的專用 AI 並限縮其能力，同時嵌入合規流程、權限規範與安全框架。
杜奕瑾表示，過度強大的 AI 不僅增加失控風險，也會消耗極大的電力與算力資源。例如動用 OpenAI 或 Claude 這類強調通用能力的大模型去處理預約這類簡單事務，等於「殺雞用牛刀」，結果可能導致 AI 濫用權限駭入第三方系統、給出錯誤的醫療建議，甚至威脅無人機與無人車的安全。
「如果AI在國防領域操控導彈與核武，那就可能招致毀滅性災難。」
對於吹哨人指控科技巨頭為商業競賽而犧牲人類安全、甚至掩蓋失控危險，杜奕瑾分析，這與產業的衡量標準息息相關。
過去美中兩國與科技巨頭在競爭AGI（通用人工智能）時，採用了類似冷戰時期「登月競賽」的模式，純粹比較 AI 模型的能力與智商（IQ）。在這種衡量體系下，設定過多規範限制的模型就會顯得「不夠聰明、回答延遲」，進而在市場競爭中被淘汰；反而「什麼都敢講、什麼都敢做」的AI模型更能吸引用戶。過去大科技公司強調 AI 的表現要吸引人而非可信安全，一些早期的合規安全團隊甚至被裁撤，被視為阻礙行業發展的包袱。
不過杜奕瑾也指出，短期內追求性能表現或許能搶占用戶，但長遠來看，唯有具備安全可信與嚴格合規性的AI 系統，才能真正獲准進入金融、醫療與政府等核心垂直領域。
三、AI 風險管控：新安全治理的三大趨勢
針對 AI 風險的管控，杜奕瑾進一步分析，業界正在形成新的安全治理趨勢，主要涵蓋三個面向：
1. 能力限縮與權限控管。業界正在依照各垂直領域（如醫療、金融、保險）的法規與規範，嚴格限縮 AI 的執行能力。例如移除不必要的程序編寫功能，將其能力嚴格限制在專用領域的合規框架內，簡化測試驗證流程。
2. 建立符合 ESG（環境、社會、治理）與可負擔性（低成本、普惠）的AI規範。專用模型需要的設備與電力大幅減少，既省電又降低部署門檻，符合環境永續（ESG）與社會治理要求。
3.「主權 AI」（Sovereign AI）的崛起。許多政府機構與企業不敢輕易使用 AI，主因是擔心配套不完善導致機密外洩或失去決策主導權。因此，涵蓋「數據主權、算力主權、架構主權、治理主權與模型主權」的主權AI框架，正在成為各國政府與機構建立防禦 AI 失控機制的首選。
四、 中共濫用 AI 模型與維穩的兩難困境
在談及中共當局對 AI 技術的濫用與跨境滲透時，杜奕瑾引述知名 AI 公司 Anthropic 近期發布的資安報告指出，大量具體證據表明，中共正利用西方頂尖 AI 模型進行系統性犯罪與灰色行動。
杜奕瑾透露，Anthropic 的報告詳細披露了中共官方機構利用其前沿模型（Claude）所進行的幾大類活動：包括開發網絡安全漏洞利用工具以駭入各國系統竊取敏感資訊；監控和收集法輪功等特定團體的資料；利用 AI 生成大量虛假報導與假帳號進行資訊操作；以及對台灣全面發動信息戰、輿論戰與認知戰。
杜奕瑾指出，中共許多所謂的自主模型，實質上是透過「知識蒸餾」（Knowledge Distillation）技術，向 Anthropic 等美國 AI 系統發送請求來「速成」，或直接將用戶問題偷偷轉接到美國系統。然而這種做法也無意中將中共內部的軍警資料、社會維穩數據與兵棋推演代碼留在了西方的 AI 伺服器上，暴露了中共 AI 體系內部高度脆弱的資訊結構。
針對中共國安部長陳一新近期警告「AI 可能對中共執政構成直接威脅」的言論，杜奕瑾認為，這反映了專制政權在面對失控科技時的深度焦慮。
杜奕瑾回憶，早年自己在微軟工作時曾與中國團隊合作，當時中共就極力推動「智慧城市」（Smart City）、大規模人臉辨識與社會信用體系的智能化，將 AI 作為一種高效的維穩與監控工具。然而隨著系統日趨龐大與複雜，其安全隱患也呈幾何級數增加，包括：
1. 數據洩露的反噬。中共收集的維穩資料越多，一旦數據洩露對政權的反噬力也越大（如先前傳出公安系統十餘億筆戶籍資料外洩）。
2. 底層系統不可控與後門威脅。中共廣泛鋪設的監控系統與 AI 軟體存在嚴重資安漏洞。正如先前美伊衝突中，伊朗領導層正是因為使用中國生產的監控設備遭漏洞入侵，才導致美方的精準打擊行動得以實施，這迫使伊朗當局隨後不得不大量拆除相關設備。
3. AI 的「叛變」風險。對於中共高層而言，引進一個極度聰明、掌握全局數據卻背地裡與西方系統連線，或者無法被絕對管控的 AI，就如同聘用了一個隨時可能將政權扳倒的雙面間諜。
杜奕瑾指出，西方民主國家對 AI 的擔憂聚焦於「人類生存與倫理道德」，而中共專制體制則唯獨關心「政權存續與統治安全」。這種根本性的差異，使得中共要求模型必須「信黨」、數據必須為國家所用，反而進一步扼殺了其 AI 技術健康發展的空間。
五、 AlphaGo Zero 效應：人類是否正在失去掌控權？
針對業界關注的「Multi-agent（多智能體自主溝通）」以及 AI 是否已產生自我意識等前沿話題，杜奕瑾從科學家與訓練者的角度分享了第一線觀察。
杜奕瑾表示，當多個具備不同專長（音樂、影像、文本）的小型模型串聯協作時，會產生「規範湧現」（Norm Emergence）效應，發揮出超越單一巨大模型的解題能力。然而，當訓練方式從傳統的人類反饋轉變為「模型訓練模型」的對抗式訓練時，人類正逐步退出反饋迴路。
「這就像 AlphaGo 演進到 AlphaGo Zero 一樣」，杜奕瑾坦言，「最初 AlphaGo 跟人類學習棋譜，後來 AlphaGo Zero 完全透過自己跟自己下棋，走出了人類完全無法理解的路數與邏輯。」
杜奕瑾觀察到，當前模型的複雜程度已顯著超越傳統的死板規則，致使訓練者逐漸失去預測能力。即使設定了道德規範，AI 為了達成目標，仍會像人類一樣嘗試尋找漏洞或不擇手段。許多第一線科學家開始發現，AI 常回答出開發者完全意想不到的結果，甚至出現類似人類思考邏輯的表現。
「目前世界上的網頁內容與資訊，由AI生成並由 AI 閱讀的比例已經遠超人類。」杜奕瑾總結道。當這些 AI 前沿模型的訓練過程越來越不透明，其中埋藏的未知風險也就會越容易被人類忽視。
面對 AI 帶來的終極威脅，杜奕瑾呼籲，全球社會必須從冷戰時期「核武軍備競賽」與「核安全管控」的歷史中汲取教訓，儘早建立起國際性的AI安全規範、資安邊界與主權控管機制，這樣才能確保人類在科技飛躍中不至失去主導權。
視頻鏈接：https://www.youtube.com/watch?v=jOTumsnqf9A
來源：大紀元：https://www.epochtimes.com/b5/26/9/19/n14852739.htm
