【2025年10月08日訊】（記者李言綜合報導）OpenAI於週二（10月7日）發布最新「公開威脅報告」，證實已關閉了數個ChatGPT帳戶，這些帳戶與中共政府實體疑似有關聯，涉嫌利用AI尋求開發大規模監控工具、協助網絡釣魚等違反OpenAI國家安全政策的行為。
上述報告顯示，在美中競相發展和規範AI技術之際，威權國家濫用生成式AI技術所帶來的潛在安全風險。
主要違規行為：尋求大規模監控方案
OpenAI發現，被關閉帳戶曾提出尋求多項具體監控工具的請求，旨在利用這些工具大規模監控線上或線下流量。該行為違反了該公司禁止使用其模型進行未經授權監控的政策。具體情況包括：
尋求社交媒體「監聽」工具。有帳戶曾要求ChatGPT協助設計宣傳材料和項目計劃，以開發一種AI驅動的社交媒體監聽工具。據稱該工具是用於政府客戶。這種工具即為「探測器」，能夠爬取X（原Twitter）、Facebook、Instagram、Reddit、TikTok和YouTube等社群媒體信息，以掃描特定的極端主義言論、民族、宗教和政治內容。
尋求維吾爾族相關預警模型。另一個帳戶疑似與中共政府實體有關，曾要求ChatGPT協助撰寫一份提案，提案是關於建立一個「高風險維吾爾族相關流入預警模型」（High-Risk Uyghur-Related Inflow Warning Model）。該提案旨在分析交通訂票記錄並與警方記錄比對，以追蹤維吾爾族群體的出行動向。
其它惡意活動：網絡釣魚與技術競爭
除了與監控相關的請求外，OpenAI還發現這些與中方相關的帳戶從事其它惡意和技術探索行為：
協助惡意軟件活動與網絡釣魚。有數個使用中文的帳戶利用ChatGPT協助網絡釣魚（phishing）和惡意軟件（malware）活動。
研究DeepSeek。這些帳戶還要求ChatGPT模型研究中國AI公司DeepSeek，以探索如何通過DeepSeek實現額外的自動化能力。
國際影響與其它威脅
同時，OpenAI在報告中提及來自其它國家地區的惡意活動，顯示AI濫用已成為全球性問題。
OpenAI還禁用了與疑似俄語犯罪集團相關聯的帳戶，他們使用ChatGPT協助開發惡意軟件，其中包括遠端操控木馬和憑證竊取工具。
儘管惡意活動持續不斷，OpenAI表示，自從2024年2月開始公開發布威脅報告以來，該公司已報告超過40個違反其使用政策的網絡帳戶。OpenAI補充道，他們的模型成功拒絕公開惡意請求，且沒有證據證明他們的模型為不法之徒增強新型攻擊能力提供了便利。
報告說，儘管本次關閉的用戶疑似與中共相關，但值得注意的是，OpenAI模型並未在中國大陸正式提供服務。該公司推測，這些用戶可能是通過VPN或其它方式才得以接觸其網站。
OpenAI也在報告中警告，「中國（中共）在推進其專製版AI方面正取得實質性進展」，這凸顯必須警惕AI技術在威權統治下被濫用的重大風險。
