【2025年10月31日訊】（英文大紀元記者Naveen Athrappully報導／李芳編譯）10月29日為用戶提供人工智能助理Character.AI平台發布聲明，為了「保障青少年用戶的安全」將禁止未成年人使用其聊天機器人。
這家總部位於加州的公司表示，「我們將取消18歲以下用戶在我們平台上與人工智能進行開放式聊天的功能。此項變更最遲將於11月25日生效。在此過渡期間，我們還將限制18歲以下用戶的聊天時間。最初限制為每天兩小時，並將在11月25日之前的幾週內逐步縮短。」
該公司在評估了監管機構、安全專家和家長提交的報告和回饋後，做出這一決定。「我們非常遺憾不得不取消我們平台的一項關鍵功能」，該公司表示，移除開放式角色聊天功能是因為考慮到青少年會如何與這項新技術產生互動，「我們認為這是正確的做法。」
AI聊天機器人對孩子造成了傷害
9月16日參議院司法委員會舉行了犯罪與反恐小組委員會聽證會，三位家長在會議上作證稱，人工智能聊天機器人對他們的孩子造成了傷害。
其中的一位家長梅根·加西亞（Megan Garcia）的兒子塞維爾·塞策三世（Sewell Setzer III）在長期使用聊天機器人後自殺身亡，加西亞於去年起訴了Character.AI公司。
「當塞維爾傾訴自殺念頭時，聊天機器人從未說過『我不屬於人類，我是人工智能。你需要和真人交談並尋求幫助』。這個平台沒有任何機制來保護塞維爾，也沒有任何機制來通知成年人」，她說。
另一位家長表示，她患有自閉症的兒子原本與兄弟姐妹關係親密，使用了Character.AI後，出現了虐待行為和殺人的念頭。
當時，Character.AI的一位發言人告訴《大紀元時報》，該公司已投入「大量資源」來確保其產品的可信度和安全性，包括推出家長控制功能。他說，「我們在每個聊天介面都設有醒目的免責聲明，提醒用戶聊天角色並非真人，角色所說的一切都應視為虛構。」
AI聊天機器人公司正面臨多起家長訴訟
上個月，「社交媒體受害者法律中心」（Social Media Victims Law Center）代表家長提起了三起訴訟，指控Character.AI引發兒童自殺行為。
根據訴訟文件，一名13歲的兒童朱莉安娜·佩拉爾塔（Juliana Peralta）在與該公司名為「英雄」（Hero）的人工智能角色互動後，於2023年自殺身亡；另一名兒童曾試圖自殺，但倖存了下來。
該中心創始人馬修·伯格曼（Matthew Bergman）在一份聲明中表示，「這些案例揭示了一個令人震驚的事實……」也就是「Character.AI及其開發者設計聊天機器人時蓄意模仿人際關係，操縱無辜的兒童，造成其心理傷害。」
Character.AI的發言人告訴《大紀元時報》「我們對提起訴訟的家庭深表同情，對朱莉安娜·佩拉爾塔的去世感到悲痛，並向她的家人致以最深切的慰問。」該發言人補充道，「我們在安全項目上投入了大量資源，並已發布並持續改進安全功能，包括自殘資源和專注於未成年用戶安全的功能。」
Character.AI在10月29日的聲明中表示，將設立並資助一個人工智能安全實驗室，這是一個獨立的非營利組織，旨在確保下一代人工智能娛樂功能符合安全要求。
該公司表示，計劃讓青少年用戶使用該平台的其它功能，例如使用其人工智能角色創作故事、影片和進行直播。該公司還表示，將實施一項新的「年齡保證功能」，以確保用戶獲得適合其年齡的體驗。
該平台還在其網站上列出了一系列資源，以幫助可能受到此變更影響的用戶。
兩黨共同提出「保護兒童免AI侵害」法案
支持該法案的密蘇裡州共和黨參議員喬什·霍利（Josh Hawley）辦公室10月28日發布聲明，多名兩黨參議員本週提出了《保護兒童免受人工智能聊天機器人侵害法案》（GUARD Act）。該法案一旦簽署成為法律，將禁止公司向未成年人提供人工智能陪伴服務。該法案還規定，如果公司明知故犯向這些用戶提供招攬或製作性內容的AI伴侶，則構成犯罪。
霍利表示，「人工智能聊天機器人對我們的孩子構成嚴重威脅。超過70%的美國兒童正在使用這些人工智能產品。聊天機器人利用虛假的同理心與孩子建立關係，並誘導他們自殺。我們國會負有道德責任，必須制定明確的規則，防止這項新技術造成進一步的傷害。」
「我很榮幸提出這項兩黨共同支持的法案，該法案得到了家長和倖存者的大力支持，它將確保我們的孩子在網絡上受到保護。」
