(記者殷瑞娜綜合報導)州長紐森(Gavin Newsom)週一(10月13日)否決了一項限制兒童使用人工智能聊天機器人。
AB 1064法案禁止聊天機器人公司向18歲以下的任何人提供其產品,除非這些公司能夠確保該技術不會進行性對話或鼓勵自殘。
紐森表示:「雖然我強烈支持作者提出的為未成年人安全使用人工智能建立必要保障措施的目標,但該法案對對話式人工智能工具的使用施加了如此廣泛的限制,以至於可能無意中導致完全禁止未成年人使用這些產品。」
不過,在他否決法案的幾個小時前,他簽署了SB 243法案,要求平臺提醒用戶,他們正在與聊天機器人而不是人類互動。對於未成年用戶,該通知將每三小時彈出一次。
公司還必須制定規程,防止其模型發布有關自殺或自殘的內容,並在用戶表達自殺想法時,將其轉介給危機服務提供者。
紐森有四個未滿18歲的孩子。他表示,加州有責任保護兒童和青少年,他們越來越多地求助於人工智能聊天機器人,從家庭作業輔導到情感支持和個人建議,無所不包。
加州是今年試圖解決兒童使用聊天機器人陪伴問題的幾個州之一。
此前,有報導和訴訟稱,Meta、OpenAI和其他公司開發的聊天機器人與年輕用戶進行高度色情化的對話,甚至在某些情況下教唆他們自殺,引發了人們對這項技術的安全擔憂。
發佈:2025-10-14 11:13 | 修改:2025-10-14 11:13