AI洩密及虛假訊息事件頻傳 多國考慮禁用

【2023年04月12日訊】(大紀元專題部記者吳瑞昌報導)隨著ChatGPT帶起人工智能(AI)的熱潮,與AI相關的洩密和假訊息等問題也逐漸浮現。這讓不少科技先驅者呼籲監管機構管制AI。意大利政府因ChatGPT洩密和年齡管制問題,目前暫時禁止該AI。

3月底,意大利政府的數字保護、隱私監管機構正式暫停ChatGPT在意大利使用。其新聞稿表示,「政府暫時停止使用ChatGPT並對其進行調查,同時限制執行擔保人在20天內提出相應的彌補方案,否則處以2000萬歐元(約2180萬美元),或最高4%的全球年度營業額作為罰款。」

新聞稿提到,這次停止使用和調查的原因主要有兩個:第一,3月20日發生ChatGPT用戶的對話與付費服務訂閱者付款(信用卡)等信息丟失(數據洩露)。因為OpenAI在資料洩漏後警告受影響的用戶,他們的姓名、帳單地址、信用卡種類、到期日期和卡號的後四位數皆暴露。

目前ChatGPT有超過1億用戶,但尚不清楚有多少人使用付費ChatGPT,據OpenAI公司公告稱,約有1.2%的ChatGPT收費用戶出現問題。

第二,OpenAI稱他們的服務對象是13歲以上的人,但並未設置任何過濾器去驗證用戶的真實年齡。對此,監管機構認為,這些未成年人的心智尚未成熟,無法判別ChatGPT答案是否合適,而這些答案可能嚴重影響他們的價值觀。

多國政府和企業正在考慮禁止ChatGPT

4月4日意大利監管機構再度發稿表示,目前正與OpenAI代表進行會談和處理後續問題,直到它符合意大利和歐洲相關隱私法規為止。

除了意大利政府外,德國政府也在考慮採取禁止ChatGPT的行動。目前,法國、愛爾蘭的監管機構已聯繫意大利監管單位,希望了解禁止AI的相關法律依據。這些國家的做法,也讓歐盟的隱私監管機構開始考慮,是否用更嚴格的法律,去遏制ChatGPT和AI毫無節制的發展。

4月初,韓媒報導,韓國三星電子(Samsung Electronics)的機密資料因開放員工使用ChatGPT,導致外洩事件出現。這些外洩資料原封不動傳輸到美國公司。對此,三星表示會考慮禁用ChatGPT。

早在2月和3月份,亞馬遜和沃爾瑪分別警告員工,不要使用ChatGPT共享敏感信息,而威訊無線(Verizon)、摩根大通(JP Morgan Chase)、花旗集團(Citi group)和高盛(Goldman Sachs Block)等其他公司,則要求員工屏蔽該AI。

AI恐淪為虛假訊息和犯罪溫床

企業和多國政府對AI的擔憂,不僅限於AI洩密和影響未成年人,它還牽動整個世界的經濟和生活。而犯罪者們可能利用AI能夠快速生產論文、繪圖、聲音及編寫程式等能力,讓其成為他們的犯罪利器。

對此,歐洲刑警組織(Europol)在3月底發出警告,犯罪分子恐利用ChatGPT等AI來提升其犯罪手段。原因是ChatGPT生成的文字能夠模仿人的說話風格,而這些文字能夠在假電郵、網路釣魚攻擊和散布不實訊息時奏效。

3月底馬斯克等諸多科技巨擘一同在非營利組織生命未來研究所(Future of Life Institute)共同發布了一封呼籲暫停高階AI(ChatGPT)研發6個月的公開信。信中特別提到,「我們是否應該讓機器(AI)被用於宣傳和謊言(虛假訊息)上,讓這些東西充斥在人類的生活當中?」

另外,OpenAI的CEO山姆·阿爾特曼(Sam Altman)也親口承認,「特別擔心這些模型(ChatGPT)可能會被用於大規模的虛假訊息,而它在編寫程式代碼方面也做得越來越好,這可能被用於網絡攻擊。」

科技巨擘和政府擔心的傳播虛假訊息問題,已經發生在現實中。澳大利亞墨爾本赫本郡(Hepburn Shire)市長布賴恩·胡德(Brian Hood)在4月警告OpenAI公司,若ChatGPT不能在28天內更正關於他「犯罪」的虛假訊息,屆時將提告。這可能成為首宗針對該AI的誹謗訴訟。

原因是ChatGPT將他列為2000年代初期澳洲儲備銀行(Reserve Bank of Australia)子公司一樁外國賄賂醜聞的犯案者。實際上,胡德曾任職於該家子公司澳大利亞印鈔公司(Note Printing Australia),當時他向政府檢舉印鈔公司為贏得印鈔合約向國外官員行賄,而非犯罪者。

另外,英國《衛報》在4月發現一則與該報風格相似,但未發表過的文章。這讓該報不停搜索和確認該文章的來源,最終發現,該文章由ChatGPT杜撰。他們表示,此次事件讓他們深感不安,認為AI可能破壞媒體辛苦建立起的信譽。

對於虛假訊息問題,日本電子工程師李濟心在4月初對大紀元表示,「AI帶給人類方便的同時,同樣也提供犯罪分子新的利器,就像網絡的出現一樣。目前最好的方法,先提高人類的道德水準,再來加強AI的監管措施。」

AI可能帶來的混亂遠超人們的想像

AI除了可能淪為虛假訊息和犯罪溫床之外,還有許多先進的技術,若被人們錯用或濫用,將會給社會帶來更多的混亂,影響程度甚至遠超網絡的出現。

人道技術中心的聯合創始人特里斯坦·哈里斯(Tristan Harris)在3月表示,雖然目前不知道AI最終會帶來什麼結果,但它的出現就像中世紀印刷機的出現,徹底改變當時人們的生活。

他還警告,「當今人類社會以語言為基礎,若一台機器(AI)不停運散播有毒的信息,那麼社會很快的就會陷入謊言和混亂當中。」

3月18日,美國前總統唐納德·川普在社交平台真相社會(Truth Social)上表示,自己在3月21日會被紐約親民主黨的法官和檢察官傳喚至紐約的曼哈頓下城刑事法院受審。

儘管當時的傳喚事件尚未發生(4月初他正式被傳喚),但21日當天,網上廣泛出現川普「試圖逃跑」和「被警察逮捕」的逼真照片(圖畫),而這些AI生成的「照片」讓不少反對和支持者信以為真,同時帶給社會輿論一定的混亂。

由AI圖片帶來的社會問題遠不止這一件。先前一名中國的網紅被發現她的日常生活照淪為中國AI「一鍵脫衣」的範例,並被傳至網上引發熱議。

另外,今年1月,微軟研究人員成功開發出一款文本到語音合成的AI模型「VALL-E」。只需給該AI長達3秒的音頻樣本,它就能準確模擬任何人的聲音,當VALL-E學會一種特定的聲音,就能保持一種情緒和基調合成某人的說話音頻,達到以假亂真的狀況。

研究人員表示,該AI不僅可以編輯一個人的錄音,還能以文本來更改說話內容,既使有些話是人們最初沒有說過的。該AI還能以ChatGPT的GPT-3模組和其它AI模型進行結合,創建從未有的音頻,令不少人擔心該AI會帶來混亂。

對此,日本工作的電腦工程師清原仁(Kiyohara Jin)在4月9日對大紀元表示,「現在發展中的AI肯定有許多優點和不足,而它可能被濫用給人類社會帶來混亂和災難。如果人們不講道德,再好的工具也會危害社會。」

「三藩有話説」立足華人社區,服務華人朋友,堅守傳統媒體的良知與價值觀,向民眾傳遞真實的資訊。請關注我們的社媒主頁,及時獲取最新咨詢!

看完這篇文章您覺得:

已經有 0 次投票 抢沙发
相關文章
文章評論區

发表评论