微軟總裁:深度造假是AI最令人擔憂問題

【2023年05月26日訊】(記者高杉編譯報導)微軟公司總裁史密斯週四(5月25日)表示,他對人工智能的最大擔憂就是「深度造假」問題,即看起來很真實,但內容卻是人工智能製作的假圖片和視頻。

在一次於華盛頓進行的演講中,布拉德‧史密斯(Brad Smith)呼籲採取措施,確保人們知道哪些照片或視頻是真實的,哪些是由人工智能生成的,以便解決如何最好地監管人工智能的問題。利用人工智能進行「深度造假」甚至可能是出於邪惡的目的。隨著OpenAI公司推出的ChatGPT聊天機器人的普及,人工智能已經從科幻內容變為觸手可得。

他說:「我們將不得不解決『深度造假』的問題。我們將不得不特別解決我們所擔心的、大多數外國試圖擴大影響力的網絡行動,即俄羅斯政府、中國(中共)、伊朗人已經在進行的各種活動。

「我們需要採取措施,防止有人通過人工智能來篡改合法內容,以達到欺騙或詐騙的目的。」

史密斯還呼籲為最關鍵領域的人工智能產品施行許可證制度,使其「有義務進行安全保護,保護網絡安全、實體安全、國家安全」。

他說:「我們將需要新一代的出口管制,至少是我們現有的出口管制的更新版,以確保這些(人工智能)模型不會被竊取,或不會被用於違反國家的出口管制要求。」

數週以來,華盛頓的立法者們一直在為通過什麼樣的法律,來控制人工智能而苦苦思索,因為大大小小的各種公司都在競相將功能越來越多的人工智能推向市場。

上週,ChatGPT背後的初創公司OpenAI的首席執行官山姆‧阿爾特曼(Sam Altman)在首次出席國會聽證會時告訴參議院小組委員會,使用人工智能干擾選舉的完整性,是人工智能問題的一個「令人擔憂的重要方面」。他還補充說,人工智能需要被監管。

阿爾特曼的OpenAI公司得到了微軟的資金和數據支持。他還呼籲在人工智能方面展開全球合作,並鼓勵各國遵守安全規定。

史密斯在該演講中,以及在於週四發表的一篇博文中還認為,人們需要對人工智能所造成的任何問題負責。他敦促立法者,確保對用於控制電網、供水和其它關鍵基礎設施的人工智能,設置安全制動器,以便人類能夠繼續對其控制。

他還敦促人工智能開發商使用「了解你的客戶」(Know Your Customer)式的系統,讓強大的人工智能模型的開發者,能夠掌握他們的技術是如何被客戶使用的,並告知公眾,人工智能正在製作什麼內容,以便人們能夠識別人工智能製作的偽造視頻。

國會山正在考慮推出的一些提案,將側重於關注那些可能使人們的生命或生計處於危險之中的人工智能技術,如在醫學和金融等領域。其他人則正在推動制定規則,以確保人工智能不會被用於歧視或侵犯公民權利。

看完這篇文章您覺得:

已經有 1 次投票 抢沙发
相關文章
文章評論區

发表评论