聞所未聞 白宮派遣黑客大戰最強AI

【2023年08月11日訊】(記者程雯綜合報導)8月11日(週五),一小隊黑客將對OpenAI、谷歌和Meta等科技巨頭公司旗下的世界上最強大的人工智能(AI)系統發起攻擊。白宮官員公開表示,這起前所未有的由白宮派遣黑客大戰超強AI行動的指令是「來自總統(拜登)」。

這次黑客攻擊凸顯出白宮對強大的、快速發展的新AI模型的安全威脅到底有多大的擔憂。

同時,美國的政策制定者和技術專家們也在大聲呼籲美國儘快推出立法,對AI及其發展進行監管,他們尤其擔心AI可能會威脅到人類的生存,以及一旦由中共制定的AI規範在全球範圍延申開來,會給人權和隱私帶來何種威脅。

黑客大戰世界最強AI

據「政客」(Politico)新聞網8月10日報導,拜登政府在今年5月已經計劃了,於本週末(8月11日)在拉斯維加斯召開的年度黑客大會上,對AI系統進行為期三天的蓄意的協同測試攻擊,黑客軍團在這次演習中被稱為「紅隊」。包括OpenAI、谷歌和Meta等在内的幾家世界領先的人工智能公司同意讓其最新、最強大的AI系統在這次演習中受到攻擊。

這次活動凸顯了白宮對AI的主要擔憂之一:AI的安全性到底如何?AI是否會對美國公民或在全球對美國國家安全構成威脅?

白宮科技政策辦公室高級官員艾倫‧米斯洛夫(Alan Mislove)說:「我們的構想是——這是來自總統的(指令)——為了對AI有駕馭的機會,我們首先也需要管理風險。」

米斯洛夫幫助組建了進行這次黑客挑戰演習賽的「紅隊」——從黑客大會上經驗豐富的與會者到專程為此次挑戰飛來的社區學院學生。他說:「對於像大型語言模型這樣的東西,這些風險相當廣泛,在許多情況下可能不如其它系統那麼明確,且涵蓋了我們的社會、我們的經濟和國家安全。」

隨著國會在努力確定要通過哪些新法律以監管AI,以及聯邦機構對AI行使現有法規的權力,拜登政府已成為AI政策方面最積極的參與者。就AI技術帶來的廣泛威脅和機遇,拜登政府已經起草了一份《人工智能權利法案》(AI Bill of Rights)的框架,他們還召集了與大科技公司首席執行官們的會議,並就該技術帶來的各種威脅和機遇問題舉行了一系列新聞發布會。

儘管AI帶來的威脅涉及整個社會,從替代勞動力導致失業,到帶來歧視,再到虛假和錯誤信息傳播等,不過白宮的許多最切實的措施都集中在安全問題上。

白宮的新任AI特別顧問本‧布坎南(Ben Buchanan)擁有國家安全背景,而非技術背景。上個月,當白宮召集人工智能領袖開會宣布一系列自願承諾時,「安全」一詞也高居關鍵詞榜首。

對AI安全性的高度重視反映了專家、監管機構和行業本身的焦慮,即複雜的新AI系統帶來了一系列尚未完全理解的新的安全問題,例如它們可能被黑客攻擊和被對手用於誤導我們,它們也可能會暴露用戶數據,甚至被用於製造生物武器等更黑暗的用途。

白宮科技政策辦公室主任阿拉蒂‧普拉巴卡爾(Arati Prabhakar)說:「讓這些(AI)模型做一些它們的設計者和供應商沒有預料到或不想讓它們做的事情,這是可能的。所以,是的,我認為確實要(對於AI)有安全方面的考慮。」

不過另一方面,AI也可以成為提高安全性的工具。本週,五角大樓宣布了一項為期兩年的艱巨任務,要求開發人員使用AI來強化美國關鍵的網絡安全。

五角大樓等政府機構此前還曾向黑客社區尋求網絡安全問題,以彌補該無處不在的新技術中的漏洞。

該黑客大會歷年來都會舉辦黑客攻擊遊戲,網絡安全專業人士會在大會上揭示最新技術漏洞,而今年的政府支持和行業參與程度都不同尋常。科技公司傳統上不願意將其專有軟件公開給公眾進行測試。但今年,在白宮的敦促下,OpenAI、Anthropic、谷歌、Hugging Face、英偉達(NVIDIA)、Meta、Cohere和Stability等科技公司都提供了他們的大型AI語言模型以供審查。他們還將提供他們的語言模型的封閉版本,以供一系列黑客攻擊演習。

不過,這次大戰演習的結果要到明年2月才會公開,這讓科技公司有時間修復它們的安全漏洞,因為對AI來說,這個過程比較複雜。Meta的安全研究員克里斯‧羅爾夫(Chris Rohlf)說:「這並不像修補軟件缺陷那麼簡單。」

儘管這次黑客攻擊演習很是高調和大張旗鼓,不過演習本身不可能揭示AI系統可能會出現的所有錯誤行為和漏洞,尤其是因為每名黑客侵入一個大型語言模型的時間非常有限,每次嘗試只給大約50分鐘,而且僅限於大會活動中可用的技術設備。

白宮希望,未來能有更大規模的多方參與的廣泛紅隊演習。

網絡法專家:美國需加快對AI的監管立法

美國匹茲堡大學的「網絡法、政策和安全研究所」的創始所長大衛‧希克托(David Hickton)敦促美國國會加快對AI監管的立法行動,不要落在其它國家後面。

也曾擔任過賓夕法尼亞州西區聯邦檢察官的希克托8月6日在《國會山報》上撰文提到,歐盟計劃在2023年底前通過《歐盟人工智能法案》(EU AI Act),而英國的行動比歐盟還迅速,他們計劃在2023年秋季舉行的國際AI峰會上宣布他們的AI法規。

希克托還提到,中國也已經制定了多項AI監管政策,但是被要求「體現社會主義核心價值觀」。這種AI政策在中國國內的實踐預示了,由中共制定的AI規範在全球會是什麼樣子他們利用AI面部識別技術來侵犯人權和損害隱私。

在該文中,希克托強調,如許多人所觀察到的那樣,AI「既能改善我們的生活,也能破壞我們的生活」,甚至還會威脅到人類的生存。政策制定者和技術專家因此都在大聲呼籲加快對AI的監管立法。

他敦促美國國會必須緊急採取行動,通過一項加強型的法規對AI實施監管,以防止AI可能會擾亂勞動力市場、威脅數據隱私、重塑選舉和媒體生態等等的情況。

對於快速發展的AI技術來說,儘快出台監管立法並不是一件容易的事。希克托建議華盛頓可以在此前三屆聯邦政府針對AI的使用及其風險的努力的基礎上,加快目前的監管立法步伐,這也可為AI大科技公司們最近達成的自願協議增加力度和增添具體內容。此外,現有的關於非歧視、知識產權和消費者保護的聯邦法律也應該可以被用來圍繞AI監管建立初步的法律護欄。

希克托希望美國能夠越快立法越好,因為這將加強美國在網絡外交方面的談判地位,讓美國在塑造全球AI生態系統方面發揮帶頭作用。

「金山紀元網」立足華人社區,服務華人朋友,堅守傳統媒體的良知與價值觀,向民眾傳遞真實的資訊。請關注我們的社媒主頁,及時獲取最新咨詢!

看完這篇文章您覺得:

已經有 1 次投票 抢沙发
相關文章
文章評論區

发表评论