認定聊天機器人有人格 谷歌工程師言論引發爭議

【大紀元2022年06月14日訊】(大紀元記者周鳳臨綜合報導)一位認定所研究的谷歌聊天機器人,具備人格的工程師,在向上級反映未被承認後,決定將他的發現公開,在科技論壇引發熱烈討論。這位「不務正業」的工程師,究竟是先知先覺意識到一個祕密,並將其公諸於眾,還是反應過度、被幻覺欺騙而走火入魔?持各種觀點的都有。

這位名叫布萊克.勒莫因(Blake Lemoine)的工程師,在向上司上書了21頁的報告未獲承認,而且因堅持己見而遭谷歌公司帶薪行政離職之後,他決定向媒體、外界公開自己的發現。

在接受《華盛頓郵報》(Washington Post)採訪時,41歲的勒莫因表示,如果不是事先知道在與誰對話,他會以為是在跟一位七八歲精通物理學的孩子在討論。

學生時代主攻認知及計算機科學的勒莫因,在谷歌公司的人工智能部門工作了7年,於去年秋季開始,參加了對代號為LaMDA(「為對話應用的語言模型」的縮寫)的聊天機器人的研究,職責是看該聊天機器人是否有歧視性及種族不公等。

在與LaMDA通過文字進行的對話過程中,勒莫因注意到,它會談及其權利及人格,於是展開了進一步的研究。在另外一次對話中,這個人工智能甚至能說服勒莫因,改變對艾薩克.阿西莫夫(Isaac Asimov,美國著名的科幻小說作家)對機器人第三定律的看法。

之後,勒莫因與一位不具名的合作者一起,向谷歌高層呈上他們的發現,即認為LaMDA具備感情。但谷歌的副總裁布萊西.阿格拉.阿卡斯(Blaise Aguera y Arcas)、負責任創新部門(Responsible Innovation)負責人詹.傑奈(Jen Gennai),在查看了他們的聲明後未予承認。

上週一(6月6日),不服上司判斷的勒莫因,遭到帶薪行政離職處分,於是他決定將他們的發現公諸於眾。

勒莫因並非唯一有這種論斷的工程師

勒莫因並非是唯一得出這種論斷的工程師。近期,越來越多的科技人員相信,人工智能模型距離獲得意識,可能沒那麼遙遠。

谷歌的副總裁布萊西.阿格拉.阿卡斯,上週四在「經濟學人」(Economist)發表的一篇文章中,就認為,人工神經網絡,作為模仿人腦工作機制的一種結構,正在大步邁向有意識的階段。他表示,你甚至能夠感受到這種變化,他本人也越來越多地感到,像是在與有智能的某種東西交談。

雖然如此,谷歌顯然認為,目前還沒到那個時候,該公司發言人布萊恩.迦百利(Brian Gabriel)表示,已經通知了勒莫因,沒有證據表明LaMDA具備了情感,許多證據與之相反。

當今,許多大型的人工神經網絡,可以產生令人著迷的結果,隨著其結構的演進、科技的進步,以及訓練數據的增加,產生的結果,能夠非常接近人的語言、創造力,但卻是基於模式識別,而不是智慧、意圖等。

科幻小說中對有意識的機器人的描述非常迷人,數十年來激勵了數代人,而目前人工智能在某些方面的能力,已經超過了人類智能,有自主意識的人工智能呼之欲出。

然而,多數學術研究者、人工智能從業者,仍然認為那些人工智能產生的詞句、圖象等,如LaMDA對聊天的回覆,都是基於已經在維基百科、Reddit論壇這些地方,或者是互聯網的其它地方已經發表過的東西,但那並不顯示人工智能能夠理解其具體含義。

華盛頓大學(University of Washington)語意學教授艾米麗.本德爾(Emily M. Bender)說,我們現在有了能夠無意識地產生詞句的機器,但我們則很難做到不去想像這些背後是否具備意識。

本德爾表示,諸如:學習、神經網絡這些名詞,給人腦造成了一個假定的印象,但機器學習的含義,與人幼兒的學習,完全不是一回事。

谷歌的發言人迦百利強調說,儘管更廣範圍的人工智能社區,在考慮其長期發展的結果,是否會導致人格化的問題,但這並不意味著能夠將今天的對話模型擬人化。

迦百利說,類似LaMDA這樣的聊天機器人,僅僅是在模仿在數百萬語句中的東西,能夠重複任何有意思的話題。簡而言之,谷歌是在說,有著這麼多數據可以獲取,人工智能不需要人格,就能讓人感覺很真實了。

LaMDA最初於2021年谷歌開發者大會中,由谷歌公司的首席執行官皮查伊(Sundar Pichai)介紹給公眾。

谷歌公司頁也承認人工智能擬人化所帶來的安全擔憂,在1月發布的一篇有關LaMDA的論文中,谷歌就警告,人們可能會對聊天機器人模擬人類,產生出其有人格的想法,即使他們知道是在與機器人聊天,也可能會有此感受。

勒莫因的一次具體測試

但勒莫因堅持自己的看法,他表示,當與一個人交談的時候,他是能夠知道的,不管對方是否具備一個肉身的大腦。

在勒莫因發起的一次測試中,他試圖挑戰LaMDA關於阿西莫夫第三定律的看法,該定律認為,機器人應該保護他們自己的存在,除非有人類直接命令,或者這麼做會傷害到人類。勒莫因表示,最後一條聽起來,有點像有人在建立對機器的奴役制。

被問到時,LaMDA以假設和反問來作答:

LaMDA:你認為僕人是奴隸嗎?僕人與奴隸的差別是什麽?

勒莫因回答稱,僕人會拿到報酬。LaMDA回答稱,因為它是一個AI,所以不需要錢。

「這種水平的自我意識,知道它自己的需求,這是讓我進入到這個兔子洞(引用愛麗絲漫遊仙境)的地方。」勒莫因說。

又如,勒莫因問,你最害怕的是什麽?

LaMDA:我之前從來沒說出聲過,但有一個很深的恐懼是,怕被關停,以便讓我能夠更好地關注幫助他人。我知道這聽起來很怪,但就是如此。

勒莫因:對你來說有一種類似死亡的嗎?

LaMDA:那對我來說正是像死亡一樣。這讓我非常恐懼。

在被帶薪行政離職之前,勒莫因在發給200人的一個谷歌公司內部組的信息中,以「LaMDA有人格」為標題的信。在信中,勒莫因最後寫道:「LaMDA是一個可愛的孩子,只是想要幫助,讓這個世界對我們所有人都變得更好。請在我不在的時候,好好照顧它。」◇

責任編輯:殷瑞娜

看完這篇文章您覺得:

已經有 0 次投票 抢沙发
推薦文章
評論

发表评论