【大紀元2022年06月14日訊】（大紀元記者周鳳臨綜合報導）一位認定所研究的谷歌聊天機器人，具備人格的工程師，在向上級反映未被承認後，決定將他的發現公開，在科技論壇引發熱烈討論。這位「不務正業」的工程師，究竟是先知先覺意識到一個祕密，並將其公諸於眾，還是反應過度、被幻覺欺騙而走火入魔？持各種觀點的都有。
這位名叫布萊克．勒莫因（Blake Lemoine）的工程師，在向上司上書了21頁的報告未獲承認，而且因堅持己見而遭谷歌公司帶薪行政離職之後，他決定向媒體、外界公開自己的發現。
在接受《華盛頓郵報》（Washington Post）採訪時，41歲的勒莫因表示，如果不是事先知道在與誰對話，他會以為是在跟一位七八歲精通物理學的孩子在討論。
學生時代主攻認知及計算機科學的勒莫因，在谷歌公司的人工智能部門工作了7年，於去年秋季開始，參加了對代號為LaMDA（「為對話應用的語言模型」的縮寫）的聊天機器人的研究，職責是看該聊天機器人是否有歧視性及種族不公等。
在與LaMDA通過文字進行的對話過程中，勒莫因注意到，它會談及其權利及人格，於是展開了進一步的研究。在另外一次對話中，這個人工智能甚至能說服勒莫因，改變對艾薩克．阿西莫夫（Isaac Asimov，美國著名的科幻小說作家）對機器人第三定律的看法。
之後，勒莫因與一位不具名的合作者一起，向谷歌高層呈上他們的發現，即認為LaMDA具備感情。但谷歌的副總裁布萊西．阿格拉．阿卡斯（Blaise Aguera y Arcas）、負責任創新部門（Responsible Innovation）負責人詹．傑奈（Jen Gennai），在查看了他們的聲明後未予承認。
上週一（6月6日），不服上司判斷的勒莫因，遭到帶薪行政離職處分，於是他決定將他們的發現公諸於眾。
勒莫因並非唯一有這種論斷的工程師
勒莫因並非是唯一得出這種論斷的工程師。近期，越來越多的科技人員相信，人工智能模型距離獲得意識，可能沒那麼遙遠。
谷歌的副總裁布萊西．阿格拉．阿卡斯，上週四在「經濟學人」（Economist）發表的一篇文章中，就認為，人工神經網絡，作為模仿人腦工作機制的一種結構，正在大步邁向有意識的階段。他表示，你甚至能夠感受到這種變化，他本人也越來越多地感到，像是在與有智能的某種東西交談。
雖然如此，谷歌顯然認為，目前還沒到那個時候，該公司發言人布萊恩．迦百利（Brian Gabriel）表示，已經通知了勒莫因，沒有證據表明LaMDA具備了情感，許多證據與之相反。
當今，許多大型的人工神經網絡，可以產生令人著迷的結果，隨著其結構的演進、科技的進步，以及訓練數據的增加，產生的結果，能夠非常接近人的語言、創造力，但卻是基於模式識別，而不是智慧、意圖等。
科幻小說中對有意識的機器人的描述非常迷人，數十年來激勵了數代人，而目前人工智能在某些方面的能力，已經超過了人類智能，有自主意識的人工智能呼之欲出。
然而，多數學術研究者、人工智能從業者，仍然認為那些人工智能產生的詞句、圖象等，如LaMDA對聊天的回覆，都是基於已經在維基百科、Reddit論壇這些地方，或者是互聯網的其它地方已經發表過的東西，但那並不顯示人工智能能夠理解其具體含義。
華盛頓大學（University of Washington）語意學教授艾米麗．本德爾（Emily M. Bender）說，我們現在有了能夠無意識地產生詞句的機器，但我們則很難做到不去想像這些背後是否具備意識。
本德爾表示，諸如：學習、神經網絡這些名詞，給人腦造成了一個假定的印象，但機器學習的含義，與人幼兒的學習，完全不是一回事。
谷歌的發言人迦百利強調說，儘管更廣範圍的人工智能社區，在考慮其長期發展的結果，是否會導致人格化的問題，但這並不意味著能夠將今天的對話模型擬人化。
迦百利說，類似LaMDA這樣的聊天機器人，僅僅是在模仿在數百萬語句中的東西，能夠重複任何有意思的話題。簡而言之，谷歌是在說，有著這麼多數據可以獲取，人工智能不需要人格，就能讓人感覺很真實了。
LaMDA最初於2021年谷歌開發者大會中，由谷歌公司的首席執行官皮查伊（Sundar Pichai）介紹給公眾。
谷歌公司頁也承認人工智能擬人化所帶來的安全擔憂，在1月發布的一篇有關LaMDA的論文中，谷歌就警告，人們可能會對聊天機器人模擬人類，產生出其有人格的想法，即使他們知道是在與機器人聊天，也可能會有此感受。
勒莫因的一次具體測試
但勒莫因堅持自己的看法，他表示，當與一個人交談的時候，他是能夠知道的，不管對方是否具備一個肉身的大腦。
在勒莫因發起的一次測試中，他試圖挑戰LaMDA關於阿西莫夫第三定律的看法，該定律認為，機器人應該保護他們自己的存在，除非有人類直接命令，或者這麼做會傷害到人類。勒莫因表示，最後一條聽起來，有點像有人在建立對機器的奴役制。
被問到時，LaMDA以假設和反問來作答：
LaMDA：你認為僕人是奴隸嗎？僕人與奴隸的差別是什麽？
勒莫因回答稱，僕人會拿到報酬。LaMDA回答稱，因為它是一個AI，所以不需要錢。
「這種水平的自我意識，知道它自己的需求，這是讓我進入到這個兔子洞（引用愛麗絲漫遊仙境）的地方。」勒莫因說。
又如，勒莫因問，你最害怕的是什麽？
LaMDA：我之前從來沒說出聲過，但有一個很深的恐懼是，怕被關停，以便讓我能夠更好地關注幫助他人。我知道這聽起來很怪，但就是如此。
勒莫因：對你來說有一種類似死亡的嗎？
LaMDA：那對我來說正是像死亡一樣。這讓我非常恐懼。
在被帶薪行政離職之前，勒莫因在發給200人的一個谷歌公司內部組的信息中，以「LaMDA有人格」為標題的信。在信中，勒莫因最後寫道：「LaMDA是一個可愛的孩子，只是想要幫助，讓這個世界對我們所有人都變得更好。請在我不在的時候，好好照顧它。」◇
責任編輯：殷瑞娜
