AI生成影音 以假亂真 或取代人類智慧

【2024年04月03日訊】(大紀元專題部記者吳瑞昌報導)影片製作和音樂歌曲創作是人類智慧與知識的體現,是作者心血的付出。然而,AI的出現可能會剝奪上天賦予人的這個權利。AI Sora、Suno和Voice Engine這類AI工具的推出,將會給影音藝術創作者帶來災難。專業作家表示,這是外星人的東西,不應該在人類社會存在。

AI Sora新影片令行業擔憂

2月15日,OpenAI發布了由AI Sora生成的多段相關影片後,給整個影音行業帶來巨大的震撼。在許多人感到興奮的同時,不少人開始擔心他們的工作會被AI取代。

3月25日,OpenAI又發布由AI Sora製作的第二批影片,這些新影片呈現出來的效果比最初公布的影片更加驚人。例如,贏得了《滾石》和《紐約客》等媒體讚譽的藝術家、作家和導演保羅·特里羅(Paul Trillo)利用AI Sora把夢境那種「不合常理」的場景,以「合理」的方式在影片中呈現,且影片中場景的切換幾乎沒有違和感。

來自洛杉磯的艾美獎提名創意機構、專門從事品牌故事講述、動作和標題設計的創意總監尼克·克萊維羅夫(Nik Kleverov),透過AI Sora做出好幾個廣告影片,影片呈現的效果與過去歐美地區拍攝產品廣告的技巧十分相似。

這些影片讓不少人驚嘆,認為好萊塢(Hollywood)可能會變成「索拉塢」(Sorawood)。有消息透露,OpenAI的CEO奧特曼(Sam Altman)和營運長萊特卡普(Brad Lightcap),向好萊塢等電影業的高層推廣AI Sora,並鼓勵電影製作人將其整合到他們的工作中。

其實,許多電影製作人和工作室早已在製作上依賴AI了。這讓一些導演、配音員、編劇等為他們的飯碗感到擔憂。去年好萊塢的編劇和演員罷工,就是製作公司大量使用AI且對他們進行裁員或降薪引發的,最終是美國編劇工會與電影電視製片人聯盟達成協議才終止罷工。

Suno挑戰音樂製作者

輸入文字即可生成歌曲的AI在先前早已有了,但Suno在整個音樂圈引起了大地震,可以說音樂界的ChatGPT已經出現。因為Suno生成的音樂和歌曲品質,正在挑戰音樂製作人嘔心瀝血創作出來的作品。

Suno能讓一個對於音樂不熟悉,甚至一竅不通的人,通過ChatGPT幫忙寫歌詞,再去Suno免費註冊帳號,將歌詞餵給Suno,就能生成一首完整、動聽且風格各異的歌曲,最關鍵的是從歌詞到歌曲的生成過程不到5分鐘。

Suno主要透過Bark模型負責生成人聲旋律,而Chirp模型負責音樂和音效。它能透過使用者描述歌曲類型、標題和歌詞的文字生成歌曲,且製作過程會自行分析所需的關鍵字、節奏、語氣和風格。

除此之外,這些歌曲遠不止能創作英文歌曲,還能創作西班牙文、法文、葡萄牙文和中文等歌曲,風格有搖滾、爵士、說唱等類型。

先前有人在美國著名Reddit論壇上討論有關於Suno的問題。一名用戶說他把用Suno生成出來的多首歌曲發給其他人,結果沒有人意識到這些歌曲是由AI生成的。

滾石雜誌(Rollingstone)的作家布萊恩·希亞特(Braian Hiatt)3月底在KCRW一次採訪中表示,自己曾經參觀過Suno在美國馬薩諸塞州劍橋辦公室,之後在Suno AI上試著輸入「悲傷AI用密西西比三角洲的藍調,進行個人演唱」這些關鍵詞語,從而生成了一首名為《機械之魂》(Soul Of The Machine)的短歌。

當他聽到這首作品時,感到很震驚。他表示,「剛開始我認為AI無法像人一樣做出擁有情感的歌曲,但我聽到這首歌被生成出來後,先是感到驚訝、不安和害怕,同時起雞皮疙瘩。因為它是外星人的東西,是不應該在人類社會存在。」

不過,也有人認為Suno生成的歌曲太過粗糙和奇怪,無法與真人創作出來的歌曲抗衡。因為AI做出來的一些藍調的音樂和旋律上無法真人相比擬,會失去了原有的藍調味道。另外,當人們演奏這些AI作品時,發現歌曲中有許多「糟糕的」節奏或「奇怪的」和弦變化。

日本的電子工程師李濟心對此表示,雖然AI生成的歌曲可以提高了製作效率和降低時間成本,但這種狀況會加重相關人員的失業率,長期下去人們將失去創作音樂的動力,最終人們將失去人類特有的音樂文化,這些文化將被AI取代。

Voice Engine可生成虛假信息

OpenAI在3月底發布的一則新的公告表示,公司允許少數企業測試一種名為Voice Engine(語音引擎)的新工具。該工具可以根據一個人的15秒語音片段,重新合成新的語音,使其變成「情感豐富且真實」的自然聲音。

這種合成語音還可以讓被錄音者說出各種不同國家的語言。OpenAI在公告中提供了幾位英語使用者的聲音,他們的聲音能快速被翻譯成多種語言,同時保留了說話者的母語口音和風格,還能擁有許多不同類型的語調。

OpenAI給出的實例,比如美國前總統川普的「川式」英語風格,可以被Voice Engine用來講出中文、德語、法語和日語等。

公告表示,Voice Engine與合作夥伴共同開發的AI工具,早已被用於為兒童、視障者和語言障礙者提供閱讀幫助、翻譯影片和播客等內容,而他們開發的ChatGPT的GPT-4語音和朗讀工具也在使用Voice Engine。

該公司要求測試Voice Engine的合作夥伴,嚴禁在未經同意(合法)的情況下冒充其它個人或組織,且還需要原始發言者的明確同意才能使用。使用者不可以為個人用戶創建自己的聲音,同時要聲明這些聲音是由AI生成的。OpenAI 還為音訊剪輯添加了浮水印,以追蹤其來源並主動監控音訊的使用方式。

OpenAI表示,生成類似人們聲音的言論存在「嚴重風險」,尤其在選舉年期間更值得關注,因此與來自政府、媒體、教育、民間社會等領域的夥伴共同合作以獲得他們的反饋。

雖然OpenAI「多次承諾」做了許多保護措施去消減AI造成的諸多問題。不過這些保證仍無法消除人們的擔心,反而更加擔心新開發的Voice Engine會被有意濫用。

現在,在網上和現實中已經有許多關於AI虛假的案例,包括利用拜登的聲音來敦促投票、把川普沒說過的影音視頻和AI生成圖片放在網路上。雖然這些造假仍有一些破綻(例如:發音、清晰度),但新的技術可能會消除這些破綻,使虛假訊息變得更加精細,甚至難以辨別。

美國前國務卿希拉里·柯林頓(Hillary Clinton)和一些美國選舉官員3月28日在紐約哥倫比亞大學的一場座談會上警告說,2024年選舉最大的威脅是AI。

選舉管理人員表示,雖然選舉假訊息是長期問題,但AI可以幫助假訊息更快傳播或增強其效果。更令人擔心的是深度偽造影片,可能會導致人們相信虛假資訊。希拉里表示,「雖然可能只有極少數人利用AI縱火(破壞選舉),但AI演算法會導致每個人都被燒傷(受騙)。」

輿論認為,如果這些虛假的聲音被用在軍事、政界或發送虛假情報上,那對全球來說將是一場無法避免的災難。

針對AI的快速發展和趨勢,獨立撰稿人諸葛明陽對大紀元表示,這不是一個簡簡單單的「失業」問題,而是外星人要取代人類的可怕問題。

他說:「人是創世主的傑作,是萬物之靈。用AI取代人的智慧和能力,好像是給人提供了方便,其實這是對神的褻瀆。今天的人都在找外星人,其實它早就在我們身邊了。AI技術就來自它們。外星人曾想用科隆人的方式取代人類,但沒有成功。現在它們又用這種尖端技術取代人的智慧,這才是人們真正應該擔憂的。」

(記者王佳宜、張鐘元對本文有貢獻)

「三藩有話説」立足華人社區,服務華人朋友,堅守傳統媒體的良知與價值觀,向民眾傳遞真實的資訊。請關注我們的社媒主頁,及時獲取最新咨詢!

看完這篇文章您覺得:

已經有 0 次投票 抢沙发
相關文章
文章評論區

发表评论