TikTok充斥以哈戰爭罹難者的深偽視頻

【2023年12月05日訊】(記者陳霆綜合報導)在以哈衝突爆發以後,TikTok上充斥著許多罹難者的深偽(Deepfake)視頻,一些視頻更獲得了高達數百萬的瀏覽,以及數千條評論。

想使用現成的人工智能(AI)編輯工具創造深偽視頻,只要利用一張死者的照片,加上幾分鐘的操作,就能製作出一個會說話、會移動的虛擬圖像。

AI研究人員稱這些視頻為「數字復活」(digital resurrections)。

最近,TikTok上出現了數十個以罹難者為主角,用各種語言描繪悲劇受害過程的深偽視頻。這些視頻的目的,似乎是博取同情和病毒式傳播。然而,其創作者往往是匿名的,不確定其真實的目的。

彭博社指出,發布這些視頻的用戶,遵循著類似的模式。每當新聞報導了一個悲慘的死亡事件,在幾天甚至幾小時內,就有用戶發布這個受害者的深偽圖像,並常以當事人的視角,講述他們是如何去世的。

許多「數字復活」的視頻成功通過了TikTok內容審核機器,並在該平台上瘋傳。彭博社稱,直到記者去信詢問後,TikTok才刪除了這些視頻。

這些視頻的主角包括死去的兒童、普通公民和名人等。然而,在彭博社瀏覽過的帖子裡,沒有一則有證據表明,發布者事先取得了肖像授權。

10月7日,23歲德裔以色列女子莎妮‧盧克(Shani Louk)在諾瓦音樂節上被哈馬斯綁架,隨後遭到斬首。然而,她的深偽視頻在刪除前,被瀏覽了超過700萬次。

彭博社稱,這些視頻中仍有幾十個在網絡上,沒有被TikTok的內容審核系統刪除。這些視頻,能擴大發布者的關注人數,而TikTok則受益於人們在網路上對這些影片的參與度。

生成式AI研究員亨利‧阿吉德(Henry Ajder)說,這些視頻在快速滾動中,與其它主題較輕鬆的TikTok內容一起出現,讓用戶在沒有任何上下文或解釋的情況下,接觸到這些不真實的視頻。

「可怕」或「令人不安」的內容,是不被平台允許的。但這些視頻運用了已故兒童圖像,討論著虐待和謀殺的細節,卻通過了平台的審核,這引發了道德與倫理的爭議。

目前,有超過10億人在使用TikTok。許多用戶會在該平台上,尋找或觀看有關新聞時事的視頻。以哈戰爭相關的標籤已積累了數十億的瀏覽量。然而,許多人批評TikTok已成為用戶發布未經核實的敘述和錯誤信息的場所。

新聞事件爆發的當下,相關信息的瀏覽量迅速攀升,任何人都可參與病毒式傳播。這一因素加上廉價AI技術的普及,使得TikTok充斥著深偽圖像。

社交平台的核心設置是,提高有大量參與度帖子的曝光率。因此,當人們對TikTok上的視頻和照片點讚、評論、轉發或回覆時,這些內容往往會被推送給更多人。

目前,國會開始討論保護名人和藝術家的立法措施,但目前的討論中,大多還未涉及對公民個人的保護。

「三藩有話説」立足華人社區,服務華人朋友,堅守傳統媒體的良知與價值觀,向民眾傳遞真實的資訊。請關注我們的社媒主頁,及時獲取最新咨詢!

看完這篇文章您覺得:

已經有 0 次投票 抢沙发
相關文章
文章評論區

发表评论