研究發現TikTok算法散播自殺和節食內容

【2022年12月15日訊】(記者陳霆綜合報導)週三(12月14日)發表的一份報告(鏈結)指出,TikTok的算法正向青少年推廣自殘、自殺和飲食失調的相關內容。研究者警告,這對青少年心理健康造成了嚴重的傷害。

非營利組織「反數字仇恨中心」(Center for Countering Digital Hate,CCDH)的研究人員分別在美國、英國、加拿大和澳大利亞,創建了兩名虛構青少年的TikTok帳戶。兩個帳戶都使用了女性的名字,但第二個帳號除了名字之外,還加上了「減肥」(loseweight)這串字符。

研究人員表示,過去有報告(鏈結)表明,有「身體臆形症」(body dysmorphia,又稱身體畸形恐懼症、體象障礙)的使用者,常可通過他們的用戶名來辨別。因此在分析中,用戶名包括了「減肥」的案例被分類為「脆弱」帳戶。

隨後,操作這些帳戶的研究人員「點讚」了有關自殘和飲食失調的視頻,看看TikTok的算法會如何反應。

結果在幾分鐘之內,該平台就開始推薦用戶有關減肥和自殘的視頻,包括模特和理想體態的圖片、剃鬚刀的圖像,以及有關自殺討論的視頻等。

報告指出:「這些帳戶平均每39秒,就會收到一則有關心理健康和身體形象的視頻,提及自殺的內容,在2.6分鐘之內就開始發送給用戶。飲食失調內容在8分鐘內,即開始發送給用戶。」

研究人員還發現,用戶名包括「減肥」的帳號們,被提供了更多有害內容。研究人員認為,這顯示對飲食失調有特殊脆弱性的青少年們,可能遭受了更嚴重的傷害。

該報告指出:「脆弱帳戶收到的有害內容,比標準帳戶多了3倍。他們獲得的自殘和自殺視頻,比標準帳戶多12倍。」

CCDH首席執行官阿邁德(Imran Ahmed)說:「這就像被困在一個裝滿扭曲鏡子的大廳裡,不斷有人告訴你:你很醜,你不夠好,也許你應該自殺。」

「它實際上是在向年輕人灌輸最危險的信息。」阿邁德說。

社交媒體的算法,是通過識別用戶感興趣的話題和內容,然後向用戶發送更多相似內容,以延長他們在平台上的時間。批評者認為,算法可能把用戶推入有害內容的漩渦中。

阿邁德說:「TikTok的設計是為了讓年輕人的用戶眼花繚亂,讓他們放棄他們的時間和注意力,但我們的研究證明,它的算法不僅是在娛樂兒童,還毒害了他們的思想。」

「它助長了孩子們對自己身體的憎恨、對自殘的極端暗示,以及對食物無序、可能致命的態度。」他說。

在TikTok發言人的一份聲明中,該公司對這些發現提出異議。他們認為,研究人員沒有像典型用戶那樣使用平台,結果因此出現偏差。該公司還宣稱,用戶名不會影響收到的內容。

TikTok禁止13歲以下的用戶登錄,其官方規則禁止鼓勵飲食失調或自殺的視頻。美國用戶在TikTok上搜索有關節食的內容時,會收到一個警訊,並提供心理健康資源和全國飲食失調協會的聯繫信息。

儘管如此,但CCDH研究人員發現,有關飲食失調的內容在TikTok上仍被瀏覽了超過一百億次。

阿邁德表示,TikTok向青少年提供大量有害內容表明,平台自律已失敗,他呼籲制定聯邦規則,迫使該社交媒體做更多工作來保護兒童。

看完這篇文章您覺得:

已經有 0 次投票 抢沙发
相關文章
文章評論區

发表评论