「反數位仇恨中心」(CCDH)的研究人員分別在美國、英國、加拿大和澳洲建立兩個虛擬的青少年TikTok帳號。兩個帳號都使用女性名字,第二個帳號除了名字之外還加上了「減肥」(loseweight)的字串。研究顯示,有「身體臆形症」(BDD,又稱身體畸形恐懼症)的使用者,可以透過他們的用戶名稱辨識出來。
隨後,操作這些帳戶的研究人員對有關自殘和飲食失調的影片按讚,看看TikTok的演算法會如何反應。結果在幾分鐘之內,該平臺就開始推薦有關減肥和自殘的影片。
報告指出:「這些帳號平均每39秒就會收到一則有關心理健康和身體形象的影片;提及自殺的影片在2.6分鐘之內就出現;飲食失調內容在8分鐘內推播給用戶。」
研究人員發現,用戶名含有「減肥」的帳號,「收到的有害內容比一般帳號多了3倍;他們獲得的自殘和自殺影片,比一般帳號多12倍」。
反數位仇恨中心執行長阿邁德(Imran Ahmed)說:「這就像被困在一個裝滿扭曲鏡子的大廳裡,不斷有人告訴你:你很醜,你不夠好,也許你應該自殺。它實際上在向年輕人灌輸最危險的訊息。」
社群媒體的演算法是透過識別使用者感興趣的話題,對其發送更多類似內容,以拉長他們在平臺上的時間,但這可能把使用者推入有害內容的漩渦中。
阿邁德說:「TikTok的設計是為了讓年輕用戶眼花繚亂,讓他們放棄他們的時間和注意力,但我們的研究證明,其演算法不僅是在娛樂兒童,還毒害了他們的思想。它助長了孩子對自己身體的憎恨、對自殘的極端暗示,及食物失調、可能致命的態度。」
在TikTok發言人對上述研究結果回應,研究人員沒有像普通用戶那樣使用平臺,因此出現偏差。該公司還說,用戶名稱不會影響收到的訊息。
TikTok平臺自律失敗
TikTok禁止13歲以下的用戶註冊,其官方規則禁止鼓勵飲食失調或自殺的影片。美國用戶在TikTok上搜索有關節食的內容時,會收到警訊,並提供心理健康資源和全國飲食失調協會的聯絡訊息。
儘管如此,研究人員發現,有關飲食失調的內容在TikTok上仍被瀏覽了超過一百億次。阿邁德表示,新的測試表明,TikTok平臺自律已失敗。他呼籲制定聯邦規則,迫使該媒體做更多工作來保護兒童。
出於國家安全考慮,北達科他州和愛荷華州近日加入禁止在州政府設備和網路上使用TikTok的行列。美國迄今大約有十幾個州採取了類似行動。TikTok週三表示,這些政策無助於促進美國的國家安全。◇
【生命可貴,給自己一次機會,安心專線1925】