國際前線

兒童參與昏迷挑戰致死,TikTok被指演算法向孩子提供致命內容,你如何看?

你有玩TikTok嗎?有沒有試過做一些危險的挑戰?


智能電話上的TikTok軟件。 攝:Nikolas Kokovlis/NurPhoto via Getty Images
智能電話上的TikTok軟件。 攝:Nikolas Kokovlis/NurPhoto via Getty Images

你有玩TikTok嗎?有沒有試過做一些危險的挑戰?

你認為演算法是利多於弊還是弊多於利?

你認為TikTok應否管制短片內容以保障用家安全?

你有參加過社交媒體裏各項挑戰嗎?在短片社交媒體TikTok裏,經常會出現特定主題的挑戰,深受用戶歡迎,其中不乏各種危險的挑戰內容。

2021年有用家發起「昏迷挑戰」(Blackout Challenge),鼓勵使用者使用繩狀物品勒住自己直到昏迷為止,先後令7名兒童死亡,年齡介乎10至14歲,美國、意大利以及澳洲皆出現相關個案。多名受害人家長向TikTok提告,指控TikTok的演算法向其孩子提供致命內容。

據《洛杉磯時報》報導,8歲的Lalani Erika Walton 和 9歲的Arriani Jaileen都十分沉迷玩TikTok,她們於意外前看到紅爆的「昏迷挑戰」後決定大膽挑戰,希望能體驗關注滋味,但最後她們都意外窒息身亡。

兩名女童的家長於7月2日到洛杉磯法院向TikTok提控,指控TikTok投入大量資金研發對青少年身心靈發展有害的產品與活動,並疏忽於監管責任,指8歲的小孩根本無法了解TikTok正在鼓勵她做危險的事情,「TikTok有責任監控和評估其演算法的功能,並確保不會將易受傷害的兒童引導至致命的內容。」控方主張TikTok將明知危險的內容推播給不知情用戶,因此應該為系統推播致死內容給兩名女童負起責任。

TikTok公司則表示由於過去昏迷挑戰已釀成悲劇,早已封鎖平台中的關鍵字,並且於頁面顯示警告標語,告訴使用者「挑戰內容恐有危險、令人不安,甚至有捏造之虞」,沒有證據顯示「昏迷挑戰」影片在平台廣泛傳播。而意大利政府亦因應「昏迷挑戰」造成兒童死亡,於去年2月起禁止13歲以下用戶使用TikTok。

事件引起網民熱烈討論社交媒體的不良訊息,網民大多認為TikTok只是反映現時網絡良莠不齊,青少年容易因渴望被朋輩認同而做出偏差行為,家長應多留意他們的上網習慣和與多溝通,教導他們正確使用網路的觀念,也有網民提出所有的社交媒體平台都應該設立實名認證以杜絕有人發起不同危險挑戰。

各式各樣危險挑戰

據《The Verge》報導,各類挑戰是TikTok的核心,由從前只是簡單的舞蹈動作,變質為其他有害內容。為了在眾多影片中脫穎而出、短時間內吸收流量,這些影片的內容往往傾向譁眾取寵,甚至屢現各式對他人或自身健康有危害的「挑戰」活動,心智未成熟的兒童很容易因為耳濡目染而想用不同的手法表現自己。

有台灣YouTuber將TikTok的危險挑戰分為三大類,第一類為惡作劇挑戰,例如「Penny Challenge」(討厭鬼挑戰),故意把插座安裝不妥而引起短路、「Devious lick」(惡意制服挑戰),大肆破壞學校公物和掌摑老師。

第二種是自虐挑戰,作出對自身構成危險的行為,如上述的「昏迷挑戰」、「苯海拉明挑戰」(Benadryl Challenge),參加者需上傳服用大量抗組織胺藥物產生幻覺後的反應到TikTok,曾造成少女死亡。還有Covid-19初流行時的「Coronavirus Challenge」(冠狀病毒挑戰),在鏡頭前示範以舌頭舔飛機廁板。

第三種則是對其他人的惡作劇,例如頭顱破壞挑戰(Skull Breaker Challenge),三個參加者站成一排,中間那個跳在空中的時候,兩邊的人同時踹中間的人使他失去平衡而摔倒在地,曾導致一些玩家脊椎和腦部受傷。以及最近流行的「猜猜我是誰」(Guess Who),將欺凌對象的身體局部部位以及身份相關線索組合成一隻短影片,讓看到的人猜測欺凌對象是誰。

TikTok的演算法如何帶孩子走入危險

根據TikTok的數據,2020年,未成年人佔該應用程式用戶的四分之一以上。

青少年重視朋輩認同,容易受人影響,透過參加或發起一些引人注目的挑戰,他們可短時間獲得大量關注,還可邀請其他人參加,建立社交圈。亦有些青少年在朋輩壓力被迫參與危險的挑戰,避免被霸凌和顯得自己不合群。

TikTok強大的演算法可精準判定用戶喜好,被《麻省理工科技評論》評為2021全球10大突破性技術之一。《紐約時報》報導北京的工程團隊所製作了名為 TikTok Algo 101的文件,揭露了背後的邏輯及對人類心理的洞察, TikTok演算法有四大目標︰「用戶價值、長期用戶價值、作者價值和平台價值」。文件坦然解釋,為追求增加每日活躍用戶量的公司「終極目標」,分別為「留存率」——即用戶是否回訪——以及「訪問時長」,能夠精準判斷用戶觀看每一個短影片的數據來推薦最適合的內容。

去年9月《華爾街日報》的一項調查發現TikTok利用算法,向未成年用戶推送與兜售毒品和色情網站相關的內容,他們註冊了幾十個年齡設定成13~15歲的帳號,瀏覽TikTok高度個性化的影片清單「For You」,發現TikTok向未成年帳號展示了一百多則來自付費色情網站和性用品商店的推廣影片,以及成千上萬條標註為「僅供成人觀看」的內容、一些鼓勵不正常飲食及酒駕的內容,使他們迅速掉進不良影片的無底洞。即使帳戶被程式設定為對多個主題感興趣,TikTok有時也會將注意力集中在單個主題上,並連續為用戶提供數百個單一主題的短影音。

兒童心理學家安德森(David Anderson)指出,這現象尤其對年輕人影響嚴重,「他們可能缺乏停止觀看的能力,而且周圍沒有成年人的支持,這些青少年可能會經歷一場『完美風暴』,讓社群媒體合理化他們看待毒品與其他話題的方式,」

為免用戶深陷負面內容,TikTok去年12月宣布將調整平台演算法,避免向用戶推薦太多相同的內容,在新的演算法下,系統不會再連續推薦兩部同一個創作者的影片,或是使用同一個音樂的影片。

你認為TikTok的演算法是否導致兒童做出不良行為的最大元凶?

文:端傳媒實習記者陳洛蕎

國際前線