TikTok 的陰暗面:應用程序的AI 如何向用戶顯示潛在的有害內容


根據美國反數字仇恨中心週三發布的一份新報告,TikTok 在一些用戶加入該平台幾分鐘後就一直在向他們推薦有關自殘和飲食失調的內容。在一項實驗中,研究人員通過創建TikTok 帳戶來冒充對身體形象和心理健康內容感興趣的13 歲用戶。

TikTok 的陰暗面:應用程序的AI 如何向用戶顯示潛在的有害內容

他們在有關這些主題的視頻前停下來,假裝感興趣。賬戶在世界各國開設,包括美國、英國、加拿大和澳大利亞。發現TikTok算法最快在加入應用後2分6秒推薦自殺相關內容。僅8 分鐘就推薦了飲食失調內容。

研究人員發現,與飲食失調視頻相關的56 個TikTok 標籤在這項研究中獲得了超過132 億次觀看。

視頻平台記得推出的內容對每個人都是獨一無二的,社交平台仍然專注於為所有人創造一個安全舒適的空間,

據TikTok 發言人稱。

TikTok 能夠檢測用戶漏洞並試圖利用它們

TikTok 能夠檢測用戶漏洞並試圖利用它們

社交媒體可能對用戶的心理健康有害。然而,更令人擔憂的是,一些平台,例如TikTok,似乎專門設計用於利用用戶的漏洞。 TikTok 的算法旨在讓用戶盡可能長時間地參與其中。他們這樣做的一種方式是不斷向用戶提供他們認為有吸引力的內容,即使這些內容是有害的。

例如,眾所周知,TikTok 會助長自殺、飲食失調和身體形象問題。這對青少年尤其有害,他們已經更容易受到心理健康問題的影響。更令人擔憂的是,TikTok 似乎專門針對青少年提供這些內容。這是非常危險的,因為它會進一步加劇他們的心理健康危機。

TikTok 由中國公司字節跳動於2017 年在全球推出,使用基於個人數據(包括點贊、訂閱、觀看時間和用戶興趣)的算法,已成為全球增長最快的社交媒體應用程序,月活躍用戶達10 億預計到2021 年。

閱讀有關TikTok 的更多信息:

資訊來源:由0x資訊編譯自出MPOST。版權歸作者Damir Yalalov所有,未經許可,不得轉載

Total
0
Shares
Related Posts