至今有不少 YouTube 創作者因攻擊性留言導致負面情緒,YouTube 現在宣布導入 Google AI 避免出現冒犯性留言,只要 AI 認為留言可能冒犯到人,就會跳出提醒視窗,此時使用者可選擇直接發送評論,或是修改評論內容。
(來源:Google)
YouTube 希望藉由此功能,鼓勵使用者在 YouTube 進行良善的互動。該功能已經於 Android 版本上線,即使影片評論未觸發 AI 提醒機制,若違反社群規則仍有可能遭 YouTube 官方移除。
除了偵測惡意評論機制,YouTube 過去也導入了一套機制,能夠依照影片標題、評論內容,幫助系統偵測、移除令人反感的內容,「自 2019 初以來,我們每日刪除的仇恨言論次數已經成長 46 倍。」
YouTube 補充,光是上一季(今年 7 月至 9 月間)因違反政策而移除的頻道就超過 180 萬個,超刪除的仇恨評論超過 5.4 萬則。平台明年將從美國展開一項新計畫,向創作者詢問填寫種族、性別等基本資料,以評估目前政策是如何影響搜尋、探索和營利,並且更精確的掌握仇恨言論、騷擾等行為,平台還承諾資料將不會用於廣告目的。