IT之家 1 月 13 日消息，抖音今日發(fā)布了 2024 網(wǎng)絡黑產(chǎn)治理盤點。過去一年平臺持續(xù)打擊網(wǎng)絡黑色產(chǎn)業(yè)鏈，通過升級 AI 大模型技術、迭代風控策略、優(yōu)化舉報機制等系列舉措，加強對網(wǎng)絡黑產(chǎn)的識別和治理能力，封禁欺詐、水軍和違規(guī)導流相關黑產(chǎn)賬號超 600 萬個，并向相關部門提供涉嫌違法犯罪的線索。IT之家附官方介紹如下：
01、前置攔截欺詐信息，多渠道提醒用戶謹防被騙
2024 年，仿冒領導、親友和官方客服是最受關注的欺詐類型，尤其是仿冒抖音客服的黑產(chǎn)，用廣撒網(wǎng)方式撥打電話、發(fā)送短信、即時通訊軟件撥號等方法，與受害人直接聯(lián)系，一步步引導對方共享屏幕或者下載第三方 App，從中獲取用戶銀行卡賬戶信息、誘導用戶不斷轉(zhuǎn)賬等。
刷單詐騙、購物詐騙也是 2024 年平臺重點打擊的欺詐類型。刷單詐騙黑產(chǎn)以招工、兼職、致富為由，或偽裝成單身交友人設，誘導用戶下載第三方軟件進行欺詐；另一類黑產(chǎn)鏈路則以售賣演唱會內(nèi)部門票、贈送小馬寶莉卡、低價轉(zhuǎn)游戲皮膚等噱頭，鎖定目標用戶去第三方平臺進行交易欺詐。
平臺根據(jù)黑產(chǎn)作弊鏈路，在評論、建群、拉人等多個場景阻斷黑產(chǎn)觸達受害者，上線反詐客服“驗證助手”，并根據(jù)黑產(chǎn)的特征每月迭代反詐策略 200 個以上，在站內(nèi)外多個渠道發(fā)送反詐提醒，日均保護潛在受害人 200 萬次。2024 年，警方根據(jù)抖音提供的線索，打擊詐騙團伙 69 個，抓獲犯罪嫌疑人 451 名。
02、精準識別網(wǎng)絡水軍，重點打擊四大類
售賣水軍服務、惡意控評、流量造假、惡意舉報，是過去一年抖音重點打擊的四類水軍行為。黑產(chǎn)在站內(nèi)售賣刷粉刷贊、招募水軍等違規(guī)服務，或有組織、有目的地批量發(fā)布評論錯誤引導用戶認知，利用作弊手段偽造虛假流量、炒作熱度，甚至利用平臺舉報規(guī)則牟利，惡意舉報導致他人賬號受影響。
2024 年抖音搭建刷手、買手用戶模型，精準識別風險賬號，并實施攔截異常操作，阻斷水軍造假途徑；通過大模型技術提升識別能力，對機器賬號和受騙用戶差異化處置。一年來抖音日均攔截違規(guī)信息 6200 萬次，共封禁賬號 110 萬個，并將涉嫌違法行為的線索上報相關部門。過去一年根據(jù)抖音提供的線索，警方抓獲水軍黑產(chǎn)犯罪嫌疑人 90 名。
03、升級視頻關鍵幀識別能力，阻斷違規(guī)外鏈導流風險
除了欺詐和水軍，黑產(chǎn)集中的另一方向是違規(guī)外鏈。黑產(chǎn)組織通過作弊手段繞過平臺風控策略，在多種渠道插入二維碼、聯(lián)系方式、圖片、網(wǎng)址等，引導用戶點擊跳轉(zhuǎn)至第三方違規(guī)、違法網(wǎng)站，這些第三方網(wǎng)站則大多以提供色情、賭博等違法服務為主。
為應對黑產(chǎn)新手法，抖音風控團隊在前置識別的基礎上，新增了自動黑樣本庫，通過 AI 技術可自動識別、歸類違規(guī)行為并進行處置；結(jié)合黑產(chǎn)行為模式，升級視頻截取關鍵幀模型能力，可第一時間定位黑產(chǎn)在視頻中植入的違規(guī)頁面；新增彈幕場景模型，有效運行該場景的違規(guī)攔截策略。2024 年，抖音封禁相關違規(guī)賬號超 120 萬個，同時警方根據(jù)抖音提供的線索，打擊違規(guī)導流團伙 8 個，抓獲嫌疑人 40 名。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。