4月22日，抖音發(fā)布《2025第一季度黑產(chǎn)治理數(shù)據(jù)報告》。據(jù)公開數(shù)據(jù)顯示，自2025年以來，抖音持續(xù)加強(qiáng)對黑色產(chǎn)業(yè)鏈的打擊，隨著AI能力在治理場景的深度利用，平臺在黑產(chǎn)違規(guī)場景的巡檢、預(yù)警、研判等環(huán)節(jié)的效率都獲得了大幅提升。
今年第一季度，抖音封禁水軍、欺詐和違規(guī)導(dǎo)流相關(guān)黑產(chǎn)賬號260萬個，并將涉嫌違法犯罪的線索上報有關(guān)部門。
搭建AI智能體，網(wǎng)絡(luò)水軍巡檢效率提升10倍
今年以來，抖音風(fēng)險治理團(tuán)隊(duì)在大模型基礎(chǔ)上，以“AI能力”為核心，構(gòu)建覆蓋風(fēng)險感知、智能決策、閉環(huán)處置的治理體系，系統(tǒng)性提升AI在復(fù)雜場景下的風(fēng)險治理應(yīng)用，單個案例的處理時間達(dá)秒級，各環(huán)節(jié)運(yùn)行綜合準(zhǔn)確率達(dá)到85%以上。
以網(wǎng)絡(luò)水軍治理為例，雖然在長時間的治理中平臺已經(jīng)有了一套流程并完成了部分內(nèi)容自動化運(yùn)行，但日常的研判、回掃等工作仍以人工處置為主。隨著大模型的發(fā)展，工作人員借用AI能力搭建出不同的智能機(jī)器人工具，在風(fēng)險發(fā)現(xiàn)、風(fēng)險預(yù)警、線上巡檢、風(fēng)險研判、風(fēng)險回掃等多個環(huán)節(jié)實(shí)現(xiàn)線上自動運(yùn)營。尤其在“刷量”的識別和處置上，人工智能極大提高了處置鏈路的效率，不僅能3分鐘內(nèi)完成自動研判，且準(zhǔn)確率高達(dá)95%以上。
在今年第一季度的試運(yùn)行中，平臺網(wǎng)絡(luò)水軍服務(wù)違規(guī)的巡檢效率提升了10.25倍，日均攔截違規(guī)請求6000萬次，封禁水軍賬號超20萬個。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
