互聯(lián)網(wǎng)深度融入社會(huì)生活,社交平臺(tái)已成為公眾日常溝通的重要載體。然而,隨著用戶(hù)規(guī)模的持續(xù)擴(kuò)大,網(wǎng)絡(luò)詐騙、低俗信息傳播、網(wǎng)絡(luò)暴力等新型治理難題不斷升級(jí),嚴(yán)重威脅著用戶(hù)的財(cái)產(chǎn)安全與精神健康,破壞數(shù)字社會(huì)的信任基礎(chǔ)。在此背景下,Soul App 作為國(guó)內(nèi)領(lǐng)先的社交平臺(tái),深知自身肩負(fù)的責(zé)任與使命。近日,Soul App 生態(tài)安全中心發(fā)布《2025 年第一季度生態(tài)安全報(bào)告》,向公眾展示平臺(tái)在生態(tài)安全治理方面所取得的顯著成效。
報(bào)告顯示,平臺(tái)深度貫徹 “清朗” 專(zhuān)項(xiàng)行動(dòng)部署,將生態(tài)安全治理納入企業(yè)戰(zhàn)略核心。重點(diǎn)圍繞詐騙治理、網(wǎng)絡(luò)戾氣治理、未成年保護(hù)、內(nèi)容正向價(jià)值觀引導(dǎo)以及完善社交禮儀體系等方面,通過(guò)技術(shù)模型、風(fēng)控策略創(chuàng)新、專(zhuān)項(xiàng)治理、用戶(hù)共建、警企聯(lián)動(dòng)等多種舉措,持續(xù)完善站內(nèi)生態(tài)安全體系,致力于為用戶(hù)提供一個(gè)健康、安全的社交環(huán)境,積極構(gòu)建多維生態(tài)防治體系。
智能反詐:織密立體防護(hù)網(wǎng)
每年第一季度是春節(jié)社交活躍高峰,網(wǎng)絡(luò)詐騙風(fēng)險(xiǎn)也隨之上升。為切實(shí)守護(hù)用戶(hù)的財(cái)產(chǎn)安全,Soul App 運(yùn)用先進(jìn)的人工智能技術(shù),織密立體防護(hù)網(wǎng)。
平臺(tái)構(gòu)建起先進(jìn)的欺詐文本與圖像識(shí)別能力,有效輔助識(shí)別潛在詐騙風(fēng)險(xiǎn),使整體涉詐人群數(shù)量較此前下降約 20%;同時(shí),平臺(tái)構(gòu)建風(fēng)險(xiǎn)鏈接識(shí)別能力,精準(zhǔn)攔截風(fēng)險(xiǎn)鏈接信息,整體風(fēng)險(xiǎn)鏈接曝光率下降 10%。這些技術(shù)的應(yīng)用,極大提升了平臺(tái)的反詐能力,為用戶(hù)營(yíng)造了一個(gè)安全可靠的社交環(huán)境。
構(gòu)建 “清朗” 生態(tài):系統(tǒng)性升級(jí)社交治理體系
為響應(yīng) “清朗” 專(zhuān)項(xiàng)行動(dòng),給用戶(hù)營(yíng)造文明、友善的社交環(huán)境,Soul 系統(tǒng)性升級(jí)社交治理體系,對(duì)違規(guī)行為、低質(zhì)內(nèi)容重拳出擊——
違規(guī)行為及低質(zhì)內(nèi)容治理
平臺(tái)在第一季度加強(qiáng)對(duì)違規(guī)內(nèi)容的監(jiān)管力度,直接攔截量級(jí)達(dá)到百萬(wàn);同時(shí),對(duì)違規(guī)內(nèi)容下的跟帖評(píng)論進(jìn)行了嚴(yán)格處置,確保社區(qū)環(huán)境的文明與和諧;對(duì)于違規(guī)賬號(hào),平臺(tái)也采取嚴(yán)厲的處理措施,第一季度累計(jì)處理違規(guī)賬號(hào)超19萬(wàn),并對(duì)同設(shè)備下存在多個(gè)違規(guī)賬號(hào)的情況進(jìn)行拉黑設(shè)備處理,有效遏制了違規(guī)行為的蔓延。
除此之外,Soul 持續(xù)優(yōu)化廣場(chǎng)生態(tài)畫(huà)風(fēng),持續(xù)打壓劣質(zhì)內(nèi)容,針對(duì)有償交友、攻擊辱罵、炫富、軟廣引流等廣場(chǎng)低質(zhì)內(nèi)容進(jìn)行限流。通過(guò)算法優(yōu)化和人工審核,日均處理劣質(zhì)內(nèi)容超10萬(wàn)條,并對(duì)低俗評(píng)論進(jìn)行過(guò)濾,降低用戶(hù)的被騷擾感,維護(hù)廣場(chǎng)互動(dòng)氛圍。
社區(qū)共建共治
Soul積極推動(dòng)社區(qū)共建共治,目前站內(nèi)內(nèi)容推薦官在任用戶(hù)超4.7萬(wàn)人,日均參與投票人數(shù)超過(guò)250人;風(fēng)紀(jì)委在任用戶(hù)超過(guò)2.1 萬(wàn)人,用戶(hù)日均貢獻(xiàn)超過(guò) 3 萬(wàn)次投票,產(chǎn)生超過(guò)4500例案件結(jié)果。
同時(shí),Soul 更新《社區(qū)公約》內(nèi)容,分別從內(nèi)容分享、交友互動(dòng)、價(jià)值觀引導(dǎo)等多維度提出明確規(guī)范,倡導(dǎo)用戶(hù)與平臺(tái)共建共治,系統(tǒng)性構(gòu)建社交生態(tài)治理框架。更新《社區(qū)公約》展示渠道,縮短用戶(hù)觸達(dá)路徑,新公約上線(xiàn)后,月累計(jì)點(diǎn)擊閱讀量達(dá) 3.4 萬(wàn),并通過(guò)站內(nèi)的官號(hào)發(fā)帖、私信透?jìng)?以及站外的多家媒體平臺(tái),完成 2 次集中式大范圍宣傳,進(jìn)一步提升了用戶(hù)對(duì)社區(qū)規(guī)范的認(rèn)知和遵守程度。
聊天社交生態(tài)建設(shè)舉措與成果
第一季度,Soul 在私聊社交生態(tài)建設(shè)方面取得諸多成果——本季度上線(xiàn)、迭代策略23條,其中“騷擾消息自見(jiàn)”策略日均保護(hù)2.3 萬(wàn)用戶(hù)免受騷擾信息侵?jǐn)_;“消息盒子”功能輔助用戶(hù)日均收納消息超3千條;在本季度,平臺(tái)針對(duì)疑似被騷擾的用戶(hù)下發(fā)守護(hù)彈窗日均 4.7 萬(wàn)次。這些舉措有效提升了私聊社交生態(tài)的質(zhì)量,保障了用戶(hù)的社交權(quán)益。在群聊治理方面,Soul 同樣取得顯著成效。平均每日中斷語(yǔ)音違規(guī)消息超 1.7 萬(wàn)條,日均攔截違規(guī)文字消息條數(shù)超 2.9 萬(wàn)條。相關(guān)舉措有效維護(hù)了群聊的健康和諧氛圍,為用戶(hù)提供了良好的群聊體驗(yàn)。
拒絕網(wǎng)暴,打造 “清朗” 社交環(huán)境
面對(duì)網(wǎng)絡(luò)暴力這一“數(shù)字時(shí)代頑疾”,Soul App 構(gòu)建起一套由技術(shù)模型、提醒策略、產(chǎn)品上新、宣傳引導(dǎo)、專(zhuān)項(xiàng)治理、典型案例處置公示等多維度構(gòu)成的嚴(yán)密防網(wǎng)暴體系。
在本季度,Soul通過(guò)平臺(tái)功能和用戶(hù)教育,倡導(dǎo)用戶(hù)在私信交流中保持社交禮儀,日均提醒引導(dǎo)私聊文明發(fā)言 238254 次,發(fā)布友善發(fā)評(píng)提醒次數(shù) 4007 次,平均每日保護(hù)3053名用戶(hù)免受網(wǎng)暴與騷擾。
Soul 鼓勵(lì)用戶(hù)積極參與抵制網(wǎng)絡(luò)暴力的行為。截至第一季度,簽署友善互動(dòng)聲明用戶(hù)累計(jì) 210124 人,反映了Soul社區(qū)成員對(duì)于促進(jìn)積極網(wǎng)絡(luò)文化建設(shè)的廣泛支持。這些成果表明,Soul App通過(guò)技術(shù)與人文結(jié)合,有效治理網(wǎng)絡(luò)暴力,為用戶(hù)打造了一個(gè)更加友善、和諧的社交環(huán)境。
本季度 Soul App 官方 “風(fēng)紀(jì)球長(zhǎng)” 對(duì)安全生態(tài)宣傳內(nèi)容發(fā)布了共 55 篇帖子,包含對(duì)傳播低俗內(nèi)容與不實(shí)信息、惡意引戰(zhàn)等違規(guī)賬戶(hù)的處罰公示,以及對(duì)安全標(biāo)準(zhǔn)及社交禮儀規(guī)范宣導(dǎo)、辟謠等內(nèi)容,總計(jì)觸達(dá) 70 萬(wàn)用戶(hù)。這些宣傳舉措有效提升了用戶(hù)的網(wǎng)絡(luò)安全意識(shí)和社交禮儀水平,促進(jìn)了平臺(tái)良好社交生態(tài)的形成。
精準(zhǔn)識(shí)別未成年人,守護(hù)未成年人網(wǎng)絡(luò)安全
長(zhǎng)期以來(lái),Soul 平臺(tái)明確規(guī)定不允許未成年人在平臺(tái)上注冊(cè)賬戶(hù),并且對(duì)于極少數(shù)已經(jīng)注冊(cè)的未成年用戶(hù),平臺(tái)會(huì)自動(dòng)切換到青少年模式。為了更精準(zhǔn)地識(shí)別和保護(hù)未成年用戶(hù),Soul App 構(gòu)建了包括身份認(rèn)證、年齡識(shí)別、18 歲以下年齡限制、防沉迷系統(tǒng)、正能量?jī)?nèi)容池、隱私保護(hù)等在內(nèi)的未成年用戶(hù)保護(hù)體系。
本季度,通過(guò)新上專(zhuān)屬保護(hù)策略、強(qiáng)化假成年人用戶(hù)識(shí)別策略等手段,全力保障平臺(tái)內(nèi)青少年上網(wǎng)安全。同時(shí)針對(duì)成年人冒充未成年問(wèn)題,升級(jí)處置機(jī)制,將原 “青少年限制” 升級(jí)為 “青少年通用處置”,首次冒充需要活體認(rèn)證再次確認(rèn)為成年人,多次冒充將對(duì)用戶(hù)進(jìn)行封禁,用戶(hù)對(duì)未成年問(wèn)題感知大幅下降,降幅達(dá) 40% 以上。
平臺(tái)第一季度上線(xiàn)未成年識(shí)別和未成年保護(hù)策略共 51 條,策略識(shí)別假成年人貢獻(xiàn)率高達(dá) 99%。充分表明 Soul App 在未成年人保護(hù)方面所采取的策略和措施具有高度的有效性和精準(zhǔn)性,為未成年人的網(wǎng)絡(luò)安全提供了有力保障。
結(jié)語(yǔ)
2025 年第一季度,Soul App 在生態(tài)安全治理方面取得了顯著成效。通過(guò)智能反詐、社區(qū)共建共治、群聊治理、私聊社交生態(tài)建設(shè)、拒絕網(wǎng)暴、網(wǎng)絡(luò)治理與社交禮儀規(guī)范宣導(dǎo)以及精準(zhǔn)識(shí)別未成年人等多項(xiàng)舉措,有效提升了平臺(tái)的生態(tài)安全水平,為用戶(hù)營(yíng)造了一個(gè)健康、安全、和諧的社交環(huán)境。
未來(lái),Soul App 將繼續(xù)加大技術(shù)投入和管理力度,持續(xù)完善生態(tài)安全體系,不斷探索創(chuàng)新治理模式和方法,以適應(yīng)不斷變化的網(wǎng)絡(luò)環(huán)境和用戶(hù)需求。同時(shí),Soul App 也將積極履行社會(huì)責(zé)任,加強(qiáng)與相關(guān)部門(mén)、社會(huì)組織以及用戶(hù)的合作,共同推動(dòng)網(wǎng)絡(luò)生態(tài)的持續(xù)改善,為構(gòu)建清朗的網(wǎng)絡(luò)空間貢獻(xiàn)力量。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
