互聯(lián)網(wǎng)深度融入社會生活,社交平臺已成為公眾日常溝通的重要載體。然而,隨著用戶規(guī)模的持續(xù)擴大,網(wǎng)絡(luò)詐騙、低俗信息傳播、網(wǎng)絡(luò)暴力等新型治理難題不斷升級,嚴(yán)重威脅著用戶的財產(chǎn)安全與精神健康,破壞數(shù)字社會的信任基礎(chǔ)。在此背景下,Soul App 作為國內(nèi)領(lǐng)先的社交平臺,深知自身肩負的責(zé)任與使命。近日,Soul App 生態(tài)安全中心發(fā)布《2025 年第一季度生態(tài)安全報告》,向公眾展示平臺在生態(tài)安全治理方面所取得的顯著成效。
報告顯示,平臺深度貫徹 “清朗” 專項行動部署,將生態(tài)安全治理納入企業(yè)戰(zhàn)略核心。重點圍繞詐騙治理、網(wǎng)絡(luò)戾氣治理、未成年保護、內(nèi)容正向價值觀引導(dǎo)以及完善社交禮儀體系等方面,通過技術(shù)模型、風(fēng)控策略創(chuàng)新、專項治理、用戶共建、警企聯(lián)動等多種舉措,持續(xù)完善站內(nèi)生態(tài)安全體系,致力于為用戶提供一個健康、安全的社交環(huán)境,積極構(gòu)建多維生態(tài)防治體系。
智能反詐:織密立體防護網(wǎng)
每年第一季度是春節(jié)社交活躍高峰,網(wǎng)絡(luò)詐騙風(fēng)險也隨之上升。為切實守護用戶的財產(chǎn)安全,Soul App 運用先進的人工智能技術(shù),織密立體防護網(wǎng)。
平臺構(gòu)建起先進的欺詐文本與圖像識別能力,有效輔助識別潛在詐騙風(fēng)險,使整體涉詐人群數(shù)量較此前下降約 20%;同時,平臺構(gòu)建風(fēng)險鏈接識別能力,精準(zhǔn)攔截風(fēng)險鏈接信息,整體風(fēng)險鏈接曝光率下降 10%。這些技術(shù)的應(yīng)用,極大提升了平臺的反詐能力,為用戶營造了一個安全可靠的社交環(huán)境。
構(gòu)建 “清朗” 生態(tài):系統(tǒng)性升級社交治理體系
為響應(yīng) “清朗” 專項行動,給用戶營造文明、友善的社交環(huán)境,Soul 系統(tǒng)性升級社交治理體系,對違規(guī)行為、低質(zhì)內(nèi)容重拳出擊——
違規(guī)行為及低質(zhì)內(nèi)容治理
平臺在第一季度加強對違規(guī)內(nèi)容的監(jiān)管力度,直接攔截量級達到百萬;同時,對違規(guī)內(nèi)容下的跟帖評論進行了嚴(yán)格處置,確保社區(qū)環(huán)境的文明與和諧;對于違規(guī)賬號,平臺也采取嚴(yán)厲的處理措施,第一季度累計處理違規(guī)賬號超19萬,并對同設(shè)備下存在多個違規(guī)賬號的情況進行拉黑設(shè)備處理,有效遏制了違規(guī)行為的蔓延。
除此之外,Soul 持續(xù)優(yōu)化廣場生態(tài)畫風(fēng),持續(xù)打壓劣質(zhì)內(nèi)容,針對有償交友、攻擊辱罵、炫富、軟廣引流等廣場低質(zhì)內(nèi)容進行限流。通過算法優(yōu)化和人工審核,日均處理劣質(zhì)內(nèi)容超10萬條,并對低俗評論進行過濾,降低用戶的被騷擾感,維護廣場互動氛圍。
社區(qū)共建共治
Soul積極推動社區(qū)共建共治,目前站內(nèi)內(nèi)容推薦官在任用戶超4.7萬人,日均參與投票人數(shù)超過250人;風(fēng)紀(jì)委在任用戶超過2.1 萬人,用戶日均貢獻超過 3 萬次投票,產(chǎn)生超過4500例案件結(jié)果。
同時,Soul 更新《社區(qū)公約》內(nèi)容,分別從內(nèi)容分享、交友互動、價值觀引導(dǎo)等多維度提出明確規(guī)范,倡導(dǎo)用戶與平臺共建共治,系統(tǒng)性構(gòu)建社交生態(tài)治理框架。更新《社區(qū)公約》展示渠道,縮短用戶觸達路徑,新公約上線后,月累計點擊閱讀量達 3.4 萬,并通過站內(nèi)的官號發(fā)帖、私信透傳,以及站外的多家媒體平臺,完成 2 次集中式大范圍宣傳,進一步提升了用戶對社區(qū)規(guī)范的認知和遵守程度。
聊天社交生態(tài)建設(shè)舉措與成果
第一季度,Soul 在私聊社交生態(tài)建設(shè)方面取得諸多成果——本季度上線、迭代策略23條,其中“騷擾消息自見”策略日均保護2.3 萬用戶免受騷擾信息侵?jǐn)_;“消息盒子”功能輔助用戶日均收納消息超3千條;在本季度,平臺針對疑似被騷擾的用戶下發(fā)守護彈窗日均 4.7 萬次。這些舉措有效提升了私聊社交生態(tài)的質(zhì)量,保障了用戶的社交權(quán)益。在群聊治理方面,Soul 同樣取得顯著成效。平均每日中斷語音違規(guī)消息超 1.7 萬條,日均攔截違規(guī)文字消息條數(shù)超 2.9 萬條。相關(guān)舉措有效維護了群聊的健康和諧氛圍,為用戶提供了良好的群聊體驗。
拒絕網(wǎng)暴,打造 “清朗” 社交環(huán)境
面對網(wǎng)絡(luò)暴力這一“數(shù)字時代頑疾”,Soul App 構(gòu)建起一套由技術(shù)模型、提醒策略、產(chǎn)品上新、宣傳引導(dǎo)、專項治理、典型案例處置公示等多維度構(gòu)成的嚴(yán)密防網(wǎng)暴體系。
在本季度,Soul通過平臺功能和用戶教育,倡導(dǎo)用戶在私信交流中保持社交禮儀,日均提醒引導(dǎo)私聊文明發(fā)言 238254 次,發(fā)布友善發(fā)評提醒次數(shù) 4007 次,平均每日保護3053名用戶免受網(wǎng)暴與騷擾。
Soul 鼓勵用戶積極參與抵制網(wǎng)絡(luò)暴力的行為。截至第一季度,簽署友善互動聲明用戶累計 210124 人,反映了Soul社區(qū)成員對于促進積極網(wǎng)絡(luò)文化建設(shè)的廣泛支持。這些成果表明,Soul App通過技術(shù)與人文結(jié)合,有效治理網(wǎng)絡(luò)暴力,為用戶打造了一個更加友善、和諧的社交環(huán)境。
本季度 Soul App 官方 “風(fēng)紀(jì)球長” 對安全生態(tài)宣傳內(nèi)容發(fā)布了共 55 篇帖子,包含對傳播低俗內(nèi)容與不實信息、惡意引戰(zhàn)等違規(guī)賬戶的處罰公示,以及對安全標(biāo)準(zhǔn)及社交禮儀規(guī)范宣導(dǎo)、辟謠等內(nèi)容,總計觸達 70 萬用戶。這些宣傳舉措有效提升了用戶的網(wǎng)絡(luò)安全意識和社交禮儀水平,促進了平臺良好社交生態(tài)的形成。
精準(zhǔn)識別未成年人,守護未成年人網(wǎng)絡(luò)安全
長期以來,Soul 平臺明確規(guī)定不允許未成年人在平臺上注冊賬戶,并且對于極少數(shù)已經(jīng)注冊的未成年用戶,平臺會自動切換到青少年模式。為了更精準(zhǔn)地識別和保護未成年用戶,Soul App 構(gòu)建了包括身份認證、年齡識別、18 歲以下年齡限制、防沉迷系統(tǒng)、正能量內(nèi)容池、隱私保護等在內(nèi)的未成年用戶保護體系。
本季度,通過新上專屬保護策略、強化假成年人用戶識別策略等手段,全力保障平臺內(nèi)青少年上網(wǎng)安全。同時針對成年人冒充未成年問題,升級處置機制,將原 “青少年限制” 升級為 “青少年通用處置”,首次冒充需要活體認證再次確認為成年人,多次冒充將對用戶進行封禁,用戶對未成年問題感知大幅下降,降幅達 40% 以上。
平臺第一季度上線未成年識別和未成年保護策略共 51 條,策略識別假成年人貢獻率高達 99%。充分表明 Soul App 在未成年人保護方面所采取的策略和措施具有高度的有效性和精準(zhǔn)性,為未成年人的網(wǎng)絡(luò)安全提供了有力保障。
結(jié)語
2025 年第一季度,Soul App 在生態(tài)安全治理方面取得了顯著成效。通過智能反詐、社區(qū)共建共治、群聊治理、私聊社交生態(tài)建設(shè)、拒絕網(wǎng)暴、網(wǎng)絡(luò)治理與社交禮儀規(guī)范宣導(dǎo)以及精準(zhǔn)識別未成年人等多項舉措,有效提升了平臺的生態(tài)安全水平,為用戶營造了一個健康、安全、和諧的社交環(huán)境。
未來,Soul App 將繼續(xù)加大技術(shù)投入和管理力度,持續(xù)完善生態(tài)安全體系,不斷探索創(chuàng)新治理模式和方法,以適應(yīng)不斷變化的網(wǎng)絡(luò)環(huán)境和用戶需求。同時,Soul App 也將積極履行社會責(zé)任,加強與相關(guān)部門、社會組織以及用戶的合作,共同推動網(wǎng)絡(luò)生態(tài)的持續(xù)改善,為構(gòu)建清朗的網(wǎng)絡(luò)空間貢獻力量。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
