近日，新型開放式社交平臺Soul App(下簡稱“Soul”)發(fā)布《2024年第二季度Soul生態(tài)安全報告》。報告顯示，該季度平臺，動作在詐騙治理、網(wǎng)絡(luò)暴力治理、未成年保護、完善社交禮儀體系等方面展開。
隨著近年來“清朗”系列專項行動全面深化，Soul始終將企業(yè)責(zé)任放在首位，積極響應(yīng)有關(guān)部門提出的網(wǎng)絡(luò)安全問題及其他潛在風(fēng)險，堅決遏制不良行為對網(wǎng)絡(luò)環(huán)境的負(fù)面影響，同時關(guān)注未成年人用戶網(wǎng)絡(luò)安全。
期間，Soul 持續(xù)上線反詐新策略，前置攔截高危風(fēng)險;建設(shè)完善社交禮儀體系，加強對違規(guī)內(nèi)容識別能力;聚焦網(wǎng)絡(luò)暴力治理，分辨打擊站內(nèi)網(wǎng)暴問題;筑牢未成年人保護防線，完善相關(guān)保護體系。
持續(xù)上線新策略 賦能反詐工作
Soul一直致力于采用先進的技術(shù)手段，打造了一個全面而高效的反詐風(fēng)控體系。在本季度，Soul引入了多種創(chuàng)新的風(fēng)險預(yù)警機制，包括"鎖定對話框"、"對話框橫欄強提醒"和"客服電話強提醒"等，根據(jù)用戶面臨的風(fēng)險等級，實施了分級預(yù)警策略，并取得了顯著的成效。
數(shù)據(jù)顯示，本季度Soul利用其強大的大模型和內(nèi)容理解能力，成功識別并甄別超過3000個“假軍警”人設(shè)案例，同時對超過2萬起網(wǎng)絡(luò)乞討行為發(fā)出預(yù)警。
此外，Soul還積極與全國各地的執(zhí)法機構(gòu)合作，協(xié)助調(diào)查了37起案件，并向司法機關(guān)提供了近千條涉及黑灰產(chǎn)業(yè)鏈的線索，為從根本上打擊網(wǎng)絡(luò)犯罪活動做出積極貢獻。
建設(shè)完善社交禮儀體系 打造文明友善社交環(huán)境
第二季度中，Soul在違規(guī)行為和低質(zhì)內(nèi)容的治理、社區(qū)的共同建設(shè)和治理、群聊管理以及私聊社交生態(tài)的構(gòu)建等方面持續(xù)發(fā)力，不斷完善社交禮儀體系，致力于打造一個積極健康的社區(qū)環(huán)境，確保用戶在無壓力的氛圍中享受社交樂趣。
Soul將群聊治理作為工作，之一。通過技術(shù)手段，Soul在本季度成功識別超過1.5萬條疑似違規(guī)的消息流內(nèi)容，并攔截了2.8萬條違規(guī)文字消息;采用人工審核、用戶舉報審核和自動化策略相結(jié)合的方式，對7800名違規(guī)用戶實施了梯度處罰，以維護平臺的秩序和安全。
同時，Soul也在積極推動私聊社交生態(tài)的建設(shè)。其中“消息盒子”和“守護彈窗”功能，每天平均保護超過1萬名用戶免受騷擾，為用戶營造更加健康、友好的社交環(huán)境。
此外，Soul一直在鼓勵和邀請用戶參與到社區(qū)的共治共建中來。截至2024年第二季度，已有超過3萬名用戶擔(dān)任站內(nèi)內(nèi)容推薦官。他們積極參與平臺對爭議性動態(tài)的評審工作，幫助篩選和推廣健康優(yōu)質(zhì)的內(nèi)容，為打造一個更加積極、優(yōu)質(zhì)的社區(qū)環(huán)境做出貢獻。
聚焦網(wǎng)絡(luò)暴力治理 讓不文明社交“止于微末”
2024年6月12日，國家互聯(lián)網(wǎng)信息辦公室正式出臺《網(wǎng)絡(luò)暴力信息治理規(guī)定》，體現(xiàn)了監(jiān)管機構(gòu)對網(wǎng)絡(luò)暴力零容忍的態(tài)度和保護網(wǎng)民權(quán)益的堅定意志。Soul 緊跟步伐，不斷優(yōu)化群聊和公共互動區(qū)的反網(wǎng)絡(luò)暴力措施，通過報警和自動處罰機制，，限度地減少用戶遭受的網(wǎng)絡(luò)暴力和騷擾，確保網(wǎng)絡(luò)空間的清朗與文明。
在本季度，Soul積極引導(dǎo)用戶在私聊中文明發(fā)言，提醒次數(shù)超過20萬次，日均發(fā)送友善評論提醒6088次。網(wǎng)絡(luò)暴力的整治，需要每位網(wǎng)民用戶的身體力行，Soul鼓勵用戶參與到抵制網(wǎng)絡(luò)暴力的行動中，共同營造一個文明的社區(qū)環(huán)境。截至第二季度，已有超過17萬用戶簽署了友善互動聲明，顯示了Soul社區(qū)成員對建設(shè)積極網(wǎng)絡(luò)文化的高度認(rèn)同。
此外，Soul的官方"風(fēng)紀(jì)球長"在本季度發(fā)布了多條關(guān)于生態(tài)安全的重要信息，信息觸達63萬用戶，進一步強化了Soul對網(wǎng)絡(luò)文明的承諾和對用戶安全的保障。
筑牢未成年人保護防線 保障青少年網(wǎng)絡(luò)安全
Soul App始終把未成年人網(wǎng)絡(luò)安全作為重中之重，不斷完善身份認(rèn)證、防沉迷、隱私保護等措施，構(gòu)建了全面的未成年人網(wǎng)絡(luò)保護體系。
在本季度，Soul對未成年用戶識別模型進行了重要迭代，從單一消息識別擴展到復(fù)雜場景下的多維度識別，顯著提高了識別潛在未成年用戶的能力。
目前，Soul平臺不允許18歲以下的用戶注冊賬號。對于可能存在的少數(shù)未成年存量用戶，Soul通過實施一系列保護策略、先進的年齡識別技術(shù)和有效的舉報系統(tǒng)，迅速識別并引導(dǎo)這些賬號切換到專為青少年設(shè)計的"青少年模式"。此外，我們平臺還提供了隱私保護和陌生對話過濾等功能，以，限度地保障未成年用戶的網(wǎng)絡(luò)安全。
在數(shù)據(jù)方面，本季度Soul推出了40多項未成年識別和保護策略，這些策略在識別虛假成年人身份方面取得了高達98.0%的貢獻率，進一步證明識別策略的有效性和精確性。
維護網(wǎng)絡(luò)生態(tài)是項長期的社會工程。Soul 利用自身的技術(shù)專長和全面的管理策略，全力以赴地參與到這一進程中——通過嚴(yán)格查處違規(guī)現(xiàn)象、拓展宣傳網(wǎng)絡(luò)、豐富積極內(nèi)容，并與用戶、行業(yè)和執(zhí)法部門等進行廣泛協(xié)作，不斷加強平臺的自我監(jiān)管，力求提高治理效能，助力構(gòu)建一個健康、有序的網(wǎng)絡(luò)環(huán)境，推動網(wǎng)絡(luò)生態(tài)的持續(xù)進步。