上海市民稱扔個(gè)東西要花幾百元,扔舊的比買新的還難,為什么會(huì)這樣?有哪些好的解決辦法?
用WIN11打游戲的注意了!你的瀏覽器正在偷走你的幀數(shù)
不煽情、不“反思”、不美化、立場(chǎng)明確!抗戰(zhàn)片就該這么拍!強(qiáng)烈推薦《南京照相館》
網(wǎng)友曝山姆多款產(chǎn)品偷偷減重,紫色抽紙 3 年來價(jià)格沒變重量卻縮水 8%,為什么會(huì)出現(xiàn)這種情況?
技術(shù)創(chuàng)新守護(hù)社交:SoulAppAI識(shí)別系統(tǒng)筑牢安全防線
貝殼財(cái)經(jīng)
近日,SoulApp正式發(fā)布《2025生態(tài)安全半年報(bào)》(以下簡稱“報(bào)告”)。報(bào)告全面展現(xiàn)SoulApp積極響應(yīng)國家“清朗”系列專項(xiàng)行動(dòng)號(hào)召的堅(jiān)定決心,通過大量具體數(shù)據(jù)和創(chuàng)新舉措,詮釋了平臺(tái)如何通過技術(shù)創(chuàng)新、警企協(xié)作、社區(qū)共治等多維度策略,持續(xù)升級(jí)其生態(tài)安全體系,并取得顯著成效。
當(dāng)前,社交平臺(tái)已成為人們?nèi)粘贤?、表達(dá)自我、建立連接的重要場(chǎng)域。然而,在享受其帶來巨大便利的同時(shí),社交平臺(tái)也面臨著日益嚴(yán)峻的挑戰(zhàn),如網(wǎng)絡(luò)詐騙、低俗內(nèi)容泛濫、網(wǎng)絡(luò)暴力侵?jǐn)_等問題層出不窮,對(duì)用戶體驗(yàn)和社會(huì)秩序構(gòu)成了潛在威脅。在這樣的背景下,平臺(tái)治理的深度和廣度顯得尤為關(guān)鍵。
SoulApp深刻認(rèn)識(shí)到生態(tài)安全對(duì)于平臺(tái)可持續(xù)發(fā)展和用戶福祉的基石作用,因此始終將其置于戰(zhàn)略發(fā)展的核心位置。通過持續(xù)不斷的技術(shù)模型升級(jí)和一系列專項(xiàng)治理行動(dòng),SoulApp致力于從根本上優(yōu)化平臺(tái)環(huán)境,確保每一位用戶都能在清朗、健康的氛圍中安心交流。
AI反詐體系升級(jí)全鏈條守護(hù)用戶安全
在當(dāng)前網(wǎng)絡(luò)詐騙手段日益隱蔽和多樣化的背景下,SoulApp持續(xù)加碼AI技術(shù)投入,對(duì)反詐防護(hù)體系進(jìn)行了全方位、深層次的升級(jí),成功構(gòu)建了一套高效、智能的“識(shí)別-預(yù)警-攔截”全鏈條防御機(jī)制。這一體系旨在從源頭發(fā)現(xiàn)、及時(shí)預(yù)警、果斷攔截各類詐騙行為,最大限度地保障用戶的財(cái)產(chǎn)和信息安全。兩大核心技術(shù)模型——“圖片/文本反作弊大模型”和“殺豬盤發(fā)帖文案識(shí)別大模型”在安全鏈條中,發(fā)揮巨大作用。
兩大模型的協(xié)同投入使用,極大地提升了SoulApp在面對(duì)文本變體、圖像偽裝等復(fù)雜多變場(chǎng)景下的識(shí)別精度。它們使得黑產(chǎn)分子想要繞過平臺(tái)風(fēng)控識(shí)別的對(duì)抗成本顯著提高,從而有效遏制了詐騙行為的蔓延;同時(shí),反詐官號(hào)接入AI反詐助手大模型,部分用戶回復(fù)交由大模型進(jìn)行智能回復(fù),提示用戶相關(guān)風(fēng)險(xiǎn)。
得益于這一系列的反詐舉措,SoulApp平臺(tái)整體涉詐人群數(shù)量較此前實(shí)現(xiàn)了約20%的顯著下降。除了技術(shù)防線,SoulApp還積極構(gòu)建了與公安機(jī)關(guān)的緊密協(xié)作機(jī)制,形成了線上線下聯(lián)動(dòng)的打擊網(wǎng)絡(luò)犯罪網(wǎng)絡(luò)。報(bào)告顯示,在過去半年中,SoulApp與警方協(xié)同配合,取得了豐碩的成果:
?網(wǎng)絡(luò)謠言線索推送:發(fā)現(xiàn)并推送網(wǎng)絡(luò)謠言線索50個(gè)。針對(duì)可能誤導(dǎo)公眾或損害他人名譽(yù)的謠言,平臺(tái)迅速識(shí)別并向警方報(bào)告,共同維護(hù)網(wǎng)絡(luò)信息真實(shí)性。
?黑灰產(chǎn)線索推送:累計(jì)推送各類黑灰產(chǎn)線索25個(gè),包括但不限于非法刷量、惡意營銷等黑色產(chǎn)業(yè)鏈線索,從源頭上打擊網(wǎng)絡(luò)犯罪。
?協(xié)助警方查明案件:協(xié)助警方查明盜用照片、侵犯用戶權(quán)益的案件20余次。通過提供技術(shù)支持,幫助警方迅速鎖定違法分子,維護(hù)用戶合法權(quán)益。
?處理警方調(diào)證協(xié)作需求:共計(jì)處理警方調(diào)證協(xié)作需求80余次。建立高效的響應(yīng)機(jī)制,積極配合警方依法調(diào)取證據(jù),確保案件偵辦的順利進(jìn)行。
這些數(shù)據(jù)充分表明,SoulApp不僅在技術(shù)層面筑牢了安全防線,更通過與執(zhí)法機(jī)關(guān)的深度協(xié)作,形成了強(qiáng)大的社會(huì)協(xié)同治理合力,共同打擊網(wǎng)絡(luò)違法犯罪,為用戶打造了一個(gè)真正安全可靠的社交生態(tài)。
社交治理持續(xù)優(yōu)化,共建清朗網(wǎng)絡(luò)空間
為了給廣大用戶營造一個(gè)文明、友善、積極向上的社交環(huán)境,SoulApp持續(xù)在社交治理體系上發(fā)力,不斷完善其治理策略和技術(shù)手段。報(bào)告顯示,平臺(tái)新增了可以識(shí)別色情交易變體等違規(guī)行為的反作弊大模型,進(jìn)一步提升了對(duì)新型違規(guī)行為的識(shí)別能力。同時(shí),SoulApp從用戶騷擾管制、群聊治理、低質(zhì)內(nèi)容管控、正能量內(nèi)容推薦等多個(gè)方向,全方位、系統(tǒng)性地持續(xù)建設(shè)社交禮儀體系,致力于為廣大用戶提供一個(gè)輕松無壓力的社區(qū)場(chǎng)景氛圍。
在違規(guī)行為及低質(zhì)內(nèi)容治理方面,SoulApp采取多管齊下的策略,并取得顯著成效:
?違規(guī)內(nèi)容機(jī)審攔截量級(jí)932萬:平臺(tái)通過AI技術(shù)對(duì)海量內(nèi)容進(jìn)行實(shí)時(shí)監(jiān)測(cè)和識(shí)別,能夠在違規(guī)內(nèi)容發(fā)布的第一時(shí)間進(jìn)行自動(dòng)化攔截,有效阻止不良信息的傳播;
?累計(jì)拉黑同設(shè)備下存在多個(gè)違規(guī)賬號(hào)2.1萬個(gè):針對(duì)“小號(hào)”泛濫、惡意注冊(cè)等行為,SoulApp通過設(shè)備識(shí)別技術(shù),對(duì)同一設(shè)備下存在的多個(gè)違規(guī)賬號(hào)進(jìn)行批量拉黑,從源頭上打擊黑灰產(chǎn)團(tuán)伙的作惡空間。
?教育用戶文明發(fā)言,累計(jì)觸達(dá)33.7萬用戶:對(duì)于網(wǎng)絡(luò)社交規(guī)范,平臺(tái)注重“疏”和“導(dǎo)”——通過系統(tǒng)消息、彈窗提醒、社區(qū)公告等多種形式,積極引導(dǎo)用戶遵守社區(qū)規(guī)范,提升網(wǎng)絡(luò)文明素養(yǎng)。
?增加違規(guī)貼提示功能,引導(dǎo)用戶行為符合平臺(tái)規(guī)范:平臺(tái)不僅告知用戶違規(guī),還會(huì)附帶違規(guī)理由和站內(nèi)用戶行為規(guī)則的解讀,幫助用戶理解并改正。
在群聊治理方面,SoulApp針對(duì)群聊場(chǎng)景的特點(diǎn),采取了精細(xì)化管理:
?日均中斷語音違規(guī)消息條數(shù)4萬+:語音群聊是社交的重要形式,平臺(tái)通過語音識(shí)別技術(shù),對(duì)違規(guī)語音消息進(jìn)行實(shí)時(shí)中斷,并對(duì)發(fā)布此類內(nèi)容的用戶進(jìn)行專項(xiàng)處置。
?日均攔截違規(guī)文字消息條數(shù)2.7萬+:文字消息同樣受到嚴(yán)格監(jiān)控,確保群聊內(nèi)容的合規(guī)性。
?日均梯度處罰違規(guī)用戶數(shù)1.7萬+:針對(duì)群聊中的違規(guī)用戶,平臺(tái)會(huì)根據(jù)違規(guī)程度進(jìn)行不同梯度的處罰,從輕微警告到永久封禁。
在私聊社交生態(tài)建設(shè)方面,SoulApp的舉措旨在提升用戶私密交流的安全性與舒適度:
?季度上線/迭代策略36+:平臺(tái)在私聊安全方面持續(xù)進(jìn)行策略的更新和優(yōu)化,以應(yīng)對(duì)不斷變化的風(fēng)險(xiǎn)。
?騷擾消息自見策略日均保護(hù)2.3萬+用戶:主動(dòng)識(shí)別并處理騷擾消息,減少用戶被騷擾的困擾。
?消息盒子輔助用戶日均收納消息5k+:幫助用戶更好地管理和過濾不重要的消息,提升私聊體驗(yàn)。
重拳整治網(wǎng)絡(luò)暴力,超八成用戶感受環(huán)境改善
網(wǎng)絡(luò)暴力作為數(shù)字時(shí)代的一大社會(huì)公害,其隱蔽性、擴(kuò)散性和傷害性日益凸顯。SoulApp對(duì)此高度重視,建立“技術(shù)識(shí)別+人工審核+用戶教育”三位一體的全方位治理體系,旨在從源頭預(yù)防、過程中干預(yù)、事后懲戒和引導(dǎo)等多維度,全面遏制網(wǎng)絡(luò)暴力行為。
在技術(shù)識(shí)別層面,SoulApp部署了AI內(nèi)容識(shí)別系統(tǒng)。系統(tǒng)能夠?qū)τ脩舭l(fā)布的文字、圖片、語音等內(nèi)容進(jìn)行實(shí)時(shí)、精準(zhǔn)地掃描和分析,自動(dòng)識(shí)別出包含侮辱、誹謗、人身攻擊等網(wǎng)絡(luò)暴力傾向的內(nèi)容。從而實(shí)現(xiàn)對(duì)涉網(wǎng)暴內(nèi)容的快速預(yù)警和標(biāo)記。
同時(shí),SoulApp完善用戶舉報(bào)機(jī)制,建立了便捷高效的舉報(bào)通道,鼓勵(lì)用戶積極參與到網(wǎng)絡(luò)暴力的監(jiān)督和治理中來。用戶一旦發(fā)現(xiàn)網(wǎng)絡(luò)暴力行為,可以迅速通過舉報(bào)功能向平臺(tái)反饋;在用戶教育層面,SoulApp深知“防患于未然”的重要性。平臺(tái)通過多種形式開展網(wǎng)絡(luò)文明宣傳,提升用戶的網(wǎng)絡(luò)素養(yǎng)和對(duì)網(wǎng)絡(luò)暴力的認(rèn)知,包括:
?典型案例公示:定期公布處理的網(wǎng)絡(luò)暴力典型案例,以案示警,讓用戶清晰了解平臺(tái)對(duì)此類行為的零容忍態(tài)度。
?防網(wǎng)暴指南推送:推送實(shí)用的防網(wǎng)絡(luò)暴力指南,教授用戶如何識(shí)別、應(yīng)對(duì)和舉報(bào)網(wǎng)絡(luò)暴力,及如何保護(hù)個(gè)人信息。
?社區(qū)共識(shí)推動(dòng):通過線上活動(dòng)、話題討論、官方賬號(hào)宣導(dǎo)等方式,積極推動(dòng)形成“人人抵制網(wǎng)暴”的社區(qū)共識(shí),營造互助友愛的社區(qū)氛圍。
綜合性措施的實(shí)施帶來了顯著的治理成效:
?日均保護(hù)用戶免遭網(wǎng)暴騷擾3956人:平臺(tái)的主動(dòng)防御和干預(yù)機(jī)制,日均有效阻止近4000名用戶免受網(wǎng)絡(luò)暴力和惡意騷擾的侵害。
?日均處理私聊不文明行為用戶2146人:私聊是網(wǎng)絡(luò)暴力的隱蔽發(fā)生地,平臺(tái)對(duì)此類行為的精準(zhǔn)識(shí)別和處理,有效凈化了私密交流空間。
?日均提醒引導(dǎo)私聊文明發(fā)言211710次:大量的善意提醒和引導(dǎo),有助于培養(yǎng)用戶在私聊中的文明習(xí)慣,從源頭減少不文明行為的發(fā)生。
?累計(jì)433199人簽署友善互動(dòng)聲明:簽署友善互動(dòng)聲明是用戶對(duì)文明社交的承諾,這一數(shù)據(jù)的持續(xù)增長,體現(xiàn)了用戶對(duì)平臺(tái)倡導(dǎo)的友善文化的積極響應(yīng)和認(rèn)同。
相關(guān)舉措的有效實(shí)施,不僅顯著凈化了網(wǎng)絡(luò)空間,更重要的是,超過八成的用戶在問卷調(diào)查中表示,他們明顯感受到了平臺(tái)環(huán)境的改善,社交體驗(yàn)更加安全和愉悅。這正是SoulApp致力于構(gòu)建清朗網(wǎng)絡(luò)空間的最佳反饋。
AI護(hù)航未成年人,筑牢成長防護(hù)網(wǎng)
未成年人是互聯(lián)網(wǎng)的原住民,也是最需要重點(diǎn)保護(hù)的群體。SoulApp始終將未成年人網(wǎng)絡(luò)安全保護(hù)視為平臺(tái)義不容辭的社會(huì)責(zé)任。平臺(tái)明確規(guī)定,不允許未成年人在平臺(tái)上注冊(cè)賬戶,從源頭上杜絕未成年人接觸不適宜內(nèi)容。同時(shí),對(duì)于極少數(shù)已經(jīng)注冊(cè)的未成年用戶,平臺(tái)會(huì)自動(dòng)識(shí)別并將其賬戶切換到青少年模式,提供專屬的保護(hù)環(huán)境。
為了更精確、更全面地識(shí)別和保護(hù)未成年用戶,SoulApp構(gòu)建了一套包括身份認(rèn)證、年齡識(shí)別、18歲以下年齡限制、防沉迷系統(tǒng)、正能量內(nèi)容池、隱私保護(hù)等在內(nèi)的全方位未成年保護(hù)體系。本季度,平臺(tái)在這一體系中再次實(shí)現(xiàn)了重大突破——首次在識(shí)別鏈路中引入了AI大模型,以顯著提升識(shí)別精度與覆蓋廣度。
本次新引入的AI大模型,具備高度智能化的判斷能力,能夠有效判斷用戶的人設(shè)是否為未成年人,并進(jìn)一步識(shí)別是否存在成年人“開玩笑偽裝”成未成年人的情況,從而極大減少了未成年人“漏放”帶來的風(fēng)險(xiǎn)。同時(shí),它也有效避免了對(duì)成年用戶的誤封誤判,提升了整體識(shí)別準(zhǔn)確率與用戶體驗(yàn),確保了保護(hù)措施的精準(zhǔn)性和有效性。
報(bào)告中列舉的關(guān)鍵數(shù)據(jù)顯示了這一體系的強(qiáng)大效能:
?未成年識(shí)別和未成年保護(hù)策略共51條:體現(xiàn)SoulApp在未成年人保護(hù)方面投入的精力和細(xì)致程度,涵蓋了從注冊(cè)、內(nèi)容瀏覽、互動(dòng)交流到時(shí)間管理等各個(gè)環(huán)節(jié)。
?策略識(shí)別假成年人貢獻(xiàn)率高達(dá)99%:這一數(shù)據(jù)是新AI大模型在未成年保護(hù)領(lǐng)域取得的里程碑式成就。高達(dá)99%的貢獻(xiàn)率意味著絕大多數(shù)試圖偽裝成未成年人的成年用戶都能被精準(zhǔn)識(shí)別,從而有效阻止了他們進(jìn)入未成年人專屬的保護(hù)空間,極大地提升了未成年人模式的純凈度和安全性。
SoulApp通過持續(xù)的技術(shù)創(chuàng)新和嚴(yán)格的策略執(zhí)行,為未成年人筑起了一道堅(jiān)實(shí)的網(wǎng)絡(luò)安全防護(hù)網(wǎng),確保他們?cè)谄脚_(tái)上的每一次互動(dòng)都安全、健康、積極。
持續(xù)深耕生態(tài)安全,共創(chuàng)美好社交未來
《2025生態(tài)安全半年報(bào)》的發(fā)布,不僅是對(duì)平臺(tái)過去半年努力成果的總結(jié),更是對(duì)未來責(zé)任的再次承諾。SoulApp深知,網(wǎng)絡(luò)生態(tài)安全建設(shè)是一項(xiàng)長期而艱巨的任務(wù),需要平臺(tái)持續(xù)投入、不斷創(chuàng)新。未來,SoulApp將繼續(xù)秉持“用戶第一”的原則,將用戶安全和體驗(yàn)放在首位。
持續(xù)加大在技術(shù)研發(fā)方面的投入,特別是深化AI、大數(shù)據(jù)等前沿技術(shù)在生態(tài)安全領(lǐng)域的應(yīng)用,不斷提升風(fēng)險(xiǎn)識(shí)別和治理能力,與廣大用戶攜手,共同努力,不斷完善生態(tài)安全體系,為構(gòu)建清朗、健康、有愛的網(wǎng)絡(luò)社交空間貢獻(xiàn)更多力量。
11本已完結(jié)科舉流明朝歷史架空小說,蟾宮折桂學(xué)子,六元及第狀元
13本已完結(jié)魔道流小說,殺得凡夫九百萬,方可證得大天魔
9本已完結(jié)歷史架空類仙俠小說,滾滾長江東逝水,唯有仙人如磐石