3月10日，小紅書(shū)在首個(gè)“反詐治理開(kāi)放日”上公布了2024年社區(qū)反詐成果。數(shù)據(jù)顯示，2024年小紅書(shū)共處置涉詐違規(guī)賬號(hào)492萬(wàn)個(gè)，主動(dòng)攔截94.3%的詐騙行為，用戶(hù)舉報(bào)量同比下降60%；月均攔截風(fēng)險(xiǎn)登錄6億次，推送風(fēng)險(xiǎn)提醒3700萬(wàn)次，保護(hù)易受害人群140萬(wàn)人，向潛在受騙用戶(hù)外呼12.3萬(wàn)次，反詐成果顯著。

　　小紅書(shū)反詐治理負(fù)責(zé)人蒼連透露，社區(qū)已建立超100個(gè)識(shí)別模型，覆蓋內(nèi)容、行為、關(guān)系等多維度特征，結(jié)合大模型技術(shù)實(shí)現(xiàn)跨場(chǎng)景風(fēng)險(xiǎn)發(fā)現(xiàn)，極大提升主動(dòng)攔截率。

　　開(kāi)放日邀請(qǐng)了法律學(xué)者、警方代表參與討論反詐問(wèn)題，現(xiàn)場(chǎng)參會(huì)者達(dá)成共識(shí)，反詐應(yīng)采取“共同治理”的策略，電信企業(yè)、互聯(lián)網(wǎng)企業(yè)、金融機(jī)構(gòu)、社會(huì)組織和公眾共同積極參加犯罪防治。會(huì)上還討論了AI時(shí)代下網(wǎng)絡(luò)詐騙的挑戰(zhàn)和應(yīng)對(duì)思路。

　　“趕緊去薅騙子的羊毛”、“一起追回投資損失”……這些乍一看是用戶(hù)面對(duì)詐騙團(tuán)伙的應(yīng)對(duì)智慧和抱團(tuán)互助，其實(shí)是新型的詐騙類(lèi)型。

　　蒼連介紹：隨著社會(huì)大環(huán)境的變化，一些手法被詐騙分子放棄，例如涉疫藥品類(lèi)詐騙，但更多新詐騙手法在不斷出現(xiàn)。蒼連現(xiàn)場(chǎng)分享了一組數(shù)據(jù)，2024年小紅書(shū)上累計(jì)有120種詐騙方式，比2023年的96種增長(zhǎng)了25%。同時(shí)，詐騙話術(shù)也在不斷變種以對(duì)抗平臺(tái)打擊，例如“導(dǎo)流到其他平臺(tái)”的線種。

　　面對(duì)詐騙方式和手法的迅速變化，小紅書(shū)反詐團(tuán)隊(duì)在詐騙風(fēng)險(xiǎn)發(fā)現(xiàn)機(jī)制和風(fēng)險(xiǎn)提醒機(jī)制上重點(diǎn)發(fā)力。據(jù)介紹，目前小紅書(shū)已經(jīng)建立100多個(gè)詐騙信息識(shí)別模型，這些模型綜合了內(nèi)容、行為、關(guān)系和基礎(chǔ)環(huán)境等特征，同時(shí)應(yīng)用了大模型能力對(duì)詐騙風(fēng)險(xiǎn)實(shí)現(xiàn)跨場(chǎng)景深度理解，較大提升了對(duì)詐騙風(fēng)險(xiǎn)識(shí)別效率。識(shí)別出風(fēng)險(xiǎn)后，小紅書(shū)會(huì)在筆記、私信、評(píng)論等不同的場(chǎng)景中，用不同的形式對(duì)用戶(hù)進(jìn)行提醒，在詐騙行為發(fā)生過(guò)程中，進(jìn)行攔截阻斷。

　　蒼連舉了主動(dòng)攔截詐騙的例子。暑期出游、娛樂(lè)活動(dòng)較多，詐騙分子通常發(fā)筆記說(shuō)自己可以代訂票或有低價(jià)票，隨即通過(guò)評(píng)論、私信導(dǎo)流到第三方平臺(tái)進(jìn)行詐騙。對(duì)此，小紅書(shū)建立了門(mén)票交易風(fēng)險(xiǎn)模型，及時(shí)發(fā)現(xiàn)異常鏈路，前置攔截詐騙，保護(hù)用戶(hù)財(cái)產(chǎn)安全，“成功打擊了一大批涉詐黃牛，并封禁賬號(hào)5萬(wàn)個(gè)，其中最大的門(mén)票團(tuán)伙就被處置賬號(hào)5千余個(gè)。“

　　得益于此，小紅書(shū)在2024年對(duì)詐騙行為的主動(dòng)攔截率達(dá)到了94.3%，月均推送風(fēng)險(xiǎn)提醒3700萬(wàn)次，月均保護(hù)易受害人群140萬(wàn)人。蒼連說(shuō)：“用戶(hù)對(duì)詐騙的投訴明顯下降，單日舉報(bào)量，2024年底比年初下降了60%?！?

　　在開(kāi)放日上，小紅書(shū)安全調(diào)查負(fù)責(zé)人艾吉介紹了以涉詐情報(bào)合作為核心的警企聯(lián)動(dòng)模式。2024年，小紅書(shū)反詐案件打擊團(tuán)隊(duì)向公安機(jī)關(guān)提供涉詐線條，移交窩點(diǎn)線個(gè)跨省犯罪團(tuán)伙。

　　其中，與河南警方合作偵破的一起“幽靈賬號(hào)”案件引發(fā)關(guān)注，2024年9月，小紅書(shū)AI風(fēng)控系統(tǒng)通過(guò)跨維度異常數(shù)據(jù)預(yù)警，發(fā)現(xiàn)一批活躍于互聯(lián)網(wǎng)上的“幽靈賬號(hào)”：這些賬號(hào)使用不同地區(qū)手機(jī)號(hào)注冊(cè)，且短期內(nèi)密集觸發(fā)“拍立得相紙交易投訴”預(yù)警，單日資金流水呈現(xiàn)“小額多筆轉(zhuǎn)入—集中轉(zhuǎn)出清零”的異常規(guī)律。

　　平臺(tái)發(fā)現(xiàn)該線索后與當(dāng)?shù)毓膊块T(mén)緊密配合，警方依托平臺(tái)提供的線后為主體的犯罪團(tuán)伙。該團(tuán)伙通過(guò)非法購(gòu)買(mǎi)借貸用戶(hù)隱私數(shù)據(jù)，誘餌騙取他人手機(jī)號(hào)及驗(yàn)證碼，批量注冊(cè)虛假商家賬號(hào)，利用“低價(jià)攝影耗材”等話術(shù)誘導(dǎo)受害者多次轉(zhuǎn)賬，每完成3到5次詐騙即廢棄賬號(hào)，關(guān)聯(lián)賬戶(hù)轉(zhuǎn)入專(zhuān)業(yè)洗錢(qián)平臺(tái)，最終以虛擬幣化整為零提現(xiàn)。專(zhuān)案組突破傳統(tǒng)反詐技術(shù)瓶頸，反查100余個(gè)關(guān)聯(lián)作案賬號(hào)的登錄行為，精準(zhǔn)鎖定6名嫌疑人物理身份。該案1個(gè)月內(nèi)實(shí)現(xiàn)全鏈條收網(wǎng)，有效打擊新型詐騙犯罪行為。

　　艾吉表示，通過(guò)技術(shù)手段與大數(shù)據(jù)分析，小紅書(shū)向公安機(jī)關(guān)提供高質(zhì)量的線索和數(shù)據(jù)支持， 依托交易行為分析模型等，及時(shí)發(fā)現(xiàn)異常鏈路并向警方推送精準(zhǔn)詐騙線索 ；同時(shí)建立了涉詐資金快速凍結(jié)機(jī)制，對(duì)于公安反饋的涉詐資金進(jìn)行及時(shí)攔截；平臺(tái)還針對(duì)高發(fā)詐騙成立專(zhuān)項(xiàng)進(jìn)行打擊，目前重點(diǎn)打擊專(zhuān)項(xiàng)包括，涉未成年的詐騙專(zhuān)項(xiàng)、涉公檢法詐騙專(zhuān)項(xiàng)、暑期涉詐黃牛專(zhuān)項(xiàng)等。

　　中國(guó)犯罪學(xué)會(huì)副會(huì)長(zhǎng)兼信息犯罪防控專(zhuān)業(yè)委員會(huì)主任、同濟(jì)大學(xué)法學(xué)教授皮勇介紹，為了有效遏制電信網(wǎng)絡(luò)詐騙犯罪，我國(guó)實(shí)施“打防結(jié)合、共同治理”新策略，強(qiáng)化了對(duì)包括電信網(wǎng)絡(luò)詐騙犯罪在內(nèi)的網(wǎng)絡(luò)犯罪的刑事打擊，同時(shí)，要求電信企業(yè)、互聯(lián)網(wǎng)企業(yè)、金融機(jī)構(gòu)、社會(huì)組織和公眾各方共同防治犯罪。

　　在談到當(dāng)前電信網(wǎng)絡(luò)詐騙的挑戰(zhàn)時(shí)，皮勇表示，人工智能時(shí)代已來(lái)，大量高度仿真的音視頻信息、人形仿真機(jī)器人都會(huì)被用于網(wǎng)絡(luò)詐騙犯罪，電信網(wǎng)絡(luò)詐騙犯罪會(huì)升級(jí)到更高層次的自主智能詐騙，目前已經(jīng)發(fā)生盜用知名必一運(yùn)動(dòng)網(wǎng)站入口人士的聲音、影像，利用深度合成技術(shù)制作虛假音視頻，向網(wǎng)絡(luò)用戶(hù)推銷(xiāo)偽劣商品或虛假服務(wù)的案件，打擊這類(lèi)犯罪的難度更大，需要國(guó)家機(jī)關(guān)、人工智能研發(fā)應(yīng)用單位、網(wǎng)絡(luò)平臺(tái)和公眾與時(shí)俱進(jìn)，提高防治新型智能詐騙犯罪的能力。

　　針對(duì)當(dāng)前一些詐騙分子利用AI技術(shù)偽造素材的情況，以及詐騙可能利用深度理解大模型來(lái)降低成本提升效率的問(wèn)題，蒼連表示平臺(tái)也會(huì)不斷提升自己的AI能力進(jìn)行反制，并將AI技術(shù)與傳統(tǒng)平臺(tái)治理手段結(jié)合，實(shí)現(xiàn)更好的應(yīng)對(duì)。