當(dāng)你刷到“‘鋼鐵保姆’機(jī)器人引發(fā)市民搶購(gòu)”的消息時(shí)，需警惕這不過是條假資訊；看到“霸總創(chuàng)業(yè)三年成功買下8000平辦公樓”這類內(nèi)容，也別急著羨慕，所謂的“霸總”只是用來吸引流量的“假人設(shè)”；而當(dāng)知名藝人在視頻中推薦“三無”化妝品，同樣不必驚訝，這很可能是AIGC(人工智能生成內(nèi)容)造假的產(chǎn)物。

　　針對(duì)社媒平臺(tái)上各類博眼球的虛假資訊，平臺(tái)出手，對(duì)“幕后”的黑灰產(chǎn)賬號(hào)開展封禁治理。同時(shí)，專家建議網(wǎng)友“擦亮雙眼”，發(fā)現(xiàn)虛假信息及時(shí)向平臺(tái)進(jìn)行舉報(bào)。

　　【典型案例】

　　當(dāng)網(wǎng)友在社媒平臺(tái)搜索“出國(guó)考試”相關(guān)內(nèi)容時(shí)，可能會(huì)被“掛幾家騙子公司”“騙子公司虛假宣傳真厲害”這類筆記標(biāo)題吸引，點(diǎn)進(jìn)用戶“xx學(xué)長(zhǎng)的留學(xué)日記”等賬號(hào)發(fā)布的內(nèi)容。

　　實(shí)際上，黑灰產(chǎn)組織針對(duì)留學(xué)輔導(dǎo)機(jī)構(gòu)發(fā)布負(fù)面內(nèi)容存在固定套路：他們常以夸張標(biāo)題吸引點(diǎn)擊，文中點(diǎn)名多家規(guī)模較大的留學(xué)輔導(dǎo)機(jī)構(gòu)并附上logo，但正文內(nèi)容十分模糊，雖對(duì)機(jī)構(gòu)進(jìn)行負(fù)面定性卻不闡述具體問題。這些筆記的真實(shí)目的是誘導(dǎo)用戶私信獲取更多信息，當(dāng)用戶私信后，對(duì)方會(huì)誘導(dǎo)將溝通再轉(zhuǎn)移至微信渠道，最終推薦與之合作的機(jī)構(gòu)產(chǎn)品。

　　需要注意的是，黑灰產(chǎn)組織的賬號(hào)常以學(xué)長(zhǎng)、學(xué)姐等虛假人設(shè)批量出現(xiàn)。他們并非只針對(duì)頭部企業(yè)，而是將行業(yè)里幾乎所有企業(yè)、機(jī)構(gòu)都裹挾其中，不和他們合作的就會(huì)被抹黑，這使得用戶很難獲得真實(shí)信息，進(jìn)而難以作出符合自身需求的決策。

　　【應(yīng)對(duì)策略】

　　據(jù)了解，社媒平臺(tái)上，虛假不實(shí)內(nèi)容、虛假人設(shè)和AIGC造假三類“虛假”信息頻發(fā)。黑灰產(chǎn)組織批量制造黑灰產(chǎn)賬號(hào)，通過虛假、重復(fù)、低質(zhì)內(nèi)容騙取用戶流量；養(yǎng)號(hào)漲粉后，又會(huì)發(fā)布虛假、惡意營(yíng)銷內(nèi)容，或者銷售灰色商品，提供灰色服務(wù)，甚至從事違法活動(dòng)，從而實(shí)現(xiàn)不當(dāng)牟利。從建號(hào)到養(yǎng)號(hào)再到牟利，黑灰產(chǎn)賬號(hào)進(jìn)行全鏈路批量造假，對(duì)社區(qū)生態(tài)和秩序的危害十分巨大。

　　針對(duì)這些現(xiàn)象，小紅書平臺(tái)開展了黑灰產(chǎn)賬號(hào)治理行動(dòng)，對(duì)黑灰產(chǎn)堅(jiān)決打擊。2025年上半年，平臺(tái)通過建設(shè)虛假內(nèi)容全鏈路治理體系，共處置虛假筆記320萬篇，處置虛假人設(shè)賬號(hào)1萬個(gè)，處置虛假低質(zhì)AIGC筆記60萬篇；通過持續(xù)建設(shè)“同質(zhì)化識(shí)別”能力，全面提升處置手段，升級(jí)機(jī)器對(duì)抗，共封禁批量造假黑灰產(chǎn)賬號(hào)超1000萬個(gè)。

　　在線上治理的同時(shí)，平臺(tái)調(diào)查團(tuán)隊(duì)還向多地警方和市場(chǎng)監(jiān)督部門積極提供線索，對(duì)黑灰產(chǎn)團(tuán)伙進(jìn)行線下打擊。目前有7起案件在偵辦中，后續(xù)警方和市場(chǎng)監(jiān)督部門將根據(jù)調(diào)查結(jié)果采取各種處罰措施，涉及犯罪行為的還將進(jìn)一步追究刑事責(zé)任。

　　【專家建議】

　　除了平臺(tái)對(duì)虛假信息重拳出擊，網(wǎng)友看到這類虛假信息時(shí)，也可主動(dòng)進(jìn)行舉報(bào)，共同維護(hù)良好網(wǎng)絡(luò)風(fēng)氣。

　　為了確保舉報(bào)渠道暢通，小紅書開通了監(jiān)管網(wǎng)站、App客戶端舉報(bào)、舉報(bào)熱線和舉報(bào)郵箱四種途徑。同時(shí)，在常態(tài)化轉(zhuǎn)發(fā)重要辟謠稿件的基礎(chǔ)上，搭建了辟謠專區(qū)，為用戶提供一站式辟謠信息服務(wù)。

　　人民大學(xué)傳播學(xué)教授董晨宇接受記者采訪時(shí)表示，應(yīng)對(duì)當(dāng)前互聯(lián)網(wǎng)虛假內(nèi)容快速增長(zhǎng)與傳播，需要各平臺(tái)積極打擊，全社會(huì)共同參與。“虛假內(nèi)容無法完全被消滅，但可以通過科普、舉報(bào)、公眾傳播學(xué)素養(yǎng)的提升，將虛假控制在較低的水平線。”

　　文/本報(bào)記者 陳斯

　　來源：北京青年報(bào)