海外留学生Karen最近遭遇了一场数字幻灭——她在社交平台上反复咨询的“学长”，实际是盗取他人内容拼接的虚拟账号，“感觉自己被骗了，体验很不好。”

类似Karen遇到的情况，对于社交平台用户来说并不陌生，实际上，随着科技的发展，各种虚假内容在各个网络平台甚嚣尘上，其对于内容平台、内容社区根基的侵蚀性正在逐渐显现。针对这一问题，小红书主动出击，对虚假内容进行严厉打击。今年6月12日，小红书“打击虚假”治理开放日在北京举行，其公布的社区虚假内容治理成绩斐然，充分显示了一个以真实为基因的内容社区所具有的社会责任意识。

高效精准可持续，小红书为“打假”三管齐下

“钢铁保姆”机器人引发市民抢购？霸总创业三年成功买下8000平办公楼？知名艺人在视频中推荐“三无”化妆品？这些耸动而带有引导性的内容，其实都是虚假内容。在“打击虚假”治理开放日现场，小红书向公众公布了2025年上半年社区虚假内容治理成果。数据显示，通过建设虚假内容全链路治理体系，共处置虚假笔记320万篇，处置虚假人设账号1万个，处置虚假低质AIGC笔记60万篇；通过持续建设“同质化识别”能力，全面提升处置手段，升级机器对抗，共封禁批量造假黑灰产账号超1000万个。这一成果不仅证明了小红书在打击“虚假”方面的严厉程度，同时也从侧面反映出了，虚假内容在以小红书为代表的社交平台上的泛滥，打击“虚假”刻不容缓。

据小红书虚假内容治理负责人蒂法介绍，虚假不实内容、虚假人设和AIGC造假是小红书当前打击“虚假”的三大重点。在她看来，虚假内容的出现对于小红书的健康生态影响巨大，“打击‘虚假’将作为小红书的长期治理重点，持续投入人力和技术力量，不断提升治理效果。”

小红书黑灰产账号治理负责人必行在活动现场介绍了黑灰产账号从建号到养号再到牟利的整个流程，“黑灰产账号进行全链路批量造假，对社区生态和秩序的危害十分巨大。”基于此，小红书社区自2024年11月中启动了小红书黑灰产账号治理专项，专项开展1个月，封禁126万黑灰产账号；开展3个月，封禁320万黑灰产账号；开展7个月，封禁超1000万黑灰产账号。“（小红书）对黑灰产坚决打击，绝不让步半分”，必行表示。

无论是虚假内容，还是黑灰产账号，都具有数量巨大、隐蔽性强、变体快和对抗强等特征，鉴于此，小红书治理团队从多个角度入手，以进一步提升打击效果。

在虚假不实内容治理方面，小红书建构了“前置拦截、事中追踪、分析回扫”的“前中后”全链路治理体系；上线了内容信息量模型，笔记摘要提取模型，AIGC谣言诊断模型等15个识别大模型，并建立了真实信源库和谣言库，实现了对虚假内容的实时拦截和批量回扫，半年共处置虚假笔记320万篇。

在虚假人设治理方面，小红书设置了内容前置审核制度，采用了账号关系挖掘分析策略，并上线多个图像及视频识别模型，通过综合笔记内容和账号信息进行分析判断，对虚假人设进行精准打击，半年共处置虚假人设账号1万个。

此外，小红书还不断加大对AIGC识别模型的研发投入，进一步提高识别精准度，减少虚假低质AI内容的曝光。同时，平台对AIGC生成内容做主动标识工作，提升信息透明度。半年共处置治理虚假低质AI笔记60万篇。

而针对黑灰产账号，小红书治理团队则从识别能力和处置能力两方面重点入手。截至目前，小红书已经上线50多个模型，建立了以“同质化识别”为核心的风控体系，将对黑灰产的识别召回率提升了72%。而在处置能力方面，小红书则不断优化处置策略，极大提升黑灰产作恶成本；全面升级机器对抗，用机器判罚大规模代替人工判罚，大幅提高对黑灰产账号的处置量级及时效性。

值得一提的是，在线上治理的同时，小红书案件调查团队还向多地警方和市场监督部门积极提供线索，对黑灰产团伙进行线下打击。目前有7起案件在侦办中，后续警方和市场监督部门将根据调查结果采取各种处罚措施，涉及犯罪行为的还将进一步追究刑事责任。

需要认识到的是，由于人类社会信息传播的本源性困境，虚假内容存在着无法被彻底消灭的事实，尤其是伴随着传播技术的迭代、信息环境的复杂化，这一情况愈发常见，“应对当前互联网虚假内容快速增长与传播，需要各平台积极打击，更多全社会共同参与。”中国人民大学传播学副教授董晨宇在开放日现场说道。

建立具有可持续性的举报机制，鼓励用户参与共治，是帮助减少虚假内容在网络泛滥的有效举措之一。在开放日上，小红书审核培训师给现场观众上了一节“打假”志愿者培训课，展示了近10个不同类型的造假案例，引发了观众的鉴假热潮。在场多位观众表示，会将学到的鉴假方法应用到对虚假内容的鉴别和举报中。

在6月11日的中国网络文明大会上，小红书副总裁许磊介绍：目前，小红书已经建立了较为完善的虚假信息举报制度。其不仅开通了监管网站、APP客户端举报、举报热线和举报邮箱四种途径，还在常态化转发重要辟谣稿件的基础上，搭建起辟谣专区，为用户提供一站式辟谣信息服务；官方账号“薯管家”更是每周定期发布辟谣笔记，以帮助用户判断虚假内容。

许磊还表示，小红书是“普通人创作内容”的社区，“分享真实的内容”和“真诚分享”不仅是平台用户自发形成的内容创作准则，也是小红书的社区价值观。因此，打击虚假，提倡真实是小红书的必然选择。

治理开放日现场，小红书黑灰产账号治理负责人必行介绍，为了进一步鼓励用户分享自己的“真实体验”，小红书在严打虚假内容之外，还特别设立了“真诚分”账号体系，从分享动机、内容质量多方面判断账号是否真诚，从而对真诚的创作者给予流量倾斜，对虚假低质的杂音噪声进行压制，也用坚决的态度，对虚假内容说“不”。

治理网络虚假内容刻不容缓

从“反诈开放日”，到“打击‘虚假’治理开放日”，小红书作为广受用户欢迎的内容社区，主动承担社会责任，在内容治理方面做出了积极的表率作用，多角度全方位的链路、机制等设计都是其严厉治理虚假内容的决心的体现，而这也从侧面反映出了虚假内容对于当前网络安全与健康方面的影响之巨大。

目前情况来看，随着现代信息技术的迭代，人工智能生成内容成为市场热点，人们甚至无需亲临现场、真实体验，就能构建出一篇活灵活现的“体验式分享”，并将之在社交平台进行发布，进而影响到巨量的受众。技术的发展不仅加快了虚假内容的生产流通速度，同时也大规模降低了虚假内容的制作门槛，导致其对网络生态内容的健康发展产生的负面影响越来越大。

不如仅此，网络世界消弭了时空的界限，虚假内容可以在任何时间任何地点被发布到社交平台之上，而时差的存在则从客观程度上延长了虚假内容的存活时间，使其影响范围变得越发之广。

更为重要的是，当信息过载，受众的注意力被迅速分散，以至于其很难在短时间内对其进行真假判断，尤其是面对包装精致的虚假内容时，主动判断其真假的难度更是明显上升，这一情况的发生不仅会造成信任机制的动摇，也会造成经济秩序的破坏，无论是对于受众个体、平台，还是对于企业、整个社会而言，都弊大于利，治理虚假内容，已然成为了构建健康和谐的网络生态的重要环节，刻不容缓。

2025年，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局制定并发布《人工智能生成合成内容标识办法》，规定“服务提供者提供的生成合成服务，包括文本、音频、图片、视频、虚拟场景等，均应在适当位置添加显著的提示标识；服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识”。这一将于今年9月1日实施的办法不仅标志着我国在生成式人工智能领域迈出了构建安全可信生态的关键一步，同时也在提升受众警惕性和优化平台审核效率方面迈出了积极的一步，为打击网络虚假内容泛滥，构建“清朗”网络空间提供了助力。

互联网的出现，带来了信息的高速交流，它突破了地域与时空的限制，构建起了一个虚拟但真实的世界，对于“真实分享”的渴求与“真诚分享”的举动成了推动互联网世界持续发展的源动力。320万篇被处置的虚假笔记，即是小红书对社区进行治理的答卷，也是其向“虚假”说“不”的旗帜，未来，以“真实”与“真诚”为基因的小红书也将积极通过技术手段、用户共治、机构协作等方式方法，持续打击虚假内容，在为用户构建真实分享平台的同时，助力构建安全清朗的网络空间，让真诚成为数字时代的通行证。