6月12日，小红书在北京举办“打击虚假”治理开放日，公布2025年上半年社区虚假内容治理成果：通过建设虚假内容全链路治理体系，共处置虚假笔记320万篇，处置虚假人设账号1万个，处置虚假低质AIGC笔记60万篇；通过持续建设“同质化识别”能力，全面提升处置手段，升级机器对抗，共封禁批量造假黑灰产账号超1000万个。

小红书等网络平台大力打击虚假内容，凸显了虚假内容对网络社区健康发展造成严重危害的严峻现实。虚假内容扰乱了网络社区的清朗环境，给用户接收和寻找信息带来困扰，也对品牌商家的商誉产生负面影响。而其中批量造假的黑灰产账号，通过虚假、重复、低质内容骗取用户流量；养号涨粉后又发布虚假、恶意营销内容不当牟利，对网络社区生态秩序造成格外大的危害，亟须依法依规进行综合治理，有针对性地予以严厉打击。

有关职能部门、监管执法部门对打击虚假内容、黑灰产恶意营销高度重视，多次部署专门专项治理行动。如2024年1月，中央网信办开展“清朗·2024年春节网络环境整治”专项行动，整治重点之一为“炮制虚假信息、恶意营销炒作问题”。2024年8月，中央网信办开展“清朗·网络直播领域虚假和低俗乱象整治”专项行动，整治重点之一为“编造虚假场景人设，无底线带货营销”。今年4月，中央网信办开展“清朗·整治短视频领域恶意营销乱象”专项行动，从严打击恶意虚假摆拍、散布虚假信息、违规引流营销等恶意营销乱象。

网络平台作为互联网生态的“中枢机构”，对互联网生态建设和平台治理负有重要的主体责任，依法打击虚假内容，严惩炮制虚假信息、编造虚假场景人设、恶意虚假摆拍等行为，就是平台履行治理主体责任的一个重要方面。具体到小红书这样的“普通人创作内容”社区平台，“分享真实的内容”和“真诚分享”既是平台用户自发形成的内容创作准则，也是社区平台的核心价值观。因此，打击虚假、提倡真实既是社区平台持续健康发展的内在要求，也是社区平台履行治理主体责任的必然选择。

打击虚假内容解决了“必须打”的问题，还要解决“怎么打”的问题。后者又分为两个方面：一是充分发挥社区平台在技术上、机制上的特色优势，对虚假内容“零容忍”，对黑灰产等不当牟利行为露头就打。据小红书相关负责人介绍，针对虚假不实内容、虚假人设和生成式人工智能（AIGC）造假等三个造假重灾区，小红书制定了相应的打假策略。如在虚假不实内容治理方面，建构了“前置拦截、事中追踪、分析回扫”全链路治理体系，上线了内容信息量模型、笔记摘要提取模型等15个识别大模型，建立了真实信源库和谣言库，实现了对虚假内容的实时拦截和批量回扫。而针对批量造假的黑灰产账号，上线50多个模型，建立了以“同质化识别”为核心的风控体系，将对黑灰产的识别召回率提升了72%。

 其二，要持续加大对涉打击虚假内容的技术研发、模式创新和人才培养的投入，确保打假技术进步、模式优化和人才发展走在造假者的前面。这方面工作亟须引起高度重视，成为网络平台特别是内容社区平台完善综合治理、推进高质量发展的基础性保障。

网络平台对虚假内容治理负有重要主体责任，但必须明确，打击虚假内容仅靠平台是不够的，而且仅靠一两家平台也是不够的。遏制互联网虚假内容快速增长泛滥，需要各平台联手共治、协同合作、精准打击，需要全社会共同参与、提高认识、积极履责。对内容社区平台而言，用户作为内容创作的主体，实际上也是社区的主人，因此尤其需要通过打击虚假内容，让社区平台和用户紧密团结起来，共筑社区平台生态良性健康发展的坚实屏障。

文/姜兆尹

编辑/汪浩舟