半年封禁假账号超1200万个,小红书如何对抗“伪素人”?

南都N视频APP · 隐私护卫队课题组
原创2025-09-18 13:43

你是否在小红书上见过以卖货为目的的“伪素人”?他们往往将自己的身份包装成职场精英、宝妈、留学生等,一边发布日常生活笔记积累信任,一边在笔记中插入广告内容,甚至通过小团伙配合,在评论区“自问自答”引导营销。为打击此类虚假营销内容,提高内容质量,小红书在过去半年开展了一次专项行动。

9月17日,小红书在京举办“打击虚假营销”治理开放日,并公布平台治理策略与半年治理成果。南都N视频记者现场获悉,自今年3月小红书“打击虚假营销战队”成立以来,半年已封禁虚假账号超1200万个,处置虚假营销笔记1376万篇,清理虚假评论超3.6亿条,虚假营销内容曝光整体下降了60%。

图片

小红书虚假营销治理负责人莱戈发言 图源主办方

账号、内容、行业等五大板块齐治虚假营销

开放日上,虚假营销治理负责人莱戈在谈及此次行动目的时提到,普通用户的真诚分享,构成了小红书真实的UGC内容生态,也为更多用户提供经验、信息和决策参考。可以说,“真实”是小红书社区的底色,是其生存发展的基础。然而,一些有着不良经营意图的经营主体,通过伪装成素人在平台上发布虚假内容进行营销,破坏了小红书真实的社区生态,应予以持续重点打击。

同时,打击虚假营销有利于维持公平的商业秩序。莱戈表示,部分商家靠虚假营销推广低质产品,拉低用户体验,损害用户权益,导致用户对平台的信任度降低。还会形成“劣币驱逐良币”效应,合规商家或被迫加入造假行业,导致商业生态的恶化。“我越假,我的流量会越好,我卖得越好,那更多人就会来造假——这是商业秩序的失衡,那我们要重塑这个平衡。”

虚假营销的核心是通过伪装真实,实现营销目的。为打破“伪素人”打造的营销假象,今年3月,小红书成立了“打击虚假营销战队”,构建了账号、内容、行业、品牌、搜索五大治理板块,对虚假营销进行系统化、全链路治理。开放日上,五大治理板块的核心成员分别介绍了各自的工作重点和治理策略。

以账号治理为例,其关键是从源头揪出“假号”。账号治理负责人必行指出,当前主要打击的“假号”有两类,一类是机构自建编辑团队持有运营的“伪素人”账号,他们会精心打造学子家长、时尚白富美等人设,一边发布日常生活笔记积累信任,一边在笔记中穿插虚假营销内容,让用户误以为是“真实体验推荐”。

在治理对策方面,必行表示,小红书会通过分析内容生态,识别出其与特定品牌或产品存在异常高频关联,或通过算法分析识别出其在核心信息、表达或呈现方式上存在异常聚类的内容集群,将这类账号“揪出来”,根据真诚度维度采取阶梯式处罚。

另一类是“众包”账号,通过低价招募宝妈、学生等,用其个人账号批量发布虚假营销笔记和评论。这类账号与普通用户行为特征存在明显差别,平台会通过追踪账号间的关联,实现“从账号到团队”的全链条打击。

从行业治理看,该板块负责人星灼表示,在留学移民、房产、婚恋、母婴、旅游等重大消费决策领域,不少用户会把小红书视为获取真实经验信息的一个重要来源,相关笔记内容可能影响其下一步决策。她举例,一类常见案例是把自己打造成从顶级海外高校毕业的学生,分享自己的留学经历,再将自己曾“委托”的中介机构推荐给其他来咨询的用户,达到推销中介机构的目的。这些涉及金额高的领域是虚假营销的“重灾区”,需开展专项治理。

为此,小红书深入行业内部摸清营销套路,针对商家设置了包括“入驻、营销、提供服务”三环节的资质准入标准和清晰的内容规范,清退了大批违规账号。留学、婚恋行业和房地产、文旅行业的违规账号浓度分别下降了90%和50%。

迭代20余个AI大模型大幅提升识别能力

要不断提高对虚假营销内容和账号的识别和处置效率,技术的升级必不可少。南都N视频记者从会上了解到,半年间,上述战队上线了“虚假营销内容识别”、“异常账号监测”等50余项核心治理策略;迭代了20多个AI识别大模型,比如模板化笔记识别大模型、伪素人账号识别模型、众包行为监测模型等,大幅提升了识别能力。

在技术体系中,值得关注的是“生态哨兵”系统与“黑种子库”的建设。小红书技术团队的令宜介绍,之前内容风险需要累积到一定程度,才能被平台所感知,对风险做出判断总结之后再建立应对策略,整个处置链路较为复杂而漫长。而如今的“生态哨兵”可以系统梳理一定时间段内的新发布笔记,一旦出现大量同质、异常内容,就能通过算法快速识别,令治理响应速度从“周级别”提升至“小时级/实时”。

此外,“黑种子库”目前已积累18万条违规数据样本,将用户新发笔记内容与违规数据样本进行多模态对比,相似度高则直接召回审核,实时高效拦截虚假营销。这些基础建设日趋成熟,能够快速被各个治理板块调用,令治理降本增效。

持续半年的打击行动成果颇丰,接下来,小红书在虚假营销治理方面还有何计划?莱戈在开放日上表示,虚假营销的“强隐蔽性”和“强对抗性”决定了治理是一场“持久战”,未来还将从三个方面加大治理力度。

一是围绕品牌、账号、笔记、评论等全方位持续提升相关识别能力,实现对虚假营销的更高效精准打击;二是不断更新线索挖掘策略,提升全自动化处置能力;三是不断优化算法模型,提升真实营销内容给用户的体验。“实际上,虚假伪装被识破之后形成的杀伤力,对用户体验的冲击比较大。所以我们如何在治理的过程中通过一些策略来保护用户体验,让用户不再频繁地被这种内容触及和伤害,提高用户的满意度,是我们接下来要去做的一个方向。”他说。

采写:南都N视频记者 樊文扬

编辑:李玲

南都N视频,未经授权不得转载、授权联系方式
banquan@nandu.cc. 020-87006626