点击爱心捐款图标后却跳转至诈骗平台，结识“网友”后被诱导注册赌博网站账号，扫描短视频二维码被引流到色情网页……你是否在网络平台遇到过类似的情形？近年来，面对网络“黑灰产”乱象日益猖獗，为有效保障用户安全与内容健康，多家主流互联网平台纷纷在管控治理上采取强硬手段，净化网络空间。

2024年12月31日，YY直播发布2024年度平台生态治理报告，全面展示该平台在打击网络黑灰产方面取得的成效。报告数据显示，2024年1月至12月期间，YY直播共封禁、处理涉网络欺诈、涉赌引流等黑灰产账号193940个，拦截风险充值金额高达2100万元，在内容生态健康方面，共清查违规信息125389条。

值得注意的是，不同于往年，2024年无论是平台制度规范建设层面还是持续开展的“清朗”系列专项行动，治理范围和力度都有了明显提升。众所周知，网络生态治理是一个长效、长期的行动，随着新技术迭代更新，网络“黑灰产”也呈现出了新的特点，给平台治理带来了难度。在成功构建更加清朗的网络环境背后，YY直播平台有哪些成功的经验与方法？

打击平台黑灰产的“科技利器”

2024年7月，一封来自广州市番禺区公安分局的感谢信送到了YY直播。信中对YY直播在配合破获涉赌博诈骗案件中的快速响应，积极合作表示感谢。据了解，类似的情景在该平台不胜枚举。而这些好评的背后，正是YY直播平台持之以恒地投入技术力量在提升平台治理方面的体现。报告数据显示，2024年1月至12月期间，YY直播向公安机关输出涉网络黑灰产案件破案线索185条，协助公安机关抓获犯罪嫌疑人114人。

直播平台既是互联网经济新业态的代表，又是社会价值的重要出口。中国互联网络信息中心发布的第53次《中国互联网络发展状况统计报告》显示，截至2023年12月，我国网络直播用户规模达8.16亿人，占网民整体的74.7%。网络直播用户规模之巨，凸显了平台治理之难。

作为泛娱乐直播行业头部企业，近年来，YY直播从增强科技反诈实力、持续投入平台资源、强化警企联动三个主要方向入手，实现对涉诈信息精准拦截，对涉诈事件快速处置，对涉诈团伙精准打击，平台防诈反诈工作取得显著成果。

尤其是在科技反诈方面，YY直播自主研发的防诈反诈专属系统——“风盾”已成为平台反诈利器。截至目前，“风盾”系统已经建立了完整的“监控—识别—核查—阻断”全流程，确保一旦发现风险账号，能够迅速进行处理，有效保障平台用户的财产安全和平台内容健康。“我们始终坚持自主研发，致力于提升‘风盾’系统的综合能力。”YY直播“风盾”系统负责人表示， 2024年以来，依托“风盾”系统成功拦截风险交易2100万元，用户投诉数据持续走低，黑灰产相关风险趋势呈现出稳步下降态势。

“风盾”究竟有何厉害之处？据介绍，该系统于2020年2月投入研发，2021年9月完成升级并正式命名为“风盾”。随后投入使用即“大显身手”。2022年1月至11月期间，YY直播依托“风盾”系统，追踪诈骗事件总量22630件，挽回诈骗交易400余万元，拦截风险交易共计1500余万元。

该系统拥有以AI技术手段构建起的完整自循环处理机制，事前通过大量用户行为分析建模，建立用户风险画像；事中通过实时规则策略进行风险挑战和拦截；事后通过报表看板、风控预警、客诉反馈监测风险走向并对画像和规则进行调整。如今，经过两年多的升级发展，“风盾”系统不仅在原有基础上成功启用IP风险等级划分功能，并根据风险等级分别进行警告、拦截、限制交易、封禁等处理措施，减少涉诈风险交易发生率。此外，“风盾”系统还能根据风险用户在公屏发送的文本，命中关联诈骗的特定关键词，并即刻推送到内容安全中心进行审核，实现对风险用户的精准打击和控制。

精准识别可疑账号。“风盾”不仅拥有可疑账号风险等级划分、涉诈风险交易拦截、自动连接客诉、AI识别关键词命中四大核心技术能力，而且对于低俗、涉黄等其他违规信息也能做到高效处置；此外，“风盾”系统还完善了人机识别技术，强化了验证机制，全面验证用户的真实性与有效性，防止恶意攻击以及盗用他人账号等风险行为。通过优化多个风险识别因子，对诈骗分子利用公屏、群聊、私聊、加好友等渠道进行欺诈的高发节点，实施了跨部门联合控制，有效防御诈骗事件发生。

“专人专岗”果断处置。在平台资源投入方面，联合风控、内安、客服、法务等多个团队组成的“安全中心”充分利用“风盾”技术能力把住防诈反诈第一关，同时实现“专人专岗”对诈骗实施全方位防御和全链条打击。通过内部多团队联动、多渠道部署，将防诈、防骗预警信息嵌入到产品一线，直接下发给用户；此外，中心联合多个机构、组织开展线下反诈宣讲、反诈专场直播、反诈知识互动问答等活动，构建起线上线下并行的反诈“工事”，令网络“黑灰产”无处遁形。

科技互通“有效闭环”。直播间大部分严重的违规背后都是黑灰产团伙操控。公安部发布多起打击网络黑灰产犯罪典型案例显示，网络黑灰产如今已形成分工明确的产业链。其中，广告推广型犯罪处于上游，不仅直接侵犯公民个人信息，而且帮下游的电信网络诈骗、网络赌博、非法经营等违法活动导流获客，给犯罪链条持续“输血供粮”，对公共安全构成威胁。对此，YY直播在打击网络黑灰产的过程中已经形成群防群治、多管齐下的常态化闭环治理。在人力投入方面，由风控、内安、法务、业务等多部门抽调精英骨干组成专项小组，负责全平台打击网络黑灰产专项工作；在业务运营方面将黑灰产治理纳入日常产品运营的合规工作中，做到风险前置；在支付渠道中设置业务、风控、法务三道安全防线，并且利用“风盾”系统，对涉及异常IP地址、异常充值方式订单实施拦截止付，多角度、多手段、全链条保障用户安全上网、安心娱乐。

YY直播相关负责人介绍称，YY直播目前逐渐形成了以“风盾”为技术手段，以多部门联合组建的“安全中心”为责任核心，以警企联动破案和创新策划反诈宣传为抓手的有效闭环生态。

值得一提的是，作为打击平台黑灰产的“科技利器”， YY直播的“风盾”系统，在2024年迎来了重大升级。该系统整合了外部优势资源，引入高新技术，构建起“反欺诈”“反洗钱”双重策略的技术体系，增强了用户端的风险探测能力，并完成了手机应用端的安全加固工作。

直播平台治理是一项复杂而系统的工程，就如“瓷器屋里捉老鼠”，既要打击违规直播，也要防止误伤自由表达，维护平台正常发展生态。“作为法律与监管的重要补充，依靠智能化技术与数据进行诈骗的治理都是一个正确且必要的方向，能够在与电信诈骗的犯罪分子的攻防博弈中不断占据先机，遏制犯罪，防患于未然。”清华大学网络研究院特别研究员邱寒表示，诸如AI等前沿科技目前已经在网络安全和平台治理方面，起到了举足轻重的作用，而作为负责人的平台方，更应该用最先进的技术投入到最严格的治理上。过去一年，通过科技赋能，YY直播平台在打击网络黑灰产方面取得了显著成效。平台负责人表示，未来，YY直播将继续致力于构建一个更加安全、健康的网络环境，保护用户的权益，为社会创造更多的价值。

文：管玉慧

推广