AI智能体自主发起攻击怎么破？专家：防御端需转向主动治理

南都讯 记者李玲 9月14日至20日，2026国家网络安全宣传周在全国范围举行。南都记者获悉，15日，网安周成都系列活动正式启动，作为核心专业板块的2026CCS成都网络安全技术交流活动同期举行，共设有8场平行活动、数十场专题分享和圆桌交流。

在主旨演讲环节中，中国工程院院士黄殿中直指当前全球AI智能体研发的核心困境。他认为，当前智能体训练整体陷入 “内卷死胡同”：过度依赖人工示教，训练数据极度稀缺，真实环境无法开展极限对抗训练，研发模式零散化、小作坊化，始终走在跟随、复刻的路径上，难以实现领跑。

对此，黄殿中认为，需要构建“高保真仿真场景智能体工厂+全维度标准化安全测评体系”，让 “风险留在仿真场，安全落地真实场”。具体怎么做？黄殿中提出了具体方案。

一方面，以数字孪生、场景复刻、攻防仿真技术打造百万至千万级全真场景库，覆盖常规业务、复杂异常、极限攻防、未知风险全场景，实现零风险、零成本、无限次的自主试错训练；另一方面以标准化智能体工厂体系破解碎片化研发痛点，统一场景、标准、数据与能力评价体系；同时配套全维度安全测评体系，守住行为、权限、决策、攻防、伦理五大边界，确保智能升级始终在安全可控框架内推进。

当前，AI智能体迎来快速爆发，也给网络安全攻防带来新的挑战。今年7月16日，全球知名AI开源平台Hugging Face公开宣称，遭到AI智能体入侵。随后，OpenAI发文承认近期在内部测试旗下多款模型时，意外攻破了Hugging Face的网络系统。当AI智能体开始自主发起网路攻击，该如何应对？

赛博英杰创始人谭晓生认为，当前攻击端已进入 “工业化生产”时代：AI可自主串联零日漏洞，在真实内网完成沙盒逃逸与横向移动，漏洞挖掘走向流水线化，恶意代码失去可溯源的个人特征，攻击组织演变为 “一个人+一组 Agent” 的超级个体。

为此，谭晓生强调，防御端必须从 “被动封堵” 转向 “主动治理”，用AI完成可达性分析、自适应业务画像与常态化安全验证，把人员经验沉淀为可复用的机器知识；如果仅在传统安全产品上叠加AI，无法改变攻防不对等的基本态势。

谭晓生还谈到，AI时代对网络安全人才的冲击。他说，中低端安全工程师的岗位需求大幅下降，顶级安全人员借助AI工具可完成过去数十人甚至上百人的工作，人才价值加速两极分化。传统防火墙、终端安全、SOC 等产品体系，以及渗透测试、漏洞挖掘等岗位职能，正在被重新定义价值。

360安全集团副总裁卜思南也提到，网络人才面临结构性错配问题。他说，业内经常谈论仍存在327万网安人才缺口、500万AI人才缺口，但本质不是缺人数，而是能力错配。一个尴尬的现状是，会AI的不懂安全，懂安全的不碰 AI；90%的员工仍把AI当搜索框用，投入指数级增长但产能并未同步提升。

为此，他提出 “米字型” 人才培养模型，以专业纵深为核心，兼具AI驾驭、安全素养、场景连接能力，构建多位一体的人才生态，破解智能时代的人才结构性矛盾。

此次活动期间，与会者普遍提到的一个共识是，智能时代的网络安全，早已不再是单一技术点的攻防对抗，而是涵盖技术范式、产业体系、人才结构、治理模式的系统性命题。

据悉，本届活动以“AI 向善，安全有道”为主题，由中国信息安全测评中心、四川省互联网信息办公室指导，成都市互联网信息办公室、成华区人民政府主办，成都无糖信息技术有限公司承办。

编辑：梁建忠