从“影子AI”到大模型投毒,如何破解AI供应链攻击风险?

南都N视频APP · 政商数据
原创2026-08-24 14:20

随着大模型、AI智能体在企业生产、办公、业务系统大规模落地,企业AI部署形态日趋多元。与此同时,AI供应链攻击风险持续攀升,第三方开源模型、AI插件、技能文件已经成为攻击者的重要突破口。

卡巴斯基的一项统计数据显示,2026年上半年,卡巴斯基已检测到超过9.2万次伪装成Al服务的恶意攻击。自2026年2月起,卡巴斯基开始扫描系统上的OpenClaw Skills活动。目前每月能检测到超过两万次恶意OpenClaw Skills活动事件。

针对上述现状,卡巴斯基近期在广州正式推出面向AI原生安全的全新解决方案卡巴斯基AI Protect(KAIP)。据介绍,该产品聚焦AI供应链风险、大模型文件投毒、恶意AI Agent等新型威胁,兼顾传统网络攻击防御,旨在帮助企业实现AI业务创新与风险管控并行发展。

 

AI通过供应链、绕过管控等方式威胁企业

公开威胁数据显示,网络平台已出现上百个恶意大模型、数百个遭投毒的模型文件;攻击者上传伪装成正常权重文件的恶意模型,加载即可执行恶意指令,直接入侵企业内网业务系统。

具体到目前的危机来源,卡巴斯基大中华区CTO张殷提出,目前企业普遍面临着来自AI供应链、“影子AI”等层面的危机。

图片

卡巴斯基大中华区CTO张殷

AI供应链即大多数企业不具备自研大模型能力、普遍依赖第三方开源模型。在这种情况下,一旦模型被投毒成功,模型会被攻击者控制。他进一步指出,供应链早已成为攻击者重点瞄准的环节。企业从互联网下载并加载第三方模型或技能(Skill)时,看似在执行正常任务,实则可能正在为攻击者窃取企业密钥、登录凭证和敏感配置信息,并直接外传至互联网,而企业在这一过程中往往毫无察觉。

另外,“影子AI”也成为威胁之一。AI员工普遍对AI工具抱有热情企业未统一配置AI工具时员工自行安装使用。张殷认为,此类风险源于双重缺位的叠加:一方面企业对AI使用的管控不到位,另一方面员工的安全意识同样不到位,两者叠加导致泄密事件陆续发生。

他举例称,此前攻击者曾通过某模型聊天软件的聊天界面,直接就能看到其他用户的完整对话记录。无论海外还是国内的模型,一旦被入侵,模型底层的日志便可被尽数捞取,用户与模型的私密对话一览无余。

 

“龙虾”、skill等产品带来新的威胁进入点

卡巴斯基大中华区总经理郑启良在现场提到,国内AI产业已迈入经济主战场,企业正加速推进AI落地。但他看到企业优先追求业务上线效率,却容易低估AI供应链安全、模型投毒、恶意智能体、提示注入攻击等现实威胁,而这类风险已直接影响企业经营损益。与此同时,还有不少企业存在认知误区,误以为私有化部署大模型就足够安全,忽视外部模型权重、AI插件与技能脚本潜藏的恶意载荷。

郑启良在会后接受媒体采访时表示,尽管AI可以处理99%的攻击,但最终还有1%的攻击是AI无法胜任的,AI没有办法替代安全公司,但却可以为AI公司带来更多的生意。 

近期,国内外有不少模型企业也在做模型安全。郑启良告诉南都记者,“龙虾”、skill这样的产品的出现也带来了新的威胁进入点,这可能是大家开始密集关注AI安全的原因。“现在大家都认为智能体无所不能,只要训练、投入很小,什么事情都可以去做。变成说进入成本非常低,那它就很容易被投毒。对企业内部运维来说,这是一个薄弱点,在做信息安全、网络安全的人都会考虑到,这种突破口越少越好,暴露在外头越少越好”。

他进一步表示,模型公司与安全公司之间的关系是相互合作,目前也与多家模型厂商在合作中。“很多模型厂商在做算法的时候,也会考量什么时候可能会‘出格’,什么时候要重新设计。对安全这一块我想是‘术业有专攻’。当然我们也在训练自己的内部大模型。”

此外,目前,阿里云、腾讯云、华为云等国内云厂商均为卡巴斯基客户,其安全引擎、红蓝对抗、渗透测试等环节仍需采购专业能力。据悉,在与国内企业合作时,双方会互相检测对方的硬件和软件,从源头上减少安全隐患。

卡巴斯基是一家成立于1997年的全球网络安全与数字隐私公司,迄今为止已有超过十亿台设备受到卡巴斯基的保护。据了解,目前卡巴斯基在华业务一直处于扩张状态,仅在过去2年,卡巴斯基就增加了1/3的人员,去年中国区营收业绩增速超过20%。 


采写:南都N视频记者 林文琪

 

 

 

南都N视频,未经授权不得转载、授权联系方式
banquan@nandu.cc. 020-87006626