近日，多家企业因数据泄露、违规收集个人信息、提供深度合成服务未进行安全评估、处理敏感个人信息未做个保评估等问题被网信部门、公安机关处罚。其中便包括了运营提供深度合成类服务App的企业、对外提供人工智能模型训练基础数据（算料）的AI公司。

据“网信中国”微信公众号消息，近段时间以来，各地网信部门依法查处一批涉网页篡改、数据泄露、违法违规处理个人信息、新技术新应用未经评估上线等违法违规案件。国家网信办发布了部分典型案例，包括广东某科技股份有限公司网页篡改案、新疆某互联网科技有限公司网页篡改案、山东某医学检验有限公司数据泄露案、浙江某科技股份有限公司数据被窃取案、重庆某科技公司数据被窃取案、广东某保险代理有限公司数据被窃取案、湖南某科技股份有限公司数据存在泄露安全风险案、北京某科技有限公司运营的App超范围收集个人信息案、上海某科技有限公司违法违规收集人脸信息案、浙江某科技有限责任公司运营的App提供深度合成服务未按规定进行安全评估案等。

其中，浙江某科技有限责任公司运营的App作为一款深度合成类服务产品，提供视频换脸、图片换脸、照片舞动配音等图片处理功能，用户可对上传图片、视频中的人物进行换脸，但未按规定落实安全评估要求，相关深度合成内容也未作显著标识，存在较大安全风险，违反了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等规定，网信部门依法责令移动应用程序分发平台依规依约对该App予以下架处置。

此外，据“国家网络安全通报中心”发布的消息，某AI公司因处理敏感个人信息未做个保评估被公安机关处罚。据悉，公安网安部门在“护网—2025”专项工作中发现，某主营业务为对外提供人工智能模型训练基础数据（算料）的科技有限公司，在处理人脸等生物识别类敏感个人信息前，未按《个人信息保护法》有关规定进行个人信息保护影响评估。属地公安机关依据《个人信息保护法》规定，对该公司依法予以行政处罚，并责令整改。

对此，有关部门提醒，合法合规的人工智能训练数据是高水平大模型研发的基石。提供生成式人工智能服务的网络数据处理者应当加强对训练数据和训练数据处理活动的安全管理，采取有效措施防范和处置网络和数据安全风险。

采写：南都研究员 罗韵