来自小圈

人工智能讨论组

4075万人气

国家网信办拟出新规:人工智能自动合成的新闻,须标明“合成”

南方都市报 • AI前哨站
原创2019-05-28 10:59

南都讯 冯群星 5月28日,中国网信网发布通知称,国家网信办会同相关部门起草的《数据安全管理办法(征求意见稿)》,开始向社会公开征求意见。值得注意的是,这是首个针对人工智能技术在传播领域的应用作出规范的政策文件。其中规定,利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息,应以明显方式标明“合成”字样。

南都记者梳理发现,《数据安全管理办法(征求意见稿)》(以下简称“征求意见稿”)覆盖到了网络运营者收集、存储、传输、处理、使用数据的各个环节,要求网络运营者采取多种措施,保障个人信息和重要数据安全。

其中,第二十四条的规定为,“网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息,应以明显方式标明‘合成’字样;不得以谋取利益或损害他人利益为目的自动合成信息”。

近年来,人工智能技术应用日渐广泛,各管理部门也开始关注到其间潜藏的法律风险。

今年4月20日,民法典人格权编草案二审稿提交十三届全国人大常委会第十次会议审议。其中拟规定,任何组织或个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。在AI换脸屡屡引起网络热议的背景下,外界将此解读为立法者对人工智能问题的法律回应。

不过,人工智能技术具有高度的不确定性、创新性和复杂性,面对千变万化的应用场景,进行立法规范并非易事。在日前举行的第三届世界智能大会上,全国政协副主席、中国科协主席万钢就表示,人工智能立法是项两难任务,既要通过审慎的监管规范市场行为、保障用户和社会利益,又不能够过早地阻碍技术创新。

如果征求意见稿正式通过,《数据安全管理办法》可能成为首个针对人工智能技术在传播领域的应用作出规范的政策文件。

为何征求意见稿特别就大数据、人工智能等技术自动合成信息作出规定?有专家告诉南都记者,此前已经出现过假新闻导致重大社会影响的案例,而自动合成信息在传播领域发展迅速,可能使得假新闻愈演愈烈,必须提前预防风险。

中国信息安全研究院副院长左晓栋指出,自动合成新闻是人工智能技术的一种应用,在金融市场分析、赛事报道等格式化的新闻消息中,已经得到了较大范围的应用。但是,人工智能在内容生成方面的应用也带有一些隐患,例如人工智能可以自动生成看似可信的假新闻。

“因此,对于自动合成的新闻,有必要予以标注,使读者在采信这些新闻时能够对其可信度、质量进行关注,有助于提高读者对网上虚假信息的辨识能力。”左晓栋说。

据南都记者梳理,自动合成新闻在2000年之后就已出现。近年来,路透社、华盛顿邮报、洛杉矶时报、卫报、美联社、纽约时报等欧美媒体机构都推出了自己的“人工智能写手”。

2015年之后,国内也有诸多媒体机构开始发力,腾讯财经推出了Dreamwriter,新华社推出“快笔小新”,阿里巴巴与第一财经联合推出“DT稿王”,《今日头条》推出Xiaomingbot。2017 年,新华社的“媒体大脑”甚至进军到视频领域,能根据海量的视频素材迅速生产“MGC(机器生产内容)视频新闻”。

目前,国内外的大数据、人工智能自动合成新闻多被应用于财经、体育、自然灾害、犯罪、选举等领域。这些领域的报道往往涉及到大量的数据,且有相对固定的写作格式,因此更适合通过人工智能技术进行动态监测、信息采集、数据分析和自动撰写。

从公开报道来看,各个机构仍然保持了把关环节,人工智能自动合成的新闻须经由编辑审核确认后才能发出。

南都记者在腾讯新闻客户端内搜索Dreamwriter发现,新闻的发布者一栏会显示“Dreamwriter”,正文尾部则会提示“(本文由腾讯机器人Dreamwriter自动撰写)”。在头条新闻客户端内搜索Xiaomingbot,可以找到“足球记者小明”的账号,账号内的部分新闻在开篇标注了“(本文由头条机器人Xiaomingbot撰写)”,也有的没有标注。

IMG_27992.jpg

腾讯机器人Dreamwriter的报道结尾会注明由机器人撰写。图/AI前哨站。

IMG_27972.jpg

Xiaomingbot生成的部分新闻会在开头标明由机器人撰写。图/AI前哨站。

附:《数据安全管理办法(征求意见稿)》全文

编辑:蒋琳

18
对这篇文章有想法?跟我聊聊吧
南都新闻,未经授权不得转载。授权联系方式:
banquan@nandu.cc,020-87006626。