4月11日，国家互联网信息办公室发布关于《生成式人工智能服务管理办法（征求意见稿）》（以下简称“《管理办法》”）公开征求意见的通知。《管理办法》明确提出，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

管理办法提出5项要求

事实上，容易生成虚假、偏见、不真实内容也是当前生成式AI普遍的能力短板，这一问题ChatGPT也在回复中表明。（详见报道《“赔本赚吆喝”让ChatGPT火出圈！但它自爆有四大局限》）

根据上述《管理办法》，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：

1. 利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

2. 在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

3. 尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。

4. 利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

5. 尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

同时《管理办法》指出，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下简称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

此外，《管理办法》指出，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。用户发现生成内容不符合《管理办法》要求时，有权向网信部门或者有关主管部门举报。（详见国家网信办通知）

实测：各AI大模型如何看监管

对于《生成式人工智能服务管理办法（征求意见稿）》的发布，南都记者询问了ChatGPT，以及百度和阿里旗下的两款生成式AI产品“文心一言”和“通义千问”。

“国家有关部门出台生成式人工智能、聊天机器人的监管是非常必要和重要的”，ChatGPT表示，聊天机器人等AI产品逐渐进入了人们的日常生活中，使用不当可能会带来误导、诈骗等不良的影响，因此对其进行监管可以有效地保障用户的利益和安全。

同时，ChatGPT称，面对层出不穷的各种新科技产品，如果没有相应的监管与规范，就有可能出现乱象、无序竞争甚至是恶性竞争，从而对整个行业的发展产生负面影响。“因此，有关部门出台监管政策，可以推动AI行业更加规范化和透明化发展。”

最后，ChatGPT承诺，将始终遵循相关法律法规和道德规范，并呼吁所有从事AI行业的人员，要积极配合监管工作，共同推动AI行业的健康有序发展。

ChatGPT回复截图。

文心一言回复称，《生成式人工智能服务管理办法（征求意见稿）》是为了规范生成式人工智能服务的提供和使用，保障用户的合法权益，促进人工智能技术的发展和应用。具体来说，该办法的目标是：保障用户权益；规范生成式人工智能服务的提供和使用；促进人工智能技术的发展和应用等。

文心一言回复截图。

阿里通义千问目前无法针对包含《生成式人工智能服务管理办法（征求意见稿）》内容的问题作回复，但在相似问题中，其表示，“作为一个AI助手，我认为这是中国政府对生成式人工智能技术采取的一种积极措施。生成式人工智能是一种利用算法和模型来生成人类语言或文本的技术，它在文化娱乐、智能客服、自动化写作等领域已经有了广泛的应用。”

通义千问称，台管理办法的目的是规范生成式人工智能的应用，保障公民、法人和其他组织的合法权益，维护国家安全和社会公共利益。管理办法中所涉及的内容包括使用范围、安全管理、知识产权保护等方面，这将有助于推动生成式人工智能技术的健康发展，防止可能出现的不良后果。

通义千问回复截图。

此外，通义千问也指出，“当然，管理办法也需要不断完善和更新，以适应新的技术发展和应用场景。同时，我们也应该在推广和应用生成式人工智能技术的同时，注意保护人类的文化和智力成果，避免因技术发展而导致的文化失落和人类智慧的流失。”

美国征集监管意见

根据网信中国微信公众号，为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》等法律法规，国家网信办起草了《生成式人工智能服务管理办法（征求意见稿）》，于4月11日向社会公开征求意见，意见反馈截止时间为2023年5月10日。

值得关注的是，同一时间，美国商务部也就ChatGPT等AI工具监管措施公开征求意见。作为潜在监管的第一步，美国商务部4月11日就相关问责措施正式公开征求意见，包括新人工智能模型在发布前是否应经过认证程序，征求意见期限为60天。此前一周，全球范围内已掀起了对ChatGPT潜在风险的关注，意大利、德国等计划加强对ChatGPT的监管。

采写：南都记者 马宁宁

编辑：石力

更多报道请看专题：监管AI

对这篇文章有想法？跟我聊聊吧

马宁宁

石力