中国人工智能监管全景：算法推荐、深度合成与生成式AI的备案要求

从算法推荐到深度合成，再到生成式人工智能，中国的AI监管体系逐步完善。本文梳理了《算法推荐管理规定》、《深度合成管理规定》以及《生成式人工智能服务管理暂行办法》的核心内容，解读面向公众的AI服务提供者的备案要求及监管流程。文章还总结了相关政策的时间演变与实操要点，为服务提供者合规经营提供清晰指导。

中国对人工智能（AI）的监管早在 ChatGPT 发布之前便已启动，可以追溯到 2021 年。在过去几年里，随着 AI 技术的快速发展，中国的监管体系也在不断优化和完善。以下是中国在算法推荐、深度合成和生成式人工智能领域的主要政策与实施情况。

算法推荐管理的起点

中国的互联网监管由国家互联网信息办公室负责，和中央网络安全与信息化委员会办公室是二块牌子一套人马。在2021 年的 11 月，国家互联网信息办公室，会同工业和信息化部、公安部与市场监督管理总局，共同公布了《互联网信息服务算法推荐管理规定》，于 2022 年 3 月 1 日起施行。

这里的算法推荐技术，是指

“利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。”

在具体的合规要求上，规定中有

“第二十四条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。

算法推荐服务提供者的备案信息发生变更的，应当在变更之日起十个工作日内办理变更手续。

算法推荐服务提供者终止服务的，应当在终止服务之日起二十个工作日内办理注销备案手续，并作出妥善安排。

…..

第二十七条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。”

服务运营者可以自行或委托第三方完成安全评估，并需在服务上线后的十个工作日内完成备案。备案操作可通过“互联网信息服务算法备案系统”（https://beian.cac.gov.cn/）在线完成。该系统还提供已备案信息的查询功能，方便公众和相关方查阅。

深度合成技术的监管

随着 MidJourney 等生成图像的文生图应用走红，以及深度伪造（Deepfake）技术引发的舆论担忧。在 2022 年 11 月（此时 ChatGPT 仍然没有发布），国家互联网信息办公室，以及工业和信息化部和公安部一道，共同公布了《互联网信息服务深度合成管理规定》，于 2023 年 1 月 10 日起施行。

这里的深度伪造技术，是指

“利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于：

（一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；

（二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；

（三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术；

（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；

（五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；

（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。”

从事后的眼光看，这里的深度伪造技术，是包括生成式人工智能，和大语言模型 LLMs的。

同时，在这份规定中，除服务提供者外，新定义了技术支持者角色，是指

“为深度合成服务提供技术支持的组织、个人。”

在具体的合规要求上，规定中有

“第十九条 具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。

深度合成服务技术支持者应当参照前款规定履行备案和变更、注销备案手续。”

对于服务运营者和技术支持者，均需在“互联网信息服务算法备案系统”上，按照生成合成类算法进行备案。

生成式人工智能的监管升级

随后在 2023 年的 5 月，依旧是由国家互联网信息办公室牵头，会同国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部以及国家广播电视总局，共同公布了《生成式人工智能服务管理暂行办法》，于 2023 年 8 月 15 日起施行。

这里的生成式人工智能技术，是指

“具有文本、图片、音频、视频等内容生成能力的模型及相关技术。”

在具体的合规要求上，规定中有

“第十七条 提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。”

按规定服务提供者需根据《互联网信息服务算法推荐管理规定》履行算法备案、变更及注销备案手续。即自行或通过第三方完成安全评估，并在服务上线后的十个工作日内完成备案。

然而，在实际操作中，对于生成式人工智能算法服务实施了更为严格的监管要求。相关服务提供者必须在服务上线前向属地省级网信部门提交报备申请，并提供测试账号等测试条件，通过监管部门或其委托的技术机构的实质性测试后，方可上线。即便上线后，服务仍需接受网信部门的持续检查，与其他互联网内容平台的监管类似，如发现问题需随时整改。

通过备案的服务信息将由国家网信部门定期汇总并对外公布（https://www.cac.gov.cn/2024-04/02/c_1713729983803145.htm）。截至2024年11月，共有252个生成式人工智能算法服务完成备案，充分展示了对生成式人工智能服务的严格监管。

总结

AI 技术的飞速发展推动了监管机构的快速响应和优化，不断加强对相关领域的监管措施。从时间历程来看，这些规定和流程正在随着实践经验的积累持续完善。然而，各省份和地区在具体备案操作上可能存在差异，服务提供者需要主动与属地网信部门沟通，充分了解政策要求。同时，必要时可借助律所等专业服务机构的支持，确保业务依法依规运行，为健康合规的发展保驾护航。

内容管理是这三项规定的核心目标，但它们还涵盖了许多其他重要内容。例如：

• 推荐算法的相关规则禁止过度价格歧视，并保护受算法调度约束的劳动者权益；

• 深度合成内容的法规要求对生成的内容贴上显著标签；

• 生成式人工智能法规草案规定，训练数据和模型输出必须“真实准确”。这一要求对人工智能聊天机器人等服务可能构成巨大的挑战。

在具体执行层面，从事大模型（LLMs）相关业务的公司应根据以下分类完成相应备案程序：

• 面向公众的 AI 算法服务提供者，包括个性化推送类，排序精选类、调度决策类、检索过滤类、生成合成类，均需要在“互联网信息服务算法备案系统”自助完成备案；

• 向面向公众提供深度合成服务的服务提供者提供技术支持的服务技术支持者，也需要在“互联网信息服务算法备案系统”完成备案；

• 面向公众的生成式人工智能服务提供者，除在“互联网信息服务算法备案系统”按生成合成类完成备案外，还需要向属地省级网信部门履行更严格的生成式人工智能服务备案程序，包括提交测试账号、配合实质性测试等。