中国对人工智能（AI）的监管，并非始于 ChatGPT 之后的仓促应对，而是可以追溯到 2021 年。过去几年里，随着 AI 技术能力和社会影响的快速放大，中国的监管框架也在持续迭代与细化，逐步形成了一套覆盖算法推荐、深度合成与生成式人工智能的制度体系。下面从时间顺序出发，回顾这一监管路径的起点。
算法推荐管理的起点
中国的互联网监管由国家互联网信息办公室负责，与中央网络安全和信息化委员会办公室是“一套人马、两块牌子”。2021 年 11 月，国家互联网信息办公室会同工业和信息化部、公安部、市场监督管理总局，联合发布《互联网信息服务算法推荐管理规定》，并于 2022 年 3 月 1 日正式施行。这一规定通常被视为中国 AI 监管体系的起点。
《规定》中对“算法推荐技术”的界定外延非常宽泛：
“利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。”
也就是说，它并不局限于狭义的信息流推荐，而是几乎囊括了所有可能对信息分发、注意力结构和用户决策产生影响的核心算法能力。
在合规要求上，《规定》引入了具有中国特色的“算法备案 + 安全评估”机制。其中最关键的是第二十四条和第二十七条：
“第二十四条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。
算法推荐服务提供者的备案信息发生变更的，应当在变更之日起十个工作日内办理变更手续。
算法推荐服务提供者终止服务的，应当在终止服务之日起二十个工作日内办理注销备案手续，并作出妥善安排。
…..
第二十七条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。”
在执行层面，服务运营者可以自行开展，或委托第三方机构完成安全评估，并需在服务上线后十个工作日内完成备案。相关操作统一通过“互联网信息服务算法备案系统”（https://beian.cac.gov.cn/）在线进行，该系统同时向社会开放已备案信息的查询功能。
这套机制的逻辑并不复杂：凡是可能影响公共舆论、社会动员和信息秩序的算法系统，都必须被“看见”、被“登记”，并接受持续监管。
制度落地后，监管并未停留在“立规即止”，而是逐步转向更强调实际效果的治理阶段。2024 年，中央网信办启动“清朗·网络平台算法典型问题治理”专项行动，重点针对算法推荐加剧信息茧房、低俗内容推送、诱导沉迷等突出问题。这一阶段的监管逻辑，开始从“有没有备案”进一步转向“算法在现实中造成了什么样的社会后果”。
在持续监管压力下，头部互联网平台开始对算法治理进行系统性调整，并以“算法向善”为对外表述框架。具体措施大致集中在三个方面：提升透明度、增强用户选择权、强化负反馈机制。例如，抖音上线“安全与信任中心”，集中披露推荐逻辑，并推出“茧房评估”“一键破茧”等功能；微博公开热搜榜算法规则并引入热度标签；微信视频号则通过图文形式对推荐机制进行通俗化说明。与此同时，各平台普遍完善兴趣偏好设置和“不感兴趣”等入口，强化用户对推荐结果的可控性。
从监管部门的公开表态来看，这一轮治理被认为已经取得阶段性成效，但并不意味着可以“收兵”。中央网信办多次强调，信息推荐算法治理需要常态化巡查，持续督导平台提升推荐内容质量与多样性，防止治理成果反弹。
制度化结果也逐步显现。截至 2025 年底，算法备案系统已公布十四批备案名单，累计数千条算法完成备案；对存在违规情形或已停止服务的算法，监管部门依法注销备案编号并予以公告。备案、变更、注销形成闭环，算法不再是“上线即黑箱”的存在。
深度合成技术的监管
随着 MidJourney 等文生图应用的走红，以及深度伪造（Deepfake）技术引发的持续舆论担忧，中国对生成内容的监管开始从“信息分发”进一步延伸到“内容生成”本身。
2022 年 11 月——彼时 ChatGPT 尚未发布——国家互联网信息办公室会同工业和信息化部、公安部，联合发布《互联网信息服务深度合成管理规定》，并于 2023 年 1 月 10 日起正式施行。这标志着中国在生成式内容领域的专门监管正式落地。
在这份规定中，“深度合成技术”的定义外延被刻意设计得极为宽泛，几乎覆盖了所有可预见的生成式 AI 能力：
“利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于：
（一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；
（二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；
（三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术；
（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；
（五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；
（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。”
从事后的视角看，这一定义事实上已经将生成式人工智能以及大语言模型（LLMs）整体纳入监管射程——即便当时“生成式 AI”这一概念尚未成为公共讨论的中心。
值得注意的是，《深度合成管理规定》在监管对象上进一步做了细分，首次明确区分了服务提供者与技术支持者两类主体。其中，技术支持者被定义为：
“为深度合成服务提供技术支持的组织、个人。”
这一设计显然是为了解决“只管应用、不管底层”的监管空档问题。
在合规要求上，规定直接将深度合成纳入既有的算法备案体系：
“第十九条 具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。
深度合成服务技术支持者应当参照前款规定履行备案和变更、注销备案手续。”
也就是说，无论是直接面向用户提供生成内容的服务运营者，还是为其提供模型、算法能力的技术支持方，只要具备舆论属性或社会动员能力，均需在“互联网信息服务算法备案系统”中，按生成合成类算法完成备案。
在内容治理层面，《深度合成管理规定》明确提出了生成内容标识义务，但在相当一段时间内，如何“标”、标到什么程度，缺乏足够清晰的操作细则。
为补齐这一短板，国家网信办在征求意见后，会同工业和信息化部、公安部和国家广播电视总局于 2025 年 3 月正式发布《人工智能生成合成内容标识办法》，并从 9 月 1 日起正式施行，对显式标识与隐式标识作出明确区分和技术化规范。按照该办法，深度合成服务提供者一方面需要在生成内容中添加显式标识，使用户能够直观识别其为 AI 生成；另一方面，还需在文件元数据中嵌入包含生成属性、服务提供者信息的隐式标识（如数字水印），以便平台和监管部门进行事后溯源。
同时，监管义务被进一步外延至内容传播平台与应用分发渠道：社交媒体和视频网站需对上传内容进行标识核验并作出提示；应用商店在审核相关 App 上架时，也需确认其是否具备合规的生成内容标识方案。
整体来看，深度合成监管传递出的核心信号非常清晰：生成能力本身不再是“中性工具”，而是一种需要被识别、被标注、可被追责的信息生产能力。
生成式人工智能的监管升级
在算法推荐与深度合成两套制度铺垫完成后，监管焦点自然指向生成式人工智能这一“能力集大成者”。
2023 年 5 月，国家互联网信息办公室牵头，会同国家发展改革委、教育部、科技部、工业和信息化部、公安部以及国家广播电视总局，联合发布《生成式人工智能服务管理暂行办法》，并于 2023 年 8 月 15 日起施行。
该办法对生成式人工智能的定义相对克制，但指向明确：
“具有文本、图片、音频、视频等内容生成能力的模型及相关技术。”
在合规结构上，《暂行办法》并未另起炉灶，而是直接将生成式 AI 纳入既有监管体系：
“第十七条 提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。”
从条文表述看，其要求与算法推荐、深度合成并无本质差异：完成安全评估，并在服务上线后十个工作日内完成备案。但在实际执行层面，生成式人工智能被施加了显著更高强度的准入监管。
具体而言，相关服务在上线前即需向属地省级网信部门报备，提交测试账号和必要的测试条件，接受监管部门或其委托技术机构的实质性测试。只有通过测试后，服务方可面向公众提供；即便上线，仍需接受持续性检查，发现问题须随时整改。这一流程事实上形成了“先审后上”的准审批机制。
通过备案的服务信息由国家网信部门定期汇总并对外公布（https://www.cac.gov.cn/2024-04/02/c_1713729983803145.htm）。截至 2024 年 11 月，已有 252 个生成式人工智能算法服务完成备案。仅一个月后，这一数字增至 302 个，其中 2024 年全年新增备案 238 个，增长速度显著。
从备案名单看，几乎所有国内头部科技企业的核心生成式 AI 服务均已完成备案，包括中国移动“九天”、百度“文心一言”、阿里巴巴“通义千问”、华为云“盘古”、腾讯“混元助手”，以及 OPPO、vivo 等厂商的模型产品。与此同时，大量面向金融、医疗、教育、城市治理等场景的垂直行业模型进入备案清单，显示生成式 AI 的应用正在从通用模型快速向行业模型扩散。
针对并非自研大模型、而是通过 API 接入已备案模型能力的应用，监管部门采取了相对灵活的管理方式。这类应用或小程序无需重复进行算法备案，而是通过属地网信办完成登记管理。2024 年，全国共有 105 个通过 API 调用大模型能力的生成式 AI 应用完成登记，并获得上线编号。作为交换条件，这些应用需在产品显著位置公示所使用模型的名称、备案号或上线编号，接受公众与监管部门监督。这一“模型备案 + 应用登记”的分层机制，在避免重复备案成本的同时，确保所有面向公众的生成式 AI 功能均被纳入监管视野。
截至 2025 年 11 月，全国累计已有 611 款生成式人工智能服务完成备案。与此同时，生成式 AI 的用户渗透率也在迅速上升：截至 2024 年底，国内生成式 AI 产品用户规模约为 2.49 亿，占总人口的 17.7%，意味着平均每六个中国人中，就有一人使用过相关产品或服务。
在执法层面，监管部门同步强化了对“未备案即上线”行为的处置。2024 年，全国网信系统发现部分具备舆论属性或社会动员能力的 App、小程序，未经安全评估即擅自提供生成式 AI 服务。对此，监管机关依法采取下架应用、暂停相关功能等措施；在完成整改、补办评估备案后，再予以复核恢复上线，形成“严管但不一刀切”的执行节奏。
结合《生成合成内容标识办法》等制度，监管部门也持续加强对 AI 生成内容的日常巡查，对未按要求标识、可能误导公众的行为依法查处。
整体来看，中国在生成式人工智能领域已经形成了一套清晰的监管范式：事前通过备案与测试控制准入，事中通过持续检查和技术手段强化约束，事后通过执法与公示形成威慑。这并非对技术发展的否定，而是将生成式 AI 明确定位为一种需要被持续监管的基础性能力。
《网络安全法》修订版的新要求：AI 首次写入上位法
2025 年 10 月 28 日，十四届全国人大常委会第十八次会议表决通过《关于修改〈中华人民共和国网络安全法〉的决定》，明确新修改的《网络安全法》自 2026 年 1 月 1 日起施行。
新版《网络安全法》中与 AI 相关的原文：
第二十条 国家支持人工智能基础理论研究和算法等关键技术研发，推进训练数据资源、算力等基础设施建设，完善人工智能伦理规范，加强风险监测评估和安全监管，促进人工智能应用和健康发展。
国家支持创新网络安全管理方式，运用人工智能等新技术，提升网络安全保护水平。
这条看似只有两句，但信息量很大，核心是把 AI 的治理逻辑，从“部门规章/专项办法”正式抬升到网络安全领域的基础性法律层级：不再只是管某类产品、某类平台或某种内容形态，而是先在总则里把国家态度与监管抓手定下来。
把它拆开看，基本是“三段式”框架：
发展端：给产业确定性
“基础理论研究、关键技术研发”“训练数据资源、算力等基础设施建设”写进法律，等于明确：AI 不是灰色地带，而是国家鼓励投入的战略能力（当然前提是合规）。这对企业最现实的意义，是降低“投入越多、风险越大”的政策不确定性，尤其是算力与训练数据这两类最敏感、也最刚需的要素。治理端：把伦理与风险治理变成法定议题
“完善人工智能伦理规范”“加强风险监测评估和安全监管”把两件事钉死：AI 不仅要发展，而且必须被持续评估、可被监管。它不直接规定你怎么做安全评估、怎么做红队测试、怎么做内容与行为控制，但它为后续更细的制度（评估口径、风险分级、监管工具、检查机制）提供了上位法依据。以 AI 治网：鼓励把 AI 用来提升网安能力
第二款一句话很关键：国家不仅要“管 AI”，也要“用 AI”。这等于在法律层面认可并鼓励用 AI 改造网络安全管理方式（包括监测、检测、响应、审计、合规检查等）。从监管视角，这是典型的“监管科技”方向；从企业视角，则是给 AI 安全运营、自动化处置、智能风控等实践提供了更稳的合法性叙事。
总结
过去几年里，中国对 AI 的监管不是“拍脑袋式加码”，而是一条很清晰的演进路径：先从信息分发端的算法推荐入手，再扩展到内容生成端的深度合成，最终在生成式 AI 阶段形成更强的准入机制（实质性测试 + 持续检查）。2025 年《网络安全法》修订把 AI 安全与发展写入上位法，则相当于把这套工具箱背后的“法律底座”补齐：既要发展，也要伦理与风险治理，还鼓励用 AI 提升网络安全能力。
从企业落地角度看，监管强度在上升，但逻辑越来越稳定：高风险能力先准入、可溯源、可监督；低风险应用尽量通过登记与信息披露降低重复合规成本。需要注意的是，属地网信部门在材料口径、测试流程、沟通节奏上可能存在差异，服务提供者不能只盯着条文，还要把“流程合规”当作产品的一部分来做。必要时引入律所与第三方测评机构，不是为了“买个保险”，而是为了让业务迭代速度别被合规返工反复打断。
落到执行层面，可以按“你到底在提供什么能力、面向谁提供”来分三类走：
算法推荐类 / 生成合成类等面向公众的算法服务提供者
个性化推送、排序精选、检索过滤、调度决策、生成合成等服务，一般需要通过“互联网信息服务算法备案系统”完成算法备案及后续变更、注销等手续。深度合成服务的技术支持者
如果你不是直接面向用户提供服务，而是为他人提供模型、算法、SDK、接口等关键能力，但构成“为深度合成服务提供技术支持”，同样需要参照要求在备案系统办理备案及变更、注销。面向公众的生成式人工智能服务提供者（强准入）
除了在备案系统按生成合成类完成算法备案外，还要走更严格的属地省级网信部门报备路径：提交材料、提供测试账号、配合实质性测试，通过后方可上线；上线后接受持续检查与整改要求。这一类的合规，建议从一开始就按“可测试、可解释、可追责”的产品工程来设计，而不是上线后再补作业。