【摘要】
大模型落地提速，越来越多企业开始把生成式 AI 用进产品和业务。但”能用”和”合规能用”之间还隔着几道手续：算法备案、安全评估、内容标识、训练数据来源、个人信息处理。很多企业直到被约谈或产品下架才发现漏了环节。这篇把生成式人工智能服务的备案与合规要求讲成一套可执行的清单，帮企业判断”要不要备案、备什么、怎么备、备完还要做什么”。
一、先判断：你的服务要不要备案
不是所有用 AI 的场景都要备案。判断的关键是”是否面向公众提供服务“。
| 使用场景 | 是否需备案 | 主要理由 |
|---|---|---|
| 面向公众提供生成式 AI 服务 | 通常需要 | 属于提供生成式人工智能服务 |
| 面向公众的算法推荐服务 | 通常需要 | 属于互联网信息服务算法应用 |
| 企业内部自用（不对外） | 一般不适用 | 未向公众提供服务 |
| 调用第三方已备案模型做定制 | 视情况 | 需确认是否构成新的服务提供者 |
| 仅做技术研发、不对外提供 | 一般不适用 | 未提供公开服务 |
需要提醒的是：“内部用”与”对外用”的界限，看的是服务对象而不是部署位置。如果企业的 AI 能力嵌入到对外的 App、网站、小程序、客服系统中，即使底层调用的是第三方已备案模型，也可能被认定为新的服务提供者，需要自行履行相应义务。具体适用口径以网信部门的规定与属地备案要求为准。
二、算法备案与生成式 AI 备案的关系
两类备案容易混淆，实际上是不同制度。
| 备案类型 | 适用对象 | 主要依据 | 关注重点 |
|---|---|---|---|
| 算法备案 | 具有舆论属性或社会动员能力的算法推荐、深度合成等服务 | 《互联网信息服务算法推荐管理规定》等 | 算法的机制机理、数据使用 |
| 生成式 AI 服务备案 | 提供生成式人工智能服务 | 《生成式人工智能服务管理暂行办法》等 | 语料来源、模型安全、内容治理 |
实践中的顺序通常是：先判断服务性质 → 确定需履行的备案与安全评估义务 → 通过属地网信部门渠道办理。二者可能同时适用。企业不应指望”备了一个就都覆盖”。
三、备案要准备什么
备案不是”填个表”，材料要能说明”技术是什么、数据从哪来、风险怎么控”。
| 材料类别 | 主要内容 | 常见缺陷 |
|---|---|---|
| 主体信息 | 企业资质、责任人与联系方式 | 责任人信息不实 |
| 服务信息 | 服务名称、形式、面向对象 | 描述笼统 |
| 算法与模型 | 机制机理、训练方式、参数与数据来源 | 数据来源说不清 |
| 语料与数据 | 语料来源、合法性说明、个人信息处理 | 来源不明、授权缺失 |
| 安全措施 | 内容审核、应急处置、投诉渠道 | 制度空泛、无执行记录 |
| 用户管理 | 实名、账号管理、未成年人保护 | 缺未成年人保护措施 |
“语料来源”是最容易出问题的一项。训练数据是否合法获取、是否含个人信息、是否有授权链条，都要能说清楚。企业如果用的是公开数据集或自采数据，应保留数据来源与清洗过程的记录。
四、安全评估与内容治理
安全评估不是一次性动作，而是持续的机制。
评估的关注点通常包括：训练数据的合法性与安全性；模型输出是否符合法律法规（如不生成违法有害信息）；个人信息与用户权益保护；内容审核与应急处置能力；投诉受理与处理机制。
企业应至少建立四件事：一是内容安全制度（审核规则、违规处置）；二是应急响应机制（发现问题多久响应、如何暂停服务）；三是投诉渠道（用户能反馈、有处理记录）；四是日志留存（可追溯、可核查）。
五、内容标识：AI 生成的内容要”说出来”
随着生成合成内容标识相关规定落地，AI 生成内容需要按规定进行标识。
| 标识类型 | 含义 | 落地方式 |
|---|---|---|
| 显式标识 | 用户可直接感知的标识 | 文字提示、水印等 |
| 隐式标识 | 嵌入文件元数据的标识 | 文件元数据、数字水印 |
企业要做的是：在内容生成、传播、分发环节落实标识要求，尤其是图片、音视频等易混淆内容。具体要求与实施时间以网信部门最新发布的规定为准。需要强调的是：“不标识”本身可能构成违规，而不只是”内容有问题”才违规。
六、训练数据与个人信息
AI 合规绕不开数据，尤其是个人信息。
| 数据类型 | 主要风险 | 合规动作 |
|---|---|---|
| 公开网络数据 | 含个人信息、侵权内容 | 来源审查、过滤 |
| 用户交互数据 | 个人信息处理 | 告知同意、最小必要 |
| 自采数据 | 授权链条不清 | 留存授权与合同 |
| 第三方数据 | 转授权瑕疵 | 核查授权范围 |
三条底线建议：一是”来源合法”，不爬取依法禁止获取的数据；二是”告知同意”，处理个人信息要有合法依据；三是”最小必要”，不要为了”以后可能有用”而过度收集。数据一旦进入训练集，追溯和删除的成本都很高。
七、知识产权与商业秘密
AI 输出的内容可能涉及他人权利，训练数据也可能涉他方权利。
企业的三个动作：一是对内治理，明确员工使用 AI 工具的规则，避免把商业秘密输入外部模型；二是对外风控，对生成内容做必要的查重与合规审查，避免直接商用侵权内容；三是留存记录，保留生成过程与人工修改的证据，便于在争议中说明创作过程。
特别提醒：把核心技术资料、客户名单、未公开的财务数据输入第三方 AI 服务，可能构成商业秘密泄露。企业应在制度中明确”哪些数据不得上传”，并配置相应的技术管控。
八、常见误区
误区一：用了第三方已备案模型，我就不用管。 面向公众提供服务可能构成新的服务提供者。
误区二：内部用就不用备案，所以随便用。 内部用虽通常不需备案，但商业秘密与个人信息风险仍在。
误区三：算法备案和生成式 AI 备案是一回事。 两类制度、对象与重点不同。
误区四：AI 生成内容不用标识。 相关规定要求按规定标识。
误区五：备案完成就一劳永逸。 服务内容、模型、数据发生重大变化时应及时更新。
九、能力自测：六个问题
- 是否判断过本企业的 AI 服务是否面向公众、是否需备案？
- 是否区分了算法备案与生成式 AI 服务备案的适用范围？
- 训练数据的来源与授权链条能否清晰说明？
- 是否建立内容安全制度、应急处置与投诉受理机制？
- 是否落实了生成合成内容的标识要求？
- 是否对员工使用外部 AI 工具设置了数据边界？
十、合规工作清单
| 阶段 | 关键动作 | 责任部门 | 产出 |
|---|---|---|---|
| 立项 | 判断义务、确定合规路径 | 法务+技术 | 合规结论与计划 |
| 设计 | 语料来源、个人信息处理方案 | 技术+法务 | 数据合规说明 |
| 上线前 | 备案与安全评估材料准备 | 法务+技术 | 提交材料 |
| 上线后 | 内容审核、标识、投诉处理 | 运营+技术 | 运行记录 |
| 变更时 | 服务或模型重大变更时更新 | 法务+技术 | 更新材料 |
| 常态化 | 日志留存、自查、培训 | 合规 | 自查报告 |
十一、与数据合规体系的衔接
生成式 AI 合规不是孤立体系，它应与数据合规整体衔接。
数据分类分级决定”哪些数据可以用、怎么用”；数据出境评估决定”训练或推理能否涉及境外”；个人信息保护合规审计检验”收集使用是否合规”。三者的结论应相互印证，而不是各做一套。建议企业把 AI 合规纳入现有的数据合规框架，由同一归口人统筹，避免”AI 部门不知道数据规则、数据部门不了解 AI 场景”的割裂。
十二、不同业务形态的合规差异
同样是”用 AI”，业务形态不同，义务差别很大。
| 业务形态 | 服务对象 | 备案义务判断 | 额外关注 |
|---|---|---|---|
| 面向公众的对话式 AI | 社会公众 | 通常需备案与评估 | 内容安全、未成年人保护 |
| 面向公众的 AI 生图/生视频 | 社会公众 | 通常需备案与评估 | 内容标识、侵权风险 |
| 嵌入自有 App 的智能客服 | 自身用户 | 需判断是否构成提供服务 | 个人信息处理 |
| 企业内部知识库问答 | 内部员工 | 一般不涉及 | 商业秘密、数据边界 |
| 对外提供的 AI 工具类 SaaS | 企业客户 | 视公开程度判断 | 合同责任分配 |
判断的关键不在”技术类型”，而在”服务对象是否构成公众、是否具有舆论属性或社会动员能力“。企业如果拿不准，建议向属地网信部门咨询确认，把结论与依据留档。把判断过程留痕，本身就是合规管理的一部分——它能在后续检查中说明企业并非”放任不管”。
十三、对外合作与出海场景的额外要求
AI 服务的合作与出海，会带来新的合规维度。
| 场景 | 额外要求 | 风险点 |
|---|---|---|
| 使用境外模型服务 | 关注数据出境与内容合规 | 数据出境、内容合规 |
| 向境外提供 AI 服务 | 关注目标国法律要求 | 数据本地化、内容规则 |
| 与第三方模型厂商合作 | 明确责任划分 | 出了事谁负责 |
| 开放 API 给开发者 | 明确使用规范 | 被用于违规用途 |
在合同层面，建议明确三件事：一是责任划分（内容责任、数据责任、赔偿机制）；二是数据边界（哪些数据可用于训练、哪些不得上传）；三是合规承诺（对方须遵守相关法律法规，并配合提供必要信息）。对出海业务，还需评估目标市场在数据与内容方面的专门要求，避免”国内合规、境外违规”的情况。
十四、合规工作的组织与留痕
AI 合规需要”有人负责、有据可查”，否则所有制度都停在纸面。
| 角色 | 职责 | 关键产出 |
|---|---|---|
| 合规负责人 | 统筹义务判断与材料报送 | 合规结论与报送记录 |
| 技术负责人 | 模型、数据与安全措施 | 技术说明与评估材料 |
| 内容运营 | 内容审核与标识落实 | 审核记录与处置台账 |
| 法务 | 合同、个人信息与知识产权 | 合同与告知文本 |
留痕的价值在于”证明企业已经履职“。监管关注的不只是”有没有问题”，还有”发现问题后如何处理”。建议企业建立三本台账：备案与评估材料台账、内容审核与处置台账、投诉受理与处理台账。三本台账齐全，说明合规机制在真实运行，而不是临时拼凑。
十五、把 AI 合规纳入企业整体合规体系
AI 合规不应是”临时项目”，而应是既有合规体系的一部分。企业可将其归入数据与信息安全的统一框架：用同一套数据分类分级规则判断哪些数据可用于训练，用同一套个人信息流程处理用户信息，用同一套合同模板约束合作方。这样做的好处是避免”AI 团队自成一套”，也让内部控制与审计有统一口径。
十六、FAQ
Q1：企业内部自建、仅供员工使用的 AI 工具需要备案吗？
一般不涉及面向公众提供服务的备案义务，但仍需注意个人信息保护与商业秘密管理。具体以监管口径为准。
Q2：调用已备案的大模型做二次开发，还需要备案吗？
需根据是否面向公众提供服务、是否构成新的服务提供者判断。建议向属地网信部门咨询确认。
Q3：AI 生成内容必须加水印吗？
应按规定落实生成合成内容标识要求，具体标识方式与时间要求以网信部门最新规定为准。
十七、行动建议：三步
第一步，先把义务判清楚。 按”面向对象 + 服务性质”判断需要履行哪些备案与评估义务，避免漏项。
第二步，把材料做实。 语料来源、个人信息处理、安全措施三类材料是重点，提前准备远好于临时补。
第三步，把机制建起来。 内容审核、标识、投诉、日志四项机制常态化运行，备案后的合规才有支撑。
AI 合规的关键，不是”少用”，而是”用之前先把规则搞清”。义务清楚了，创新才有安全边界。