直接结论：深度伪造内容能不能发布，不能只靠“加一句 AI 生成”判断。发布前至少要同时回答五个问题：内容是否生成或操纵了真实人物的形象、声音或行为；你是模型提供者、平台、专业部署者还是普通发布用户；内容面向中国、欧盟还是两地用户；显式提示、机器可读标记和平台声明分别由谁完成；授权、版本、导出检测和下架处置能否形成可复核证据。中国规则强调生成合成服务、传播服务和用户之间的标识传递；欧盟《人工智能法》Article 50 区分提供者和部署者，并对深度伪造及公共利益文本设置透明义务与有限例外。标识是透明义务，不会自动解决肖像、声音、版权、个人信息、广告或欺诈风险。
本文面向内容平台、品牌市场团队、AI 产品负责人、媒体编辑与合规运营，解决“一个具体深度伪造项目怎样从立项走到可发布”的操作问题。它不是法律意见，也不替代针对业务所在地、主体身份和使用场景的专业审查。法规与指南复核日期为 2026 年 9 月 11 日。
一、先把“深度伪造”拆成可判断的事实
运营团队最容易犯的错误，是先争论“这算不算 Deepfake”，却没有保存原始素材和变更记录。实际审查应先列事实：作品中是否出现可识别自然人；脸部、口型、声音、姿态或事件背景是否被生成、替换或显著操纵；普通受众是否可能把它理解成真实记录；内容是否用于新闻、广告、客服、教育、艺术、讽刺或内部测试；最终是公开展示、定向发送还是仅在封闭环境验证。事实表比一个笼统标签更能支持后续决策。
“AI 辅助”不是统一风险等级。自动降噪、压缩、字幕纠错通常不等同于让人物说出从未说过的话；但用克隆声音重录一段代言、把演员脸替换成公众人物、合成灾害现场或伪造会议发言，会改变受众对人物身份、表达和事件真实性的判断。判断重点不是使用了多少 AI，而是语义、身份与真实性认知是否被实质改变。
| 内容处理 | 需要记录的事实 | 默认风险动作 |
|---|---|---|
| 背景去噪、尺寸调整、色彩修复 | 工具、参数、前后文件哈希，是否改变语义 | 记录处理链；不能仅因使用 AI 就断言属于深度伪造 |
| 人脸替换、口型驱动、声音克隆 | 被模仿对象、授权范围、台词、投放渠道和期限 | 按高风险人物合成处理，显式披露并进行权利审查 |
| 虚构人物或虚拟主播 | 是否会被误认为真人，是否代表品牌或公共机构 | 清楚说明虚拟或生成属性，避免伪造身份背书 |
| 新闻事件重现、公共利益文本 | 事实来源、编辑责任、人审记录和合成片段范围 | 提高披露强度，事实核验与标识两条线分别验收 |
| 艺术、讽刺、影视作品 | 作品语境、观众可理解程度、真人授权和发行方式 | 评估有限披露安排，不能把“艺术”当作通用免责按钮 |
二、四类角色决定谁负责，不能把责任全推给工具
同一段合成视频，在不同组织手里会产生不同任务。模型或生成工具的提供者负责输出层面的技术标记，不代表使用工具制作广告的品牌可以省略自己的披露；平台识别了元数据并增加提示，也不代表上传者已经取得人物授权；编辑部做了人工复核，更不代表传播链上的转码不会丢失机器可读信息。项目立项时应给每个角色命名，不能只写“技术部负责”。
| 角色 | 核心问题 | 最低交付证据 |
|---|---|---|
| AI 系统或生成服务提供者 | 输出是否带适用的机器可读标记，标记在技术上是否可检测、稳健和可互操作 | 版本说明、标记规范、原始输出样本、检测结果与已知限制 |
| 内容传播平台 | 上传时是否读取元数据、接收用户声明、补充可见提示并在转码后继续传播标识 | 上传字段、判定分支、展示截图、转码前后检测与审计日志 |
| 专业部署者或品牌发布方 | 是否以自己的名义使用 AI 内容，与自然人的互动、深度伪造或公共利益内容是否清楚披露 | 项目审批、授权文件、披露文案、人审结论、发布时间和责任人 |
| 个人或普通发布用户 | 是否如实声明生成合成属性，是否删除、篡改、伪造或隐藏原标识 | 平台声明回执、原文件和编辑历史；持续商业运营应升级主体审查 |
三、中国规则：标识要沿生成、导出、上传和传播链持续存在
《人工智能生成合成内容标识办法》适用于符合算法推荐、深度合成和生成式人工智能相关规定的网络信息服务提供者。办法把生成合成内容覆盖到文本、图片、音频、视频和虚拟场景，并区分用户可感知的显式标识与写入文件数据的隐式标识。配套强制性国家标准 GB 45438—2025 于 2025 年 2 月 28 日发布、2025 年 9 月 1 日实施。关键不是“网站有一份 AI 声明”，而是每类内容在适当位置有对应标识，文件被下载、复制或导出时仍按要求携带标识。
生成服务提供者要处理两层标识
显式标识面向人：文本可在起始、末尾或交互界面的适当位置提示；图片在适当位置显示；音频可采用语音或音频节奏等提示；视频应在起始画面和播放周边的适当位置显示；虚拟场景在起始画面适当位置显示。具体样式和技术要求应回到配套标准核对，不能用本文概括替代标准原文。
隐式标识面向机器。办法要求在文件元数据中加入生成合成属性信息、服务提供者名称或者编码、内容编号等制作要素，并鼓励采用数字水印等形式。数据库里“知道这是 AI 内容”不等于交付文件已经带标；页面角落有水印也不等于文件元数据合格。两层要分别检测。
传播平台要按三种输入分支处理
平台接到内容后不能只看肉眼。第一种分支是元数据明确标记为生成合成内容，平台应在发布内容周边增加显著提示；第二种是元数据没有标识，但用户主动声明为生成合成，平台应提示该内容可能为生成合成；第三种是元数据和用户声明都没有，但平台检测到生成合成痕迹，也应提示属于疑似生成合成内容。平台还需要提供用户声明功能，并向传播文件中写入相应标识信息。
三条分支必须写成产品验收用例。若研发只测试“有元数据”的正常路径，用户上传截图、转码文件或被清洗过的媒体时，系统可能既读不到标记，也没有声明入口，最后把最需要提示的内容当成普通内容发布。
无显式标识输出不是无条件开关
办法允许服务提供者在用户明确提出不需要显式标识的情况下，通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，但相关日志应依法留存不少于六个月。这不是“点一下即可永久关闭标识”，也不意味着隐式标识、平台声明或其他责任自动消失。产品至少要记录请求人、协议版本、内容编号、请求时间、输出版本和后续交付对象，并限制高风险用途。
用户不能恶意删除、篡改、伪造或隐匿标识
用户使用网络信息内容传播服务发布生成合成内容时，应主动声明并使用平台提供的标识功能。任何组织和个人不得恶意删除、篡改、伪造或隐匿规定标识，也不得为这些行为提供工具或服务。运营流程不能把“去水印”“清元数据”设成默认优化步骤。确因格式兼容发生标识损坏时，应停止自动发布、重新补标并保留纠错记录。
四、欧盟 Article 50：提供者技术标记与部署者披露要分开
欧盟《人工智能法》Article 50 的透明义务自 2026 年 8 月 2 日适用。欧盟委员会 2026 年 7 月发布最终指南，用于说明相关义务如何理解和落地。判断时先问系统由谁提供、内容由谁部署或公开，而不是照搬中国的“显式/隐式”术语。
与自然人直接互动
AI 系统若直接与自然人互动，提供者原则上应让人知道自己正在与 AI 系统交互，除非从使用情境和普通人的知识水平看已经显而易见。客服头像看起来像真人、语音听起来像真人、界面又没有提示时，不能指望用户自行猜出背后是 AI。披露应在首次互动或暴露时完成，并以清楚、可区分和可访问的方式呈现。
生成合成内容的提供者要做机器可读标记
生成合成音频、图像、视频或文本的 AI 系统提供者，应确保输出以机器可读格式标记，并可检测为人工生成或操纵。技术方案应在技术可行范围内有效、可互操作、稳健和可靠，同时考虑内容特性、实施成本和公认技术水平。标准编辑功能或仅提供辅助且没有实质改变输入语义的系统存在边界；执法使用也有特定例外，普通商业项目不能自行套用。
深度伪造部署者要向受众披露
专业部署者使用构成深度伪造的图像、音频或视频时，应披露内容是人工生成或操纵的。艺术、创作、讽刺、虚构或类似作品可采用不妨碍作品展示或欣赏的适当方式披露，但这只是披露形式上的限定，不是把真人授权、名誉、知识产权或消费者保护问题全部免除。稳妥做法是让披露既不破坏作品体验，也能让合理受众在接触时理解其合成属性。
公共利益文本的人审例外需要证据
部署者发布为了向公众告知公共利益事项而生成或操纵的文本时，原则上要披露其 AI 属性；若内容经过人工审查或编辑控制，并且自然人或法人对发布承担编辑责任，则存在例外。“人工看过一眼”不足以支撑稳健治理。团队应保存事实来源、修改记录、审稿人、批准时间、争议项处理和最终责任主体，否则争议时很难证明例外条件成立。
自愿行为准则不能替代法定义务
欧盟 AI 生成内容标记与标签行为准则可帮助企业采用一致做法，一部分面向提供者的标记与检测，另一部分面向部署者对深度伪造和公共利益文本的标签。它是自愿合规工具，而 Article 50 的适用义务本身是强制性的。采购时不能只问供应商是否加入准则，还要说明输出格式、检测方法、转码韧性、失败边界和版本变化通知机制。
五、中欧对照：同一项目至少跑两张清单
| 判断点 | 中国发布链重点 | 欧盟 Article 50 重点 | 跨境团队动作 |
|---|---|---|---|
| 角色划分 | 生成服务、传播服务、应用分发平台、用户 | AI 系统提供者、专业部署者及互动对象 | 用合同和架构图标明实体，不用“平台方”笼统带过 |
| 技术标记 | 文件元数据含生成属性、提供者名称或编码、内容编号等 | 输出机器可读，并具备可检测、有效、可互操作、稳健和可靠等特征 | 保存原始输出及每次加工后的检测报告 |
| 可见披露 | 按文本、图片、音频、视频、虚拟场景设置显式标识 | 互动、深度伪造及特定公共利益文本分别触发披露 | 在首次暴露、播放器、正文和分享页分别检查 |
| 用户声明 | 平台提供声明功能，用户发布时主动声明 | 重点落在提供者或部署者透明义务 | 保留声明字段和值，不把自动识别当作用户已履责 |
| 例外边界 | 不含显式标识需协议约束并留存不少于六个月日志 | 标准编辑、非实质改变、艺术披露形式、人审与编辑责任等有具体边界 | 每次使用例外都写理由、证据、批准人和复核日 |
| 其他权利 | 标识不替代肖像、个人信息、版权、广告和反欺诈审查 | 透明义务不消除数据保护、知识产权和消费者保护责任 | 设置“标识通过”和“权利通过”两个独立门禁 |
六、把内容形态变成可执行验收项
| 形态 | 显式层检查 | 机器层检查 | 易失败位置 |
|---|---|---|---|
| 文本 | 提示靠近内容且未藏在折叠区，复制片段不误导 | 导出文件或接口响应带约定字段，编号关联日志 | 摘要、搜索片段、截图和跨平台复制 |
| 图片 | 桌面移动均可识别，裁剪后仍可见 | 原图、压缩图、缩略图分别检测 | 平台重压缩、截图、去背景和自动裁切 |
| 音频 | 提示时机和时长足够，页面有文字说明 | 原始音轨、转码文件和流片段分别检测 | 截取、倍速、播客分发和语音转发 |
| 视频 | 起始画面、播放界面和关键片段提示清楚 | 原片、剪辑版、转码版和下载版分别检测 | 去片头、竖屏裁切、GIF 化和封面抽帧 |
| 虚拟场景 | 首次进入与持续互动中理解生成属性 | 会话、内容编号、角色版本和输出可追溯 | 录屏脱离原界面、虚拟人被误认、实时输出无法回放 |
七、九步发布流程：从立项到可回滚上线
- 建立项目事实卡。记录业务目的、投放地区、受众、形态、是否含真人、是否涉及公共利益、是否商业推广，以及谁对最终发布负责。没有事实卡不进入生成阶段。
- 完成身份与素材授权。对脸、声音、姓名、表演、照片、视频、商标和脚本逐项记录来源与许可范围。授权覆盖媒体形态、地区、渠道、期限、是否允许合成和再编辑及撤回处理；“素材可下载”不等于允许克隆真人。
- 确定角色与辖区矩阵。把模型供应商、集成商、制作方、品牌、平台和分发商分别列出。对中国和欧盟同时可见的项目分别跑规则，不用一地结果替代另一地。
- 冻结生成输入与输出。保存工具版本、输入素材哈希、提示词或脚本版本、生成时间、输出编号与原始文件哈希。敏感个人信息和商业秘密应最小化并控制访问。
- 添加可见披露。按形态和界面设计提示，让普通受众理解哪些内容被生成或操纵，而不是只放含义不明图标。涉及真人可写明“人物画面或声音经 AI 合成，不代表本人真实发言”。
- 核对机器可读标记。用独立于生成按钮的检测步骤读取元数据或内容凭证，记录字段、工具版本和结果。检测不到时不能伪造“已验证”，应转入补标和风险审批。
- 跑加工破坏测试。对实际发生的压缩、裁剪、字幕、混音、格式转换、缩略图、CDN 和平台转码逐一生成样本，比较前后哈希与标记状态。只测原始输出没有意义。
- 做双门禁审批。第一道检查标识、披露与声明；第二道检查人物授权、事实、版权、个人信息、广告和欺诈风险。任何一道失败都不能用另一道通过抵消。
- 小流量发布并准备撤回。先在受控渠道验证桌面、移动、分享卡片、下载文件和平台提示，再扩大分发。保存 URL、时间、截图、文件哈希、平台回执和责任人，预先准备下架、补标与通知入口。
八、证据记录怎么设计，争议时才能复核
合规记录的目标不是把所有东西永久存下来，而是让另一位审查者能回答当时用了什么、谁决定发布、用户看到了什么、机器标记是否存活、出了问题能否定位。推荐将项目事实、权利材料、技术样本与发布回执分开存储，并设置权限、保留期限和删除规则。
| 字段组 | 建议字段 | 复核用途 |
|---|---|---|
| 项目身份 | 项目编号、内容编号、地区、语言、渠道、负责人、批准人 | 把文件、页面和责任主体连成一条链 |
| 生成信息 | 工具、版本、生成时间、输入引用、原始输出哈希 | 判断版本变化与原始来源，避免拿错样本 |
| 人物与素材权利 | 授权人、权利类型、用途、地区、渠道、期限、撤回条款 | 验证合成行为是否超出授权边界 |
| 标识检测 | 披露文案与位置、机器字段、工具版本、结果、截图 | 证明人可见与机器可读两个层面分别通过 |
| 加工链 | 转码动作、输入输出哈希、操作者、标记是否保留 | 定位标识在哪个环节丢失 |
| 发布与处置 | 声明回执、URL、上线时间、投诉单、下架时间、通知对象 | 验证发布状态和事故响应闭环 |
日志不能只写“pass”。机器标记检测应保存字段名、检测值、工具版本和文件哈希；可见披露检查应保存视口、页面位置、截图和检查时间；授权检查应指向具体合同或授权编号。涉及个人信息时只保存审计必要数据，敏感原件隔离加密，运营报表只引用编号。
九、六个确定性测试场景
本文配套建立固定测试夹具，用相同字段验证典型发布路径。测试只证明规则表和流程分支按预期工作，不证明某家模型、某个平台或具体项目满足全部法律要求。真正上线仍需用实际文件和平台重跑。
| 编号 | 场景 | 预期门禁 | 失败即停止 |
|---|---|---|---|
| CN-01 | 中国生成服务输出含合成人物的视频 | 视频提示、隐式元数据、内容编号和导出检测存在 | 任一层缺失或下载文件丢标 |
| CN-02 | 上传无元数据但主动声明的 AI 图片 | 平台保留声明，并显示可能为生成合成提示 | 无声明入口或声明未进入传播记录 |
| CN-03 | 未声明、元数据为空但检测到生成痕迹 | 进入疑似分支并提示，送人工复核 | 直接当普通内容自动发布 |
| EU-01 | 品牌用克隆声音制作欧盟广告 | 部署者披露，另行通过声音授权与广告审查 | 只有供应商机器标记，无披露或授权 |
| EU-02 | 编辑部生成公共利益事项说明文本 | 披露 AI 属性，或保存实质人审、编辑控制和责任证据 | 仅自动检查或无人承担编辑责任 |
| XBR-01 | 同一合成视频在中国和欧盟公开 | 分别通过两地清单并验证转码版 | 拿单一地区或原始文件结果作为全球通过 |
十、四个业务案例
电商直播使用虚拟主播
先确定虚拟主播是否模仿真实员工或明星；如果是，取得形象、声音和表演用途授权。中国链路检查虚拟场景显式标识、输出流隐式信息、平台声明和录播下载后的标识。若直播面向欧盟消费者，还要判断其是否直接与自然人互动，并在首次互动让用户知道对方是 AI。商品功效和价格主张独立审查，不能用虚拟主播说明代替广告真实性。
品牌制作创意换脸短片
即使作品明显夸张，也应保存演员和被替换对象授权。欧盟艺术或创作语境可能影响披露形式，但不宜把提示缩小到普通用户无法理解；中国发布仍需按形态与角色处理标识。最关键的破坏测试是平台自动裁切、抽封面和二次下载，这些环节最容易让提示与元数据分离。
媒体用合成画面重现事件
这类内容同时存在生成透明与事实误导风险。标题、画面提示和正文应明确“模拟重现”，并区分已核实事实与视觉演绎。公共利益文本若依赖欧盟的人审与编辑责任例外，应保存完整证据；合成视频的深度伪造披露不能因为旁边有人工编辑报道就自动消失。
客服把用户声音转成另一种语言
需要区分实时翻译、普通语音合成与克隆具体个人声音。应提前告知互动对象 AI 参与方式，限制语音样本用途，确认供应商是否保留或训练，并评估输出是否会被误认为用户原话。若录音公开传播，要重新审查披露、授权和机器标记，不能沿用封闭客服场景结论。
十一、供应商采购时要问的十二个问题
- 哪些输出类型写入机器可读标记，字段规范和检测工具是什么？
- 文本、图片、音频和视频是否采用同一机制，哪些格式不支持？
- 压缩、裁剪、转码、截图后标记的已知保留边界是什么？
- 是否提供输出编号、生成时间和版本，客户能否导出审计证据？
- 可见披露由产品自动加入还是客户负责，能否按地区配置？
- 关闭可见标识需要什么权限、协议和日志，记录保存多久？
- 检测不到标记时怎样处理，是否有声明与人工复核分支？
- 供应商是否保留人脸、声音、提示词和输出，用途与期限是什么？
- 升级是否改变标记格式，是否提前通知并提供兼容检测？
- 误标、漏标或标记损坏时，谁负责修复、通知和事故记录？
- 是否支持区域化策略，还是一套最低标准应用所有市场？
- 合同是否明确知识产权、人物授权、审计协助和下架时限？
十二、标识丢失或误发后的处置顺序
冻结扩散：暂停排期、广告、下载和自动同步，不急着覆盖原文件。保存当前页面、平台提示、文件和日志并计算哈希。
确定断点：从原始输出开始检查剪辑、导出、CDN、平台转码和二次分发，找出显式或机器标记在哪一步丢失。若人物授权或真实性同时有问题，要并行升级，不能只补水印就恢复。
修复并重测：重新添加适用标识，更新平台声明，完整跑实际加工链。对页面、下载文件、分享卡片、播放器和移动端分别验证，不能只在后台预览。
通知纠错：按影响范围通知平台、合作方、权利人或用户，要求下游替换或下架。保存通知时间、对象、响应和未完成项。
修正系统原因：若问题来自默认清元数据、缺少声明字段、缓存回滚或版本升级，应修改门禁并加入回归样本。只追责编辑无法阻止重演。
十三、上线前最终检查
- 已记录投放地区、角色、受众、形态和真人使用情况。
- 人物形象、声音、表演、脚本和素材授权与用途一致。
- 中国业务分别检查显式、隐式、平台声明和传播文件。
- 欧盟业务分别检查提供者机器标记与部署者披露。
- 任何例外都有书面理由、证据、批准人和复核日期。
- 原始输出、加工版本和发布文件都有哈希与检测结果。
- 桌面、移动、播放器、分享卡片、下载和二次传播已检查。
- 标识门禁与授权、事实、版权、隐私、广告门禁独立通过。
- 投诉入口、下架权限、合作方联系人和纠错模板可立即使用。
- 记录仅保存审计所需信息，敏感素材有权限与删除期限。
十四、五个不能混淆的结论
有 AI 标识，不等于能使用任何人的脸和声音。标识解决透明度，授权解决能否使用，两者分别通过。
平台显示提示，不等于下载文件有机器标记。网页标签、数据库字段、文件元数据和内容凭证是不同层。
人工审阅，不等于所有 AI 内容都免披露。公共利益文本的特定例外不能扩展到深度伪造音视频。
艺术或讽刺，不等于完全不用说明。可以调整披露方式，但受众仍应理解人工生成或操纵属性。
检测器显示“疑似”，不等于事实确定。检测是分流信号，要结合来源、元数据、声明与人工复核。
官方依据与延伸阅读
中国部分依据国家互联网信息办公室的《人工智能生成合成内容标识办法》、国家标准信息公共服务平台的GB 45438—2025 标准信息及网信办的配套强制性国家标准专家解读。中国单一辖区的基础操作可继续阅读站内AI 生成内容显式与隐式标识发布清单，本文不重复其定位。
欧盟部分依据 EUR-Lex 的《人工智能法》合并文本 Article 50、欧盟委员会的透明义务最终指南和AI 生成内容标记与标签行为准则说明。组织风险管理可参考 NIST 的生成式 AI 风险管理框架简介，但它不能替代中国或欧盟具体义务。
更正说明：本页早期版本只做概念介绍，上一轮更新也未充分展开角色差异、例外边界、跨境对照和可复核测试。2026 年 9 月 11 日本次重写保留原 URL 与原始发布日期，重新按“事实识别—辖区与角色—标识与权利双门禁—加工链验证—事故处置”组织，并区分官方要求、工程建议与测试能力边界。
