Deepfakes, Voice Cloning, and AI Impersonation: The Global Rules Are Already Here, and They Don't Agree

A cloned executive voice. A fake endorsement. A synthetic campaign ad. A deepfake intimate image. Each of these can now trigger criminal liability, consumer-protection claims, platform-removal obligations, or identity-rights lawsuits—depending on where your business operates and which country's law applies first.

世界各地的政府都在对人工智能生成的肖像、声音和合成媒体进行监管，但监管方式各不相同。有些政府采用透明度规定，有些则借助刑法，还有些通过选举法进行规范。此外，也有政府在完善平台的下架义务，或尝试建立人格权保护机制。

其结果是全球各地的法规日益呈现出拼凑的局面。对于开展跨境业务的企业而言，这已成为一个迫在眉睫的合规难题。

世界并非正趋向于统一的规则

欧盟正在《人工智能法案》框架下强调透明度和信息披露。美国刚刚通过了一项针对未经同意的私密影像的联邦法律。中国则直接对合成媒体服务提供商进行监管，监管范围涵盖从标注要求到身份篡改规则的方方面面。韩国、澳大利亚、法国、新加坡和巴西都采取了更具针对性的措施——通常侧重于性深伪内容或选举诚信，而非广泛的身份所有权问题。

These are not variations on the same theme. They are different legal theories, different compliance obligations, and different risk profiles. A business cannot solve this by memorizing one country's rule and assuming the rest of the world will follow.

欧洲正在层层叠加义务，而非制定一套简明扼要的规则手册

At the EU level, the AI Act's Article 50 imposes transparency obligations for AI-generated or manipulated content, including deepfakes. That is a disclosure model—it does not create a general ownership right in one's image or voice.

At the same time, the EU's 2024 directive on combating violence against women and domestic violence adds pressure for stronger member-state responses to image-based abuse. That is a victim-protection and criminal-law-adjacent model.

法国则体现了这种范围更窄、以危害为导向的做法。其2024年《国家战略环境计划》（SREN）法案对《法国刑法典》进行了修订，明确禁止某些未经同意制作的深度伪造内容。法国并未试图将身份重新定义为版权，而是针对特定的滥用行为。

丹麦是概念上最具雄心的案例——该国提出了一项版权法修正案，旨在加强对肖像和声音未经授权的数字复制的管控。但这更应被视为一项值得关注的提案，而非一个经过实践检验的法律制度。

对企业而言，欧洲并非仅有一个问题。它涉及多层面的义务：信息披露、受害者保护、针对性刑事化，以及可能更广泛的人格权规则。这比一套单一的规则手册更难应对。

美国虽处于分裂状态，但已不再停滞不前

美国至今仍未建立一套针对人工智能滥用肖像权的统一联邦法律框架。在图像、语音和身份信息的诸多应用场景中，相关方仍需应对各州法律中的公开权、隐私权主张、不正当竞争理论、侵权法、平台政策以及行业特定规则。

2025年5月，《TAKE IT DOWN法案》正式签署生效。该法案针对未经同意传播的私密影像（包括人工智能生成的深度伪造内容），要求受管辖的平台删除被举报的内容，并采取合理措施防止内容被重新上传。虽然这并非一部通用的联邦深度伪造法案，但它是针对人工智能滥用中危害性最大的类别之一所采取的一项具有重要意义的国家干预措施。

当前，美国面临的风险已同时涉及多个层面。需密切关注各州的身份权保护、联邦政府关于私密影像滥用的规定、平台责任，以及针对欺骗性合成媒体日益加强的审查。

英国正在通过刑法而非产权来推进此事

英国一直通过刑法和网络安全渠道来处理此事，而非依据版权法或广泛的肖像权理论。

2025年1月，英国政府宣布将制作色情深度伪造图像定为刑事犯罪。根据《网络安全法》框架制定的有关传播此类内容的罪行条款已然生效。这体现了普通法管辖区的一个普遍模式：立法者并非在身份领域创设一项笼统的新财产权，而是通过扩展关于滥用、性剥削及平台安全的相关法律来应对这一问题。

对于企业而言，责任归属往往不再取决于抽象的著作权问题，而是更多地取决于内容是否具有危害性、色情性、欺骗性或辱骂性——以及贵公司在接到通知后能多快作出回应。

中国正在对这项技术本身进行监管

China's deep synthesis rules regulate providers and users of deep synthesis internet information services. They impose requirements around labeling, identity-related manipulation, and provider responsibilities. They prohibit certain harmful or misleading uses of synthetic content and require technical and governance controls.

关注点转向了上游。在中国，问题不仅仅在于受害者是否可以在事后提起诉讼，更在于该服务从一开始是否就以符合规定的方式进行构建、部署、标注和管控。对于在中国境内或面向中国市场提供人工智能工具或合成媒体功能的公司而言，这无疑是一个更为实际的合规问题。

韩国和澳大利亚展示了刑法改革可以有多快

韩国在打击性剥削类深度伪造内容方面采取了最为严厉的公开立场之一。2024年通过的立法规定，观看或持有某些未经同意的性深度伪造内容属于违法行为，同时还对深度伪造色情内容展开了更广泛的打击。

澳大利亚也采取了针对性的刑事立法措施。其《2024年〈刑法典修正案（深度伪造色情材料）〉》强化了针对在线制作和未经同意传播色情材料的罪行，其中包括利用人工智能制作或篡改的材料。

这些例子表明，一旦深度伪造技术的滥用演变为迫在眉睫的政治问题，政府便会迅速采取行动。贵公司今天视为内容审核问题的，明天就可能演变为刑事法律问题。

一些国家主要通过选举法来规范深度伪造技术

并非所有政府都将性虐待或冒充名人作为首要关注点。有些政府则将深度伪造视为选举诚信问题。

新加坡于2024年修订了选举法，禁止发布包含有关候选人的某些数字生成或篡改内容的在线选举广告，该修订将于2025年1月起生效。

Brazil's Superior Electoral Court adopted Resolution No. 23.732/2024, updating electoral advertising rules to address AI and deepfakes in the election context.

对于平台、广告技术公司、政治顾问、媒体分发商和人工智能工具提供商而言，这是一条独立的合规路径。在商业环境中合法的合成内容，在选举环境中可能属于违法行为。

Canada shows that "still developing" is not the same as "low risk"

加拿大的情况提醒我们，某些司法管辖区的相关问题尚未解决。联邦政府曾提出《C-63号法案》（即《网络危害法案》），但随着2025年1月议会解散，该法案在议程上搁浅。

一个尚未确立最终监管框架的国家，未必风险较低。恰恰相反，这类司法管辖区往往正是新义务迅速出现的地方——无论是重大事件发生后、政治格局发生变化后，还是立法推动重新启动后。

在全球范围内密切关注这一情况，并持续跟进

如果您的企业从事人工智能工具开发、在广告中使用合成媒体、托管用户生成内容、管理艺人授权、负责对外传播，或在娱乐、游戏、社交媒体或电子商务等领域开展国际业务，您就需要实时掌握这些规则的变化动态。

不是一年一次。不是等到丑闻爆发时。也不是等到外部律师事后提出警示时。而应是持续不断的。

原因很简单。一条合成内容可能同时触发多个国家的多种法律理论。克隆人声可能引发欺诈风险；虚假代言可能导致消费者权益保护和身份权方面的索赔；合成竞选视频可能触发选举法相关规定；深度伪造的私密图像可能引发刑事责任并产生下架义务。一个在某个市场对内容标注充分的平台，在另一个更重视同意权、下架速度或服务商管控的市场中，仍可能无法达标。

这已不再是一个小众的政策问题，而是普通的跨境合规工作。