近年来，人工智能（AI）深度合成技术引发了广泛的关注与争议，从对企业家雷军的恶搞，到利用AI制作张文宏医生的音视频进行带货，甚至有不法分子借此进行诈骗活动，AI深度合成音视频的滥用现象愈发严重。

中国计算机学会计算机安全专业委员会委员吕延辉表示，《中华人民共和国民法典》规定，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造都是侵权行为。2023年国家网信办、工信部、公安部联合发布出台的《互联网信息服务深度合成管理规定》要求，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。2024年网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》也提出， ...