换脸变声深度合成技术的边界在哪里

继算法推荐之后，深度合成也有了单独规范。近期，国家网信办发布《互联网信息服务深度合成管理规定(征求意见稿)》，并于1月28日至2月28日期间完成意见征求。管理规定要求，深度合成服务提供者应建立辟谣机制，使用者要进行身份信息认证，非真类音频视频须有显著标识。

深度合成或许还不为人所熟悉，但若提及“换脸术”“变声术”，恐怕大多数人不会感到陌生。其实，深度合成就是利用以深度学习、虚拟现实为代表的生成合成类算法，制作文本图像、音频视频、虚拟场景等信息。诸如换脸变声、AI合成主播、虚拟偶像、修复老照片、“数字复活”、影视剧本地化配音等，都是其场景应用。

作为人工智能领域的新实践，这项技术广泛应用于新闻传媒、影视制作、广告营销和社交娱乐等多个领域，市场前景广阔。比如，语音合成已成为人机交互重要一环并衍生出语音导航、有声读物、新闻播报等应用，电影制作引入相关技术后显著提升音视频制作质量与效率。另外，技术背后也有脉脉温情。去年，第八批在韩中国人民志愿军烈士遗骸归国时，有主流媒体运用技术修复还原志愿军老照片，广受好评。今年冬奥会期间，虚拟数字主播“小聪”用手语为听障人士解说，走红网络。概而言之，合理应用深度合成技术，既能取得经济利益，也能产生社会效益。

深度合成的正向应用价值有目共睹。然而，随着技术门槛不断降低，滥用恶用的事件频频发生。一些不法之徒恶意利用深度合成技术伪造虚假语音和视频，实施诬陷诽谤、诈骗勒索等违法犯罪行为，给个人、企业造成声誉损害和财产损失。更要警惕的是，深度合成技术一定程度上模糊了真实和虚假的边界，恶意伪造内容通常又迎合猎奇心理，容易在网络上产生病毒式传播。这有可能扰乱社会正常秩序，甚至带来安全风险。

客观而言，技术是价值中立的，本身并没有对错和善恶之分。只有当技术被误用或滥用，并跨越道德和法律的边界，才会出现负面效应。倘若不问青红皂白便“一刀切”地禁止深度合成技术，不仅阻碍其正向应用与创新，也不利于人工智能等相关产业发展。从这个角度来说，我们不仅要推动技术发展，更应展现出驾驭技术的智慧。

驾驭技术，需要法规作为明确指引。此次，相关部门出台管理规定，可谓做到随技术发展而不断“查缺补漏”。尤其是规定中一系列具有针对性和实效性的要求，划出清晰红线，体现规制乱象的决心，有助于维护清朗的网络生态。

当然，避免深度合成技术沦为深度伪造骗术，除了制定实施法规，还应从技术、伦理等方面出发，填补新技术的约束空白。比如，强化伦理先行的意识，倡导产研发展自律自治，防止滥用恶用。再如，加强识破伪造的监测技术研究，以精准识别从源头上解决安全问题。唯有构建多维度治理机制，多方发力、共同治理，精确施治、系统遏制，才能实现技术赋能生产生活的美好愿景。(潘抒捷)

这篇好文章是转载于：知行礼动