要说科技圈谁最红，虚拟数字人当之无愧!从虚拟偶像洛天依登上央视春晚，到柳夜熙在抖音横空出世一夜涨粉百万，再到手语数字人为听障人士解说冬奥赛事……虚拟数字人走红网络的背后，深度合成技术格外令人瞩目。

深度合成作为一种人工智能内容合成技术，近年来风头正劲。随着技术的发展，深度合成技术已经衍生出包括图像合成、视频合成、声音合成和文本生成等多种技术，能够应用于新闻传媒、影视制作、娱乐、教育和电子商务等诸多领域。其不仅降低创作门槛，激发新形式的创造，还能以多种方式造福社会。但恶意使用该技术生成的音视频，也显示出巨大的破坏力，给个人、企业乃至国家、社会造成威胁。

那么，如何用好深度合成这把“双刃剑”?如何在挖掘出机器智能的同时，展现出人类“驾驭”技术的智慧?这成为摆在全社会面前的一项重要课题。

内容爆发式增长场景应用“多点开花”

近年来，深度合成内容数量和关注度呈现快速增长态势。近日，清华大学人工智能研究院、瑞莱智慧、清华大学智媒研究中心、国家工业信息安全发展研究中心、北京市大数据中心联合发布《深度合成十大趋势报告(2022)》。报告显示，在国内外主流音视频网站、社交媒体平台上，2021年新发布的深度合成视频的数量较2017年已增长超过10倍。此外，深度合成内容关注度也呈指数级增长，通过对互动数据进行统计，2021年新发布的深度合成视频的点赞数已超过3亿。

在数量激增的同时，“元宇宙”等新商业思维的提出，也为深度合成提供了更广阔的应用场景。“虚拟人、数字人既是深度合成的主要应用，也是元宇宙的重要组成部分。”阿里巴巴安全感知与认知智能部负责人薛辉表示。

2月8日上午，谷爱凌在北京冬奥会上夺冠，一时间全网刷屏。AI手语合成主播数字人“小聪”用流畅的手语解说了中国女子雪上项目夺得首金后激动人心的瞬间。“小聪”是全球首个AI手语合成主播，帮助听障人士常态化、高质量地接收资讯信息，克服理解障碍，更好地享受数字化生活。

2021年9月2日，第八批在韩中国人民志愿军烈士遗骸回国。次日，人民日报微信公众号发布了《他们正年轻!AI修复给志愿军老照片上色》的短视频，用深度合成技术将老照片中志愿军的黑白面孔逼真还原，让大家一睹当年“最可爱的人”的青春风采。视频发布后，仅人民日报公众号平台播放量就达130万人次，点赞数超4万人次。

在影视制作领域，近年来，深度合成技术已成为受少数艺人劣迹行为拖累作品的救场工具。电视剧《长安十二时辰》《光荣时代》《了不起的儿科医生》《突围》等多部作品均使用了该技术。而观众对影视作品AI换脸后的效果评价，已经从最初的“惨不忍睹”变成了现在的“瑕不掩瑜”。

此外，越来越多的企业机构开始利用深度合成技术提供面向公众的产品和服务。不同领域的情况有所差异，报告显示，图像和视频在深度合成应用的初期最为普遍，但是由于产品质量良莠不齐且容易侵犯用户隐私，当监管规范到位后其数量逐渐减少。音频方面，语音合成已经成为人机交互的重要一环，且被广泛应用于智能硬件、智能客服、语音导航、有声读物、机器人、语音助手、自动新闻播报等场景。文本方面，深度合成在新闻报道、诗文创作、聊天问答等方面都得到越来越多的应用，并显现出巨大的潜力。

可以看到，随着技术成熟度的不断提高，尤其是伴随场景的“多点开花”，深度合成快速进入大众视野，在影视制作、广告营销、社交娱乐等领域亮点应用频现，彰显了技术背后的温情和人文关怀，被接受度也在持续提升。

正如清华大学新闻与传播学院常务副院长陈昌凤所说：“深度合成将重新定义虚拟数字化空间，从传播社会学意义上看，一个新的人类生存场景将以深度合成技术为基石展开。”

攻防博弈持续“一刀切”禁止不可取

深度合成激发了新内容创造力的同时，也带来了新的威胁。

“与其他技术不同，由于人工智能的安全性问题主要来源于算法本身的不安全，它更容易被误用和滥用。”中国科学院院士、清华大学人工智能研究院创始院长张钹表示。随着深度合成技术的开放开源、深度合成产品和服务的增多，深度合成内容制作门槛越来越低，实现了技术的“平民化”，不法分子可轻易伪造音频、视频，实施诬陷、诽谤、诈骗、勒索等违法行为。2021年10月，合肥警方曾破获一起非法利用深度合成技术伪造手机用户人脸动态视频破解身份核验，为黑灰产业提供注册虚拟手机卡等技术支撑的案件。近年来，越来越多的类似事件进入了公众视野。

深度合成技术还将对信息传播产生更为深远的影响。报告分析，人类的传播活动，因深度合成技术逐渐步入“深度后真相”时代。首先，“深度伪造”深刻影响了新闻对真相的记录，对虚假内容高难度的甄别影响了事实核查的有效性。其次，在社会重大突发事件或政治事件节点上，深度合成技术如若被恶意使用，将借助社交媒体，使虚假信息在互联网上产生病毒式的扩散和蔓延。最后，在日常事件的信息发布与追踪中，深度伪造的信息还会造成舆论场中舆论意见的不断翻转，激化社会不同群体的矛盾。要警惕的是，深度合成技术的恶意伪造内容通常迎合大众猎奇心理，具有极强的意识塑造能力。

“目前对深度合成的检测主要依赖于人工智能模型，依赖于训练数据的完备性，包括检测器泛用性相对较低、公开数据集适用性、数据敏感等，这些都将带来诸多挑战。”正如浙江大学网络空间安全学院院长任奎所说，新型伪造方法的层出不穷，加上基于深度神经网络的检测算法存在结构性缺陷等，反深伪检测技术也面临“强对抗性”，需要持续更新与迭代优化。这类似于“猫鼠游戏”，深度合成和检测在不断学习攻防过程中会自我进化，规避上一代的对抗技术。

据悉，目前学术界和产业界均已对反深伪检测进行了大量研究，Meta(原脸书)、谷歌、微软等机构均推出了深度合成视频认证的方法或产品。在国内，清华大学、中科大等高校在深度伪造内容检测方面取得显著成果，清华大学孵化团队瑞莱智慧推出了深度伪造内容检测平台DeepReal等。

清华大学人工智能研究院基础理论研究中心主任朱军认为，深度合成检测面临持续的攻防和博弈，未来还需融合多模态内容的取证分析、基于数字水印的溯源技术等多方面能力，实现精准识别。

对于深度合成内容治理路径的探索，陈昌凤表示可以从技术、伦理与法制等几个方面努力，“技术方面，通过政府与社会组织参与，实现协同治理，伦理方面，确立和倡导相关的深度合成原则”。中国社科院哲学所科技哲学研究室主任段伟文建议，对深度合成技术引发的社会、法律和伦理问题，应展开系统性、前瞻性的跨学科研究，对其可能出现的高风险应用场景，进行有针对性的治理与监管。

在中国工程院院士邬贺铨看来，深度合成的治理有两项要点。一是要持续发展技术，不能“一刀切”地禁止，避免阻碍正向应用与创新。二是衍生出的安全问题要从源头解决，利用技术创新、技术对抗等方式，持续提升和迭代检测技术的能力。(杨赞)

关键词： 深度合成技术 虚拟数字人 多点开花 新内容创造力