随着人工智能和大数据技术的飞速发展，深度合成技术在互联网信息服务中得到广泛应用。这些技术在为用户提供个性化、精准化、智能化信息服务的同时，如非法应用也容易引发侵害用户合法权益、传播违法信息、操纵社会舆论等一系列问题，给国家利益、社会公共利益和公民合法权益带来巨大挑战。11月25日，国家网信办会同工业和信息化部、公安部发布《互联网信息服务深度合成管理规定》（下文简称《规定》），以贯彻落实《网络安全法》《数据安全法》《个人信息保护法》和《互联网信息服务管理办法》等法律、行政法规有关规定。《规定》是我国第一部针对深度合成服务治理的专门性部门规章，对规范深度合成服务、促进相关应用健康发展具有重要时代意义。 深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、视频、音频、虚拟场景等网络信息的技术。深度合成技术最大的特点之一是“以假乱真”，其通过人工智能和大数据算法合成的虚拟数据具有极佳的视觉、听觉等效果，能够使人难辨真假。深度合成技术的代表性研究是在2014年提出的生成对抗网络（gan），其通过对抗式迭代训练生成器和判别器两个部分，大幅提升数据生成的逼真程度，使得深度合成的结果难以被人眼辨别真伪。伴随着日益增长的应用需求，深度合成技术在教育、影视、传媒等领域扮演着愈发重要的角色，其面部替换、表情操纵、语音合成等不同技术分支，能够升级传统内容制作方法，改善制作效果，提高制作效率，在各类商业化产品中使用比例显著提升。 深度合成技术在支持正向应用的同时，也为我们带来新的安全风险。随着深度合成技术的快速发展，其使用门槛愈发降低，呈现出“平民化”的趋势。普通人可以利用简单方便的软件或工具，制作出真假难辨的合成内容。若非法使用深度合成技术，将导致传播违法和不良信息的乱象，对社会信任、媒体信任、政治信任造成冲击。例如，不法分子通过制作虚假的视频、图像、音频等，进行诽谤、诈骗、勒索、诬陷，甚至通过从互联网获得明星、高管、学者、政要的视频、图像、音频数据，利用深度合成技术对其进行恶意攻击。误用、滥用以及恶意使用深度合成技术生成的数据，将为个人、企业带来声誉损害和财产损失，甚至对国家安全、社会稳定造成威胁。因此，《规定》聚焦深度合成服务乱象问题，构建算法安全治理体系，规范互联网信息服务深度合成管理，意义重大，影响深远。 深度合成技术研究应在安全可靠的基础上推进，在规范中科学发展。深度合成技术已展现其强大的能力，在各个领域的加速应用已成为趋势。然而，在相关技术研究发展的同时，也须直面技术带来的风险，保证算法和数据的安全性、可靠性，最大程度做到技术进步的趋利避害。《规定》在保护深度合成技术良性发展的基础上，明确了生成合成类算法治理的对象，确立了算法治理的基本原则，并鼓励相关行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，强化了深度合成服务提供者和凯发娱乐真人的技术支持者的主体责任，为安全可靠的深度合成技术发展指明了方向，并为技术的服务应用提供指引和规范。 《规定》在规范互联网信息服务深度合成管理的同时，也为相关安全性、可靠性保障提出了新的技术治理要求。一方面，深度合成服务提供者应加强深度合成内容管理，建立健全用于识别违法和不良信息的特征库，在非人工审核情形下，则应对使用者的输入数据和合成成果进行精准有效的技术审核，进而对违法和不良信息依法采取处置措施。另一方面，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识。这要求服务提供者开发新的技术，在不影响用户使用的前提下，在视频、图像、音频、虚拟场景等深度合成信息上合理添加显著标识。此外，由于数据传输过程中，可能会出现如视频帧率降低、图像压缩等常见处理，所添加标识还须具备强鲁棒性，避免在传输过程的正常处理中受到破坏。
综上，《规定》的颁布标志着我国深度合成服务的规范管理工作进入新阶段。深度合成服务提供者和凯发娱乐真人的技术支持者应认真学习和理解《规定》，明确主体权责，积极应对深度合成安全性、可靠性技术要求。深度合成服务使用者也应加强算法应用的安全意识，保证使用的合规合法性，有效维护自身的合法权益。
来源：“网信中国”微信公众号
