国家互联网信息办公室、工业和信息化部、公安部近日联合发布《互联网信息服务深度合成管理规定》。强调不得利用深度合成服务从事法律、行政法规禁止的活动,要求深度合成服务提供者落实信息安全主体责任。
深度合成技术,是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。人脸替换、合成换声、三维重建……随着新一代信息技术快速发展,深度合成技术作为人工智能领域的新应用、新实践,已在多个行业场景中被推广应用,催生了美颜美妆、影视制作、智能客服、虚拟主播、元宇宙等一系列形式新颖丰富、功能便捷智能的应用形态。然而,随之而来的恶意利用深度合成技术,制作虚假信息内容,版权侵犯、信息欺诈、隐私盗用等现象,也愈发带来担忧,亟待纳入监管加以全面规范。
毋庸置疑,提供深度合成服务,应当遵守法律法规,尊重社会公德和伦理道德,坚持正确政治方向、舆论导向、价值取向。加强互联网信息服务深度合成管理,对于促进互联网信息服务健康发展、推进网络空间治理意义重大。新规在落地过程中,离不开技术支撑加以监管,需利用技术创新、技术对抗等方式,持续提升和迭代检测技术的能力。同时,通过明确界定各方责任要求,构建多方共同治理格局,推动行业自律,保障社会监督和申诉渠道畅通,共同推进深度合成服务综合治理。
撰稿王璐