北京青年报
规范深度合成服务,维护清朗网络空间
光明日报 2023-01-06 10:30

新技术是媒体传播的第一生产力,技术驱动下的传媒变革正不断刷新传媒业的面貌,但也滋生出一系列安全隐患。近日,国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),强调不得利用深度合成服务从事法律、行政法规禁止的活动,要求深度合成服务提供者落实信息安全主体责任,《规定》将于2023年1月10日起施行。

深度合成技术,是指利用深度学习、虚拟现实等生成合成类算法,制作文本、图像、音频、视频、虚拟场景等网络信息的技术。当今,深度合成技术已在新闻传播、影视制作、社交娱乐、广告营销、商业应用等多元场景广泛运用,例如虚拟数字人、AI合成主播、视频换脸、智能客服、影像修复、沉浸式拟真场景等技术。

随着技术的成熟和普及,深度合成技术的应用范围越来越广,技术壁垒被不断突破,技术门槛也正日益降低。因此,社会各个领域在享受数字化技术带来的便捷时,也必须警惕其潜在的负面效应,主要表现为恶意合成伪造,继而产生诬陷、诽谤、敲诈、勒索等不法行为。由于难辨真伪而扰乱视听,影响舆论进程和导向,造成严重后果等。此次《规定》出台,剑指互联网信息服务深度合成行业乱象,以专项治理的方式防患于未然,及时规范行业发展,填补监管空白,引导深度合成技术这把“双刃剑”,发挥出有益于社会的正向价值。

深度合成技术成功实现了从“虚真”到“逼真”的跨越,带给大众更为沉浸、便捷、多元的数字化体验。然而这种足以以假乱真的合成技术,也易将受众带入“深度后真相”的世界,虚实之辨、真假之辨将变得更加困难。深度合成技术依托其高度逼真性,与视音频、场景、故事、新闻等结合后,将对受众的思想倾向、舆论的发展走向产生重要影响,如若被别有用心者恶意伪造虚假信息进行谣言传播,或肆意“张冠李戴”贸然拼接迎合猎奇媚俗心理,则将严重危害社会信息安全、危害人民群众的合法权益。

《规定》注重从源头抓起,明确深度合成服务提供者和技术支持者的管理责任和安全义务,责成其建立健全包括算法机制机理审核、科技伦理审查等管理制度,以及具有安全可控的技术保障措施。《规定》要求对可能导致公众混淆或者误认的,深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。

法律法规的推出必须紧跟时代步伐,互联网法规的“动态更新”是规范网络空间发展、营造风气清朗的网络生态环境的必然举措。网络空间正深度介入并影响现实生活,对其进行严格规范和监管,是网络发展以人民为中心的具体体现,符合人民群众的根本利益。一系列“清朗”行动是重点治理与专项治理的深度结合,也是从自律和他律入手,整治网络信息服务乱象、规范网络传播秩序的深度实践。

《规定》的制定和实施,是以效果为导向,全方位规范服务提供者、技术支持者、平台及用户的行为,引领网络空间的所有参与者共同发力,实现网络共同体的共建、共治,引导正确处理技术、伦理与法治之间的关系,逐渐形成普遍奉行的、深入人心的“深度合成原则”。相关部门紧紧跟随时代变化的步伐,面对新技术、新事物的出现坚持快速反应、超高效率、动态更新的工作原则,及时跟进监管,以法律法规作为顶层引领的治理措施,是标本兼治、长治长效的机制,有效促进纯净的网络空间建造,促进技术应用行稳致远。

在传媒科技高速迭代、高位发展、深度应用的当下,各种新兴技术正深度重构网络生态甚至整个传媒生态。新兴技术往往是一柄双刃剑,维护风清气正的网络空间,需要对新技术进行规范管理。面对新技术应坚持引导其可持续发展,坚决不搞“一刀切”,而是从问题衍生的源头入手,进行前端治理,引导网络共同体意识形成,促使各方携手共进,让网络正气高扬,实现共建、共治、共享的长久发展模式。

党的二十大报告指出,“中国式现代化是物质文明和精神文明相协调的现代化。”在当今“思想+艺术+技术”的现代化融合传播实践中,技术已成为传媒行业发展不可或缺的重要一环,但技术服务于精神文明建设这一根本原则必须坚守,思想艺术与人文价值的深邃高远才是技术革新行稳致远的最佳保障。技术让思想的传播有了鲜活的形态,让艺术的欣赏有了动情的外表,但技术的精度应永远服从于思想理念的深度和艺术传播的广度。

在互联网法律法规日趋成熟的体系内,防范对技术的滥用、恶用,实现对各类新技术的协同监管,才能迎来创新与清朗兼具的媒介生态环境,让技术为人类缔造更加美好的生活。

文/冷凇

图源/视觉中国

编辑/姬源

相关阅读
不得恶意删除、篡改、伪造、隐匿标识!事关人工智能生成合成内容标识 新规征求意见
财联社 2024-09-14
国家网信办发布《人工智能生成合成内容标识办法(征求意见稿)》
网信中国 2024-09-14
百名正能量网络达人,助力大兴亮相网络空间
北京青年报客户端 2024-09-07
用好流量才有清朗网络空间
光明网 2024-05-29
10项任务集中整治网上突出问题乱象!中央网信办部署2024年“清朗”行动
央视新闻客户端 2024-03-15
公安机关严打涉网犯罪维护网络清朗 出硬拳净化网络空间
法治日报 2023-11-09
综合治理网络暴力,营造清朗网络空间
光明日报 2023-11-03
为青少年营造清朗网络空间
人民日报 2023-07-14
最新评论