【法治护我心】划定深度合成服务“底线”“红线”******
【法治护我心——《互联网信息服务深度合成管理规定》系列解读】
光明网记者 陈畅、李政葳
“雾里看花,水中望月,你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲,用来描述当下互联网时代的“云”上生活,在技术发展与风险伴生之下,“虚”“实”之间让人颇有迷幻之感。
“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来,人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态,但其被恶意利用制作虚假信息内容,进而带来了政策干扰、谣言泛滥、低俗内容等。因此,我们也在呼吁——“借我一双慧眼,把这纷扰看个清清楚楚明明白白……”
纵观互联网发展历程,技术治理本身就是一场攻防对抗博弈,也是技术从创新应用到规范发展的必经之路。近日,这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。
法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”, 迈出我国新技术新应用立法的重要一步,也将有效维护网络空间良好生态。
明确义务要求,强化主体责任
事实上,深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展,深度合成技术门槛大幅降低。2017年11月,Reddit网站的用户“deepfakes”发布伪造视频,曾一度将这项技术推至风口浪尖,其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。
何为“深度合成技术”?《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。
具体包括:篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术,文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术,音乐生成、场景声编辑等生成或者编辑非语音内容的技术,人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术,图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术,三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
诚然,从技术进步的角度看,深度合成技术应用的初衷是让生成合成内容更逼真,但技术在愈趋“智能”的同时,也不可避免地带来更多风险。对此,中国科学院信息工程研究所所长孟丹介绍,除深度伪造风险外,还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。
深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者,也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现,《规定》明确了深度合成技术定义和服务范围,提出了服务提供者落实信息安全主体责任,指出了服务提供者和技术支持者备案义务,并对服务提供者履行安全评估和配合监督检查义务提出具体要求。
中国科学院自动化研究所所长徐波这样评价:《规定》分析梳理了深度合成活动边界,对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如,服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务,服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。
健全技术支撑体系,促进科技向上向善
从此起彼伏的社会案件中可以看出,深度合成信息内容制作和传播数量正在高速增长,尤其伴随“元宇宙”等新模式、新场景不断落地,深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为,《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步,标志着我国网络空间治理能力进一步优化提升。
时间倒回到两年前。在2021年12月,国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》,对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上,加强对深度合成服务全过程管理,也深化了备案与评估标本兼治。
然而,从技术发展阶段看,深度合成技术与应用管理仍处于起步阶段,在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设,是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。
《规定》的字里行间,凸显了“以技术管技术”的逻辑,也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架,提出了明确的数据和技术管理规范,为促进深度合成技术向上向善,引导相关产业健康发展,确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。
“《规定》以促进技术在规范中发展为价值取向,在明确‘红线’的同时,为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如,《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。
孟丹也建议,从深度合成信息内容源头上,解决其衍生的内容安全风险,利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力,不仅着眼于管理好、使用好、发展好深度合成技术及相关服务,也致力于深度合成技术的合法合理合规使用,促进深度合成技术及相关服务健康有序的发展。
引导多方参与,推动治理走深向实
随着数字化、智能化进程不断加快,互联网信息服务综合治理不断细化,规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示,深度合成服务治理需要政府、企业、社会、网民等多方主体参与,推动深度合成技术的依法、合理、有效使用,积极防范化解深度合成技术带来的风险,促进互联网信息服务健康发展。
《规定》明确提到,国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责,国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。
王志勤认为,《规定》构建了统筹协调、多方参与的监管体制;《规定》鼓励相关行业加强行业自律,搭建齐抓共管、协同共治的治理机制;《规定》通过系统化的制度安排,进一步构建完善了我国网络综合治理法治体系。
孟丹也提到,《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面,仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中,建议业内推进产业联盟建立,以产业自治、多方共治的方式,不断推进深度合成技术应用高质量发展。
为推动深度合成治理走深向实,徐波建议,强化智能监管平台支撑。比如,深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术,推动深度合成管理技术能力建设;加强人机混合的智能监管技术,研究深度合成服务提供者的安全可控技术保障方案,把监管规范转化为评估标准,建设面向网络全域监管的监测管理平台;研发深度合成与鉴别对抗机制,鼓励新兴科技企业与研究机构开展技术演练,共同推动深度合成服务健康发展。
中美元首的这场会晤释放哪些关键信息?******
(近观中国)中美元首的这场会晤释放哪些关键信息?
中新社北京11月15日电 题:中美元首的这场会晤释放哪些关键信息?
——专访中国现代国际关系研究院院长助理兼美国研究所所长王鸿刚
中新社记者 张蔚然 梁晓辉 郭金超
当地时间11月14日下午,中国国家主席习近平在印度尼西亚巴厘岛同美国总统拜登举行会晤。这是中美元首自新冠肺炎疫情以来首次面对面线下会晤,持续3个多小时。
从中美关系总体走向、如何看待合作与竞争,到台湾问题、两国制度差异等,两国元首坦诚深入交换了看法。中新社“近观中国”栏目专访中国现代国际关系研究院院长助理兼美国研究所所长王鸿刚,解读此次会晤释放的关键信息。
当地时间11月14日下午,国家主席习近平在印度尼西亚巴厘岛同美国总统拜登举行会晤。来源:新华社从四个关键词看中美元首会晤的影响
中新社记者:习近平提出中美需要探讨新时期两国正确相处之道,找到两国关系发展的正确方向,推动中美关系重回健康稳定发展轨道。您如何评价此次会晤的时机、效果和影响?
王鸿刚:中美元首会晤历来全球瞩目,特别是此次会晤时机特殊,必然产生重要的世界影响。可用几个关键词来概括。一是会后,二是选后,三是多重危机,四是多边场合。
所谓会后,是从中国方面说。此访是中共二十大后,中国最高领导人首次参加国际多边会议并会晤多国首脑政要。对美关系是中国外交新局的重要一环,元首会晤则是中国对美外交的重要一环。
所谓选后,是从美国方面说。美国中期选举刚结束,此次中美元首会晤是拜登在中期选举之后海外之行的最重头戏。美方主动提出与习近平主席会晤,有谋划未来两年对华关系和整体战略布局的考量。
所谓多重危机,是从国际环境说。乌克兰危机持续发酵,全球公共卫生危机、气候危机、粮食危机深度纠缠,产业链供应链很不稳定,“灰犀牛”“黑天鹅”越聚越多。时局如此艰难,大国总要表个态才行。面对多重危机,中美能否担起大国责任,特别是美国能否拿出实际行动,是国际社会关注的重点。
所谓多边场合,是从会面地点说。此次元首会晤借的是印尼召开G20峰会的“场子”。过去几年来中美频频过招、激烈博弈,各国都担心中美滑向冲突对抗,有必要借此多边场合引导各方预期。
中美两国利用这个重大多边场合会晤,给世界了解中美各自立场提供了重要窗口,世界看到了中美在很多核心关切问题上的立场、意图和行动选择。就此而言,这是一次十分重要的中美战略互动,也必将产生十分重要的全球战略影响。
中新社记者:台湾问题是中国核心利益中的核心。习近平在会晤中亮出中方主张,台湾问题是中美关系第一条不可逾越的红线。拜登表示美国不寻求利用台湾问题作为工具遏制中国。此次沟通对于避免台湾问题对中美关系造成颠覆性破坏影响方面有何意义?
王鸿刚:台湾是中国领土不可分割的一部分,台湾问题是中国内政,这是人所共知、世所公认的。主权独立,不干涉内政,是过去几百年来现代国际体系演进中始终不变、各国普遍遵守的基本国际准则。美方总提“基于规则的国际秩序”,尊重他国主权和不干涉他国内政,就是最基本的国际规则;美方近年来变本加厉就台湾问题搞事,就是在带头破坏最基本的国际准则和国际规矩。特别是目前美国一些人幻想着在亚太复制乌克兰危机,利用台湾问题将中国拖入一场持续消耗的战争。
习近平主席鲜明提出,台湾问题是中国核心利益中的核心,是中美关系政治基础中的基础,是中美关系第一条不可逾越的红线。这是正告,也是警告。
此次会晤中,中方在台湾问题上着墨颇多,用意十分清楚。那就是:(1)点出本质,即这是美方粗暴干涉中国内政;(2)警示危害,即这样做不仅给中美关系带来更多波折甚至惊涛骇浪,更将损害美国的国家利益和国际信誉;(3)亮明原则,既然中国毫不理亏,那我们将坚决发扬斗争精神,动用一切可能手段,捍卫国家主权、安全、发展利益;(4)展示信心,中国有自强不息的光荣传统,一切打压和遏制只会激发中国人民的意志和热情,美方这些手段根本无法迟滞中华民族伟大复兴。
当地时间11月14日下午,国家主席习近平在印度尼西亚巴厘岛同美国总统拜登举行会晤。中新社记者 郭金超 摄美对华需要理解“中国式现代化”
中新社记者:战略意图作为长期困扰中美关系的难题,成为此次会晤一大关键词。习近平指出,中国党和政府的内外政策公开透明,战略意图光明磊落。从中国式现代化到独立自主的和平外交政策,他向拜登做出清晰阐述。在您看来,美方应怎样看待中方的发展,进而减少对华战略误判?
王鸿刚:正如习近平主席在会晤中向拜登总统介绍的,我们以中国式现代化全面推进中华民族伟大复兴。中国对自己的战略意图、战略目标和战略路径并不遮遮掩掩、口是心非,而是光明磊落地坦言相告,一以贯之地加以落实,这反映出我们作为新兴大国和新型大国的战略自信与气质品格。
如果美方更重视理解“中国式现代化”的内涵,将对中国向何处去、中美向何处去等重大问题看得更为清楚。关于中国式现代化对中美关系的影响,我概括了几个关键词:
一是延续性。这关乎对中国向何处去的理解。当我们强调中国式现代化时,其中的首要含义是,中国接下来要走的路,与新中国成立以来特别是改革开放以来走过的路是一脉相承的,属于现代化进程的不同阶段。美国需要认识到,中国内外政策会保持很大延续性,是百年变局中的重要确定性因素和中美关系中的重要稳定性因素。
二是相通性。这关乎对中美之间差异的理解。中美两国是一东一西、一南一北、一后一前追求现代化的国家。无论中美两国的历史文化、政治制度、治国方略差异多大,在现代化视角下都可以找到深层相通性,因为两国追求的都是成为现代国际体系中的现代民族国家。
三是利好性。这关乎对中美关系前景的理解。习近平主席强调,中国将坚持和平发展、开放发展、共赢发展,做全球发展的参与者、推动者,同各国一起实现共同发展。
中国的新发展,是世界的新机遇,也是中美关系的新机遇。对美方来说,读懂中国战略意图、避免误判的关键,就在于理解中国的发展道路,尤其是中国式现代化。对此我们有必要更加深入挖掘,未来需要向美方多讲。
中新社记者:近年来美方始终以“竞争”来定义中美关系。习近平指出,竞争应该是相互借鉴、你追我赶,共同进步,而不是你输我赢、你死我活。拜登表示,美方不寻求“新冷战”,不寻求通过强化盟友关系反对中国等。您认为这些表态对于当前陷入困境的双边关系有何启示?
王鸿刚:美方坚持从竞争视角看待和处理中美关系,不仅延续了特朗普政府的对华错误认知和政策路线,而且似乎在这条道路上越走越远,渲染“两种制度的竞争”和“两种国际秩序愿景的竞争”,中美划向“新冷战”的风险越来越大。这可以从近期公布的《美国国家安全战略》报告中看得很清楚。
如果最终是美方鹰派人士的对华认知和行动主导了中美关系的走向,那中美关系和整个世界根本无法向好发展;如果中美陷入“新冷战”,必然是全世界遭殃,中美谁也不是赢家。
关键是,美方一些政客先把中美关系导向完全错误的方向,然后又要求与中国一起来管控竞争、设置“护栏”和“底板”,这完全是一种奇怪、无效甚至是危险的逻辑。中美关系的发展,决不能照着这种想法来。
拜登此次表示,美国尊重中国的体制,不寻求改变中国体制,不寻求“新冷战”,不寻求通过强化盟友关系反对中国,不支持“台湾独立”,也不支持“两个中国”“一中一台”,无意同中国发生冲突。美方也无意寻求同中国“脱钩”,无意阻挠中国经济发展,无意围堵中国。美方须将上述表态落到实处。
正如习近平主席所说,“遵守国际关系基本准则和中美三个联合公报,这是双方管控矛盾分歧、防止对抗冲突的关键,也是中美关系最重要的防护和安全网”。立足当下,“相互尊重、和平共处、合作共赢”作为习近平主席提出的处理中美关系三原则,始终是中美关系发展的唯一正确方向。
当地时间11月14日下午,国家主席习近平在印度尼西亚巴厘岛同美国总统拜登举行会晤。来源:新华社中美差异不能简化为所谓“民主”对抗“威权”
中新社记者:近年来美方一直有人拿中美制度差异“做文章”。习近平向美方阐述了中国全过程人民民主理念,鲜明提出所谓“民主对抗威权”不是当今世界的特点,更不符合时代发展的潮流。在您看来,美方建立对中国制度的正确认知有何现实紧迫性?
王鸿刚:当今世界的突出特点是南北矛盾与东西差异深度交织。南北矛盾涉及经济发展,突出表现为全球发展的不均衡、不充分、不公正;东西差异源于文化传统和制度选择,是国际政治的长期基本特征。相比于东西差异,南北矛盾才是需要各国携手应对的更紧迫问题,这是时代发展的潮流决定的。
即便在东西差异中,也不能简单地将中美制度差异描述为所谓“民主”与“威权”的对抗。美国搞的是资本主义,中国搞的是社会主义,美国有美国式民主,中国有中国式民主,必须在这个背景下理解中美两国的制度差异,无论什么制度选择都源于本国历史传统和现实国情。美国对自己的制度引以为豪,但也必须正视其乱象丛生的现实;中国之所以创造经济快速发展和社会长期稳定两大奇迹,离不开14亿多人民对中国共产党领导和中国社会主义制度的认可支持。
世界上200多个国家和地区,政治制度和治理方略没有完全相同的,如果认为什么都是自己的好,看不起别人的历史文化、制度选择和发展道路,那在国际社会岂不沦为孤家寡人了;物之不齐,物之情也,各国必须各美其美,相互尊重。各国之间要如此,中美之间更要如此。正如习近平主席所说,任何国家的民主制度都不可能至善至美,都需要不断发展完善。对双方存在的具体分歧,可以进行探讨,前提是平等交流。
中美联系不是想“脱”就“脱”得了的
中新社记者:习近平对一些西方政客鼓吹的“脱钩论”做出有力回应,表示打贸易战、科技战,人为“筑墙设垒”,强推“脱钩断链”,完全违反市场经济原则,破坏国际贸易规则,只会损人不利己。您如何看待中方的鲜明立场?
王鸿刚:当前世界经济面临空前挑战,有深层结构性根源也有疫情的意外冲击,有客观原因也有人为因素。美国过去几年来“筑墙设垒”“脱钩断链”,是最主要的人为因素。这完全是基于零和逻辑、国内政治和短期考虑,严重破坏全球产业链供应链稳定,是世界经济增长的重大威胁。美国的做法只会损人不利己。
中方的立场非常清楚:合作共赢是中美关系的“必选项”,“脱钩”不利于两国,也不利于世界。中美两国的紧密联系是长期形成的,不是想“脱”就“脱”得了的。中美合作的领域始终在那里,只要想合作,合作就能搞得起来;当前形势下,中美两国共同利益不是减少了,而是更多了。
目前中美两国都在推进经济结构性改革,特别是中国追求高质量发展,超大规模市场优势将进一步发挥。中美两国经济深度融合,只要愿意,均可从对方发展中获益,这是双方的共同利益;当前世界既不太平也不安宁,全球经济疫后复苏、应对气候变化、解决地区热点问题需要更有效的大国协调合作,这也是中美双方的共同利益。双方应该相互尊重、互惠互利、着眼大局,为合作提供好的氛围和稳定的关系。(完)
专家简介:
王鸿刚,中国现代国际关系研究院院长助理兼美国研究所所长,研究员,博士生导师。本科和研究生毕业于吉林大学哲学社会学院,博士毕业于中国现代国际关系研究院。主要从事美国内政外交、中美关系、国际战略形势和总体国家安全观等方面研究,学术成果丰富。除数十篇公开发表的学术论文外,还有《大国运势2050》(专著,中信出版社2021年6月版),《大国博弈2050》(专著,中信出版社2021年5月版),《世界趋势2050》(专著,中信出版社2018年11月版),《百年变局与国家安全》(主编,时事出版社2021年4月版)等重要学术成果。
(文图:赵筱尘 巫邓炎)