【法治护我心】划定深度合成服务“底线”“红线”******
【法治护我心——《互联网信息服务深度合成管理规定》系列解读】
光明网记者 陈畅、李政葳
“雾里看花,水中望月,你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲,用来描述当下互联网时代的“云”上生活,在技术发展与风险伴生之下,“虚”“实”之间让人颇有迷幻之感。
“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来,人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态,但其被恶意利用制作虚假信息内容,进而带来了政策干扰、谣言泛滥、低俗内容等。因此,我们也在呼吁——“借我一双慧眼,把这纷扰看个清清楚楚明明白白……”
纵观互联网发展历程,技术治理本身就是一场攻防对抗博弈,也是技术从创新应用到规范发展的必经之路。近日,这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。
法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”, 迈出我国新技术新应用立法的重要一步,也将有效维护网络空间良好生态。
明确义务要求,强化主体责任
事实上,深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展,深度合成技术门槛大幅降低。2017年11月,Reddit网站的用户“deepfakes”发布伪造视频,曾一度将这项技术推至风口浪尖,其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。
何为“深度合成技术”?《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。
具体包括:篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术,文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术,音乐生成、场景声编辑等生成或者编辑非语音内容的技术,人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术,图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术,三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
诚然,从技术进步的角度看,深度合成技术应用的初衷是让生成合成内容更逼真,但技术在愈趋“智能”的同时,也不可避免地带来更多风险。对此,中国科学院信息工程研究所所长孟丹介绍,除深度伪造风险外,还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。
深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者,也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现,《规定》明确了深度合成技术定义和服务范围,提出了服务提供者落实信息安全主体责任,指出了服务提供者和技术支持者备案义务,并对服务提供者履行安全评估和配合监督检查义务提出具体要求。
中国科学院自动化研究所所长徐波这样评价:《规定》分析梳理了深度合成活动边界,对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如,服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务,服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。
健全技术支撑体系,促进科技向上向善
从此起彼伏的社会案件中可以看出,深度合成信息内容制作和传播数量正在高速增长,尤其伴随“元宇宙”等新模式、新场景不断落地,深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为,《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步,标志着我国网络空间治理能力进一步优化提升。
时间倒回到两年前。在2021年12月,国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》,对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上,加强对深度合成服务全过程管理,也深化了备案与评估标本兼治。
然而,从技术发展阶段看,深度合成技术与应用管理仍处于起步阶段,在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设,是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。
《规定》的字里行间,凸显了“以技术管技术”的逻辑,也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架,提出了明确的数据和技术管理规范,为促进深度合成技术向上向善,引导相关产业健康发展,确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。
“《规定》以促进技术在规范中发展为价值取向,在明确‘红线’的同时,为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如,《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。
孟丹也建议,从深度合成信息内容源头上,解决其衍生的内容安全风险,利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力,不仅着眼于管理好、使用好、发展好深度合成技术及相关服务,也致力于深度合成技术的合法合理合规使用,促进深度合成技术及相关服务健康有序的发展。
引导多方参与,推动治理走深向实
随着数字化、智能化进程不断加快,互联网信息服务综合治理不断细化,规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示,深度合成服务治理需要政府、企业、社会、网民等多方主体参与,推动深度合成技术的依法、合理、有效使用,积极防范化解深度合成技术带来的风险,促进互联网信息服务健康发展。
《规定》明确提到,国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责,国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。
王志勤认为,《规定》构建了统筹协调、多方参与的监管体制;《规定》鼓励相关行业加强行业自律,搭建齐抓共管、协同共治的治理机制;《规定》通过系统化的制度安排,进一步构建完善了我国网络综合治理法治体系。
孟丹也提到,《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面,仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中,建议业内推进产业联盟建立,以产业自治、多方共治的方式,不断推进深度合成技术应用高质量发展。
为推动深度合成治理走深向实,徐波建议,强化智能监管平台支撑。比如,深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术,推动深度合成管理技术能力建设;加强人机混合的智能监管技术,研究深度合成服务提供者的安全可控技术保障方案,把监管规范转化为评估标准,建设面向网络全域监管的监测管理平台;研发深度合成与鉴别对抗机制,鼓励新兴科技企业与研究机构开展技术演练,共同推动深度合成服务健康发展。
村居好环境,添彩新生活******
【一线讲述】
四地乡村干部群众心中的“宜居宜业和美家园”——
村居好环境,添彩新生活
编者按
民康物阜,盼之行之。党的二十大报告提出,要“统筹乡村基础设施和公共服务布局,建设宜居宜业和美乡村”。这一论断,既顺应亿万农民实现全面小康后对美好生活的新向往新期待,又丰富了农业农村现代化的科学内涵,为广袤山乡擘画了一幅高质量发展的壮丽图景。
新时代的农村“美好生活”,需要什么样的居住环境?村民们对此有何感触?本期,我们邀请四地乡村党员群众代表进行讲述,在他们的故事里,感受中国式现代化的幸福底色。
浙江省台州市仙居县埠头镇大陈坑村水堆头自然村新貌。王华斌摄/光明图片
从满身尘灰到推窗见绿
讲述人:江苏省镇江市丹徒区世业镇世业村永茂圩自然村村民 韩连华
我的家在一个江岛上。这里推窗见绿、抬头赏景,门前有清澈的小河,门后有整洁的柏油路,江岸上是林立的树木。可谁能想到,几十年前这里还是另一番景象。
1952年,17岁的我坐船来到这里,抬眼一瞅,处处是土屋墙、茅草顶。一家14口人上厕所,全靠茅坑里的一口大缸。岛外的人都看不起这儿,觉得又穷又荒又土,岛上的年轻人也都想去外面谋生计。20世纪八九十年代,镇里开起了船厂、砂石厂,村民收入越来越好,有条件的修起了厕所,但污水没地方排,就倒进门口的河道里;厂里的烟囱整天冒烟,空气越来越差。
2014年12月,习近平总书记来到了我们村。那会儿,村里的旱厕已经改成水厕了。总书记十分高兴,叮嘱要因地制宜做好厕所下水道管网建设和农村污水处理,“不断提高农民生活质量”。滚烫的话语,至今温暖着我们的心窝。
很快,镇里行动起来了。先是将岛上的4家船厂、3个砂石码头和40多家畜禽养殖场一个不留地关了,又建起了2座污水处理厂,建成了107公里长的污水收集系统。全镇4000多户都实现了“厕所革命”,家家户户的厕所连上了污水管网。我家门口的小河,也越来越清澈,大家放心地养上了鸭子。
绿水青山回来了,金山银山也跟着来了。镇里引进了高效农业园、健康养生谷等项目,又开起了大型游乐场,游客如流水一样涌来。再加上土地流转的收入,我们的腰包越来越鼓。镇里还把原来的船厂改建成了健身公园、文化公园,老人小孩都喜欢,我也常跟村里的老姐妹去跳跳操。我们可真是赶上了好时候。
大家很珍惜来之不易的好风景,连小孩子都知道扔垃圾要分类。就在前几天,村干部还跟我们说,未来,世业还要建设长江流域第一个碳中和岛,变成一个宜居、宜游、宜养的生态健康岛。想想家乡未来的样子,我们更有盼头了。
山东省沂源县南麻街道埠下村村民在民生综合体活动广场休息。新华社发
处处皆美景,处处能怡情
讲述人:吉林省延边州和龙市东城镇光东村党支部书记、村委会主任 玄杰
塔吊林立,机车轰鸣……我们光东村的农业融合产业园正在如火如荼地建设着。从2017年担任光东村党支部第一书记至今,我见证了这里一天天变美、变富、变强,时刻感受着村民对于拥有幸福家园的欣喜和自豪。
2015年7月16日,习近平总书记来到光东村,留下“新农村建设要坚持规划先行,注重乡土味道和民族风情,注重补农村的短板、扬农村的长处,努力建设美丽乡村和农民幸福家园”的深情嘱托。我们按照总书记的要求,加强规划、加大投入、加快落实,破解了一个又一个难题。
2016年,投入350万元的“旱厕改造”计划开始实施,让全村家家户户都用上了电热水器、抽水马桶等设备齐全的室内卫生间,极大地改善了各家卫生条件和居住环境。
硬化道路,绿化村庄,建设综合服务中心,改造老年活动室……如今,漫步在光东村,干净平整的沥青路蜿蜒向前,青瓦白墙的小庭院错落有致,绿树红花镶嵌其中,处处皆景、处处怡情。村民们有的在门球场挥动球杆,有的在文化广场跳象帽舞,有的在老年活动室里摆弄健身器材……
建好更要维护好。我们组建村清洁队,定期清理村内卫生,并对卫生情况进行全面监管。村民们逐渐养成了良好卫生习惯,全村获得和龙市“美丽庭院”或“干净人家”的多达140户。
利用独特的稻田风光、朝鲜族民居风貌和民俗传统,我们趁势发展乡村旅游,建设疗休养基地、共享农业基地和边疆爱国主义教育基地。现在,每年有15万左右的游客来村游玩,村民们纷纷参与歌舞表演、经营民宿、参加分红。细算下来,人均每年旅游收入在5000元左右。这口旅游饭,吃得真是又甜又美。
我们还创新实施了“共享稻田”项目,把零散稻田集中起来进行推介,欢迎大家认领,这又为村民和村集体带来一笔可观的收入。接下来,我们会把党的富民政策一项一项落实好,让村民的生活越来越红火。
重庆市巫溪县通城镇龙池村村民从一幅墙绘前走过。新华社发
“净美”小村庄,坝上好风光
讲述人:河北省张家口市张北县小二台镇德胜村党支部书记 叶润兵
我们村由6个自然村组成。过去,家家户户都是在院里搭个简易棚,挖个旱厕,牲口也都拴在院里,如厕时臭气熏天,蚊蝇乱飞,一旁猪圈里的猪还哄哄乱叫。这样的厕所,既污染环境,也影响健康。
厕所问题有时还影响家庭和睦。一到寒暑假,村里的老人们都盼望着自家孙子孙女回来住住,可就因为厕所问题,好多孩子不愿回来。他们说,爷爷奶奶家的茅坑又黑又臭,一不小心还容易掉进去。
2017年1月,习近平总书记来我们村看望慰问困难群众,同村干部和村民代表座谈,强调“要把扶贫开发、现代农业发展、美丽乡村建设有机结合起来,实现农民富、农业强、农村美”。
有了好环境,才能成就好未来。按照总书记开出的“方子”,2017年以来,我们在3个自然村建设了小别墅式的新民居——德胜新村。每户民居统一接入上下水,装上了冲水马桶。剩下的3个自然村也进行了整体改造,改厕正在推进中。
我们村地处坝上,冬天特别冷,水管容易冻住,因此改厕除了改环境、接上下水,还必须考虑取暖问题。今年8月,第三届中国国际太阳能十项全能竞赛在我们村举行,来自全球10个国家、29所高校的师生组成15支参赛队伍,设计建造了15栋用清洁能源发电的新型绿色建筑,这为我们利用清洁能源取暖打开了新思路。
在当下的改厕中,我们为每户建一个化粪池,还组织了清污队伍,定期给每户清理化粪池。村里每年拿出固定资金,设立公益岗,解决了垃圾清运和清污问题。现在,村里的街道已经很干净了,但是牛羊一出院门又带来满地粪便。我们准备建一个集中养殖场,解决牲畜粪便污染的问题。
过去,有些乡亲对改厕不是很接受,最主要的顾虑是怕花钱。要解开思想的疙瘩,就得让大家的腰包鼓起来。这几年,我们在地里种下“金蛋蛋”,在地上竖起“铁杆庄稼”,形成了以马铃薯种薯种植、光伏发电、民宿旅游为主导,艾草种植等特色产业齐头并进的发展模式,村民收入节节高。村集体有了钱,就拿出一部分补贴村民的水电费,再加上国家相关政策补助,现在大家用水用电几乎不花什么钱,改厕积极性也高了。
近年来,村里还实施了农村垃圾治理、村庄绿化、村容村貌提升等10大类人居环境整治工程。在开发微型薯等设施农业的同时,我们努力把它们做成可供观光的景观农业。村里的生态优势不断凸显,吸引了越来越多游客。他们喜欢沿着草原天路一路看风景,然后参观村里的微型薯大棚、光伏电站,晚上住在民宿,吃农家饭。
经济发展了,生活变好了,大家脸上的笑容更多了。
吉林省延边州和龙市东城镇光东村全貌。光明图片
扮靓“面子”,提升“里子”
讲述人:宁夏吴忠市红寺堡区弘德村党支部书记 任军
弘德村位于全国最大的易地搬迁生态移民集中安置区——红寺堡。10多年前,村民们挪出西海固重重叠叠的大山,迁到这片黄河水浇灌的新家园,靠着勤劳双手,过上了好日子。2020年6月8日,习近平总书记来到我们村察看村容村貌,留下深情寄语:“乡亲们搬迁后,更好生活还在后头。希望乡亲们百尺竿头、更进一步,发挥自身积极性、主动性、创造性,用自己的双手创造更加美好的新生活。”
街道巷陌的一草一木、家家户户的衣食住行,一点一滴都折射着今昔巨变。搬迁前,吃水是个大难题,半夜起来去翻山,回家太阳快落山;遇上雨雪土路变泥滩,十天半月出不了门;一个赤脚医生看百病,还常常下地干活找不见人。如今,自来水接到了灶头,光纤宽带扯到了炕头,公交车通到村头,卫生院就在门外头。
这两年,我们重点对村里的基础设施和公共服务进行提升。5米宽的硬化路升级成8米宽的柏油路,两边栽下景观树、铺上“面包砖”,还修了健身步道和活动广场,出门就是“小微公园”。为了方便移民群众就近务工,政府修了一条通往工业园区的路,条条村道亮起路灯,下班再也不怕一步三坎走夜路了。我们接连实施乡村振兴项目,全覆盖连通污水管网,扩建了两座教学楼,建成了高标准的灯光足球场,卫生院软硬设施不断升级。
去年,我们翻建了农贸市场,脏乱差的小地摊不见了,代之以整洁有序的营业房,每年给村集体创收70多万元。乡亲们一边感叹“一脚跨进了城”,一边念着“共产党好,黄河水甜”。如今,男女老少将自编的歌曲《弘德村好地方》挂在嘴边:“弘德村好地方,好呀地方,好地方好风光,到处是枸杞,遍地是葡萄……柏油马路宽又宽,再不是旧模样啊……”
下一步,我们将内外兼修,扮靓“面子”、提升“里子”,探索文旅融合振兴乡村的新路子。比如,我们把闲置的移民办事处旧址改造成特色民宿,联合周边几家农业企业,打造农业休闲采摘园、观光园、垂钓园,串联形成乡村旅游路线。我们还挖掘整理移民群众的奋斗史,讲好弘德村故事,建设红色研学基地,让这里真正成为移民安居乐业的和美家园。
项目团队:光明日报记者 张胜、苏雁、任爽、耿建扩、陈元秋、王建宏、张文攀、王斯敏光明日报见习记者 李层
《光明日报》( 2022年12月23日 07版)
(文图:赵筱尘 巫邓炎)