消费日报网 > 中国经济 > 法治在线

AI深度换脸术等新技术新运用迎来强监管

时间:2019-12-05 09:57:17 来源:法制日报

  人工智能技术是一把双刃剑,在为我们提供便利的同时,带来诸多风险。比如前段时间各方热议的AI换脸术,在自我娱乐、娱乐大众的同时,不可避免引发诸如用户个人隐私的泄露、侵权、虚假谣言的扩散等法律风险。
  如今,官方正式出手——国家互联网信息办公室、文化和旅游部、国家广播电视总局日前联合印发《网络音视频信息服务管理规定》(以下简称《规定》),要求利用新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识;网络音视频信息服务提供者发现使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的,应当及时采取相应的辟谣措施。
  “新兴技术一旦在网络上被违法运用,极有可能造成社会秩序紊乱,甚至危害国家安全。这就要求对网络音视频行业加强监管。”北京师范大学互联网发展研究院院长助理、中国互联网协会研究中心秘书长吴沈括教授告诉《法制日报》记者,《规定》不仅加大对违法行为的打击力度,制约网络水军等扰乱网络秩序的行为,而且有利于进一步保护公民、法人以及其他组织的合法权益,维护社会秩序和公共利益。《规定》的出台,意味着AI深度换脸术等新技术新运用迎来强监管,
  风险不断叠加亟需规范
  当前,网络音视频信息行业发展迅速,用户规模不断壮大。数据显示,我国网络音乐用户规模已达6.08亿,网络视频用户规模已达7.59亿。随之而来的是,相关风险在不断叠加。
  今年年初,一个“朱茵变杨幂”的视频在bilibili(视频弹幕网站)上火了,视频中《射雕英雄传》中扮演的“黄蓉”角色被替换为杨幂。视频被传至微博后引起轩然大波,侵权、安全等争议声接踵而至。
  “随着’深度伪造’等新技术新应用在网络音视频领域的运用,传播违法和不良信息、侵犯人民群众合法权益等风险隐患在不断增大。”国家互联网信息办公室有关负责人坦言,这些风险进一步集聚、放大,很可能被利用从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动。
  “亟需出台有针对性的管理规定。”国家互联网信息办公室有关负责人说,亟需明确网络音视频信息服务提供者及其技术支持的主体的信息内容安全管理责任,规范网络音视频信息服务提供者关于利用深度学习、虚拟现实等新技术新应用的管理要求,为网络音视频信息服务及其相关技术的提供、使用、管理等提供有效的依据。
  在吴沈括看来,尽管监管部门近几年来已出台了相关文件,但由于网络音视频行业内容、用户等数量庞大,违法现象层出不穷。为此,国家网信办、文化和旅游部、国家广电总局三部门联合制定《规定》,明确了管理机制,规范了新技术的使用,对将有关技术用于违法用途的行为起到了一定的阻止作用,有利于维护网络音视频行业的健康秩序。
  辟谣机制阻断谣言传播
  吴沈括注意到,《规定》对新技术新应用安全给予高度关注,对基于深度学习、虚拟现实等的新技术新应用制作、发布、传播音视频信息进行了明确规定。
  至于原因,吴沈括分析指出,这是由于此前规范机制的缺乏,虚假、违法信息在网络平台上传播,难以得到有效的遏制,谣言的迅速传播以及影响范围广的特点,对公民和社会秩序都造成了严重危害。
  对此,《规定》不仅明确安全评估要求,网络音视频信息服务提供者基于新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务,或者调整增设相关功能的,应当按照国家有关规定开展安全评估。而且明确标识要求和新闻信息管理要求,网络音视频信息服务提供者和网络音视频信息服务使用者利用新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识,不得利用新技术新应用制作、发布、传播虚假新闻信息。
  国家互联网信息办公室有关负责人介绍说,《规定》还明确违法违规信息管理要求,网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术。
  此外,《规定》还强调,网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术,发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的,应当依法依约停止传输该信息,采取消除等处置措施;网络音视频信息服务提供者应当建立健全辟谣机制,发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的,应当及时采取相应的辟谣措施,并将相关信息报网信、文化和旅游、广播电视等部门备案。
  吴沈括告诉记者,《规定》对非真实音视频信息的标识义务以及辟谣机制的安排,有利于识别各式各样的虚假信息,阻止虚假信息的传播,保护公民个人的权益,使新技术能够得到合法运用,与网络音视频行业共同健康发展。
  设置便捷投诉举报入口
  记者注意到,《规定》要求网络音视频信息服务提供者落实信息内容安全管理主体责任,应当依法取得法律、行政法规规定的相关资质;建立健全用户注册、信息发布审核、信息安全管理等制度。
  “该些规定要求网络音视频信息服务提供者自觉主动履行平台监管的义务,加大对不良信息的识别和审核力度,承担平台所应有的社会责任。”吴沈括解释说,平台方在追求经济利益的同时,实现与社会效益相统一。网络音视频信息服务提供者应加大对公民、社会和国家利益的保护力度,承担更多的主体责任。
  同时,《规定》要求网络音视频信息服务提供者应当依照《中华人民共和国网络安全法》的规定对用户进行真实身份信息认证等。对此,吴沈括解释说,这一条可以看做是网络应用实名制条款,明确了公民个人的责任。
  此外,《规定》要求,网络音视频信息服务提供者应当设置便捷的投诉举报入口,及时受理并处理公众投诉举报。此外,网络音视频信息服务提供技术支持的主体应当遵守相关法律法规规定和国家标准规范。
  据国家互联网信息办公室有关负责人介绍,《规定》还明确监督检查要求和执法协助要求,各级网信、文化和旅游、广播电视等部门应当建立日常监督检查和定期检查相结合的监督管理制度,网络音视频信息服务提供者应当配合监管部门开展执法工作。而且明确了法律责任,网络音视频信息服务提供者和网络音视频信息服务使用者违反本规定的,由网信、文化和旅游、广播电视等部门依照相关法律法规规定处理。
  吴沈括认为,作为规范性文件,《规定》对网络音视频信息行业的的监管作了大体规定,后期仍需更为细化的执行性文件出台,帮助有关部门以及网络音视频信息服务提供者进一步履行责任。(法制日报全媒体记者 侯建斌)

消费日报网版权及免责声明:
1. 凡本网注明“来源:消费日报网” 的所有作品,版权均属于消费日报网。如转载,须注明“来源:消费日报网”。违反上述声明者,本网将追究其相关法律责任。
2. 凡本网注明 “来源:XXX(非消费日报网)” 的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
3. 任何单位或个人认为消费日报网的内容可能涉嫌侵犯其合法权益,应及时向消费日报网书面反馈,并提供相关证明材料和理由,本网站在收到上述文件并审核后,会采取相应措施。
4. 消费日报网对于任何包含、经由链接、下载或其它途径所获得的有关本网站的任何内容、信息或广告,不声明或保证其正确性或可靠性。用户自行承担使用本网站的风险。
5. 基于技术和不可预见的原因而导致的服务中断,或者因用户的非法操作而造成的损失,消费日报网不负责任。
6. 如因版权和其它问题需要同本网联系的,请在文章刊发后30日内进行。
7. 联系邮箱:xfrbw218@163.com  电话:010-67637706

标签:
编辑: 黄青青
相关新闻

讲好“最美警察”故事鼓斗志树形象赢民心 “北京榜样·最美警察”主题活动纪实

  几天前,一场特别的主题活动在北京市公安局举行,参加活动的有在毛主席纪念堂前一守就是31年的刘巨平,有在19层住宅纵身一跃救下轻生女子的冯锐,有精耕细作“责任田”、默默守护和谐稳定的赵志明,...

莒县综合行政执法局浮来中队:危急时刻显身手 抢救伤员暖人心

   1月20日下午4点20分左右,莒县综合行政执法局浮来中队执法人员在街道驻地银杏大道正常巡查时,发现在戚家街红绿灯路口发生了一起交通事故,一辆由东向西行驶的无牌电动轿车将一辆由南向北行...

河南修武县检察院走访慰问中国好人和最美修武人 送去新春祝福

  消费日报网讯:1月21日上午,在春节来临之际,修武县检察院党组书记、检察长张海军一行走访慰问“中国好人”付正超和“最美修武人”徐国青,为他们送上新春的祝福。  张海军检察长分别对两位道德模...

河南修武县检察院开展春节廉政家访 “醒心”又“暖心”

  消费日报网讯:2020年新春佳节将至,为进一步加强对检察干警八小时以外的监督,深入推进廉洁家风建设,教育引导全院干警度过廉洁温馨的新春佳节,1月19日、20日,修武县检察院党组、驻检察院纪检...

大数据杀熟网络黑公关等严重侵蚀网络诚信 完善互联网领域守信激励失信惩戒机制

  电商平台频现大数据“杀熟”乱象,网络“黑公关”事件愈演愈烈,网络谣言呈现“病毒”变异式传播态势……在互联网时代,大数据、新技术在为人们带来便捷的同时,也引发诚信缺失问题。  形形色色的失信行...

河南郑州:春节暖心走访帮扶 祥云派出所心系困难群众

  消费日报网讯:在新春佳节即将来临之际,郑州市公安局经开分局祥云派出所想群众之所想,急群众之所急,为辖区退伍军人、困难群众送去了米面粮油等生活必须品,为困难群众解决了燃眉之急,也送去了...