返回首页
上海金融报CURRENT AFFAIRS
上海金融报 / 正文

AI换脸软件盛行

“丢脸”风险不容忽视

  “没想到我的脸也可以这么好看,感觉自己就是明星了!”“终于能让我体验一把跟偶像飙戏的感觉了!”最近,一款基于人工智能技术的“换脸”应用软件“ZAO”走红网络,使用者上传自己的高清照片,即可将本人面孔与大量影视片段中的明星面孔置换,过一把明星瘾。不过,“换脸”背后潜在的“霸王条款”也引发了公众质疑。近日,工信部约谈“ZAO”相关负责人,要求其严格按照国家法律法规以及相关主管部门要求,组织开展自查整改。从一夜爆红到被约谈整改,“ZAO”的遭遇又一次为网络数据安全问题敲响了警钟。

  AI换脸软件盛行

  技术是一把“双刃剑”,在重构整个社会结构的同时,也在不断解构现有的社会生态体系。近日,一款基于AI换脸技术的App“ZAO”闯进了舆论漩涡。

  早前有网友指出,“ZAO”中的用户协议隐藏了很多对用户不利的条款,一旦使用就意味着可能将自己的肖像权让渡给这家公司,而且可能还会连带附上侵权责任。据悉,该款App早期用户协议中载明:用户一旦上传自己的照片进行视频“换脸”,将在全球范围内完全免费、不可撤销地将包括人脸照片在内的肖像资料授权给该公司和其关联公司。

  之后,工信部约谈“ZAO”相关负责人,要求其严格按照国家法律法规以及相关主管部门要求,组织开展自查整改。近日,《上海金融报》记者下载了该款App,发现其推出了新版的用户协议和隐私协议,删除了可免费使用用户肖像权条款,还增加了对用户的“特别提示”。

  9月18日,针对AI换脸软件“ZAO”涉嫌侵犯用户隐私,并在用户协议中暗藏“霸王条款”的问题,国家网信办副主任刘烈宏表示,网信办支持新技术、新应用的发展,同时也将采取必要措施防范风险,网信办已会同有关部门制定出台了具有舆论属性和社会动员能力的互联网信息服务安全评估规定,个人信息安全规范等法规、标准,正在制定网络生态治理规范等法规、标准,将指导、督促、监管上线的新技术、新应用。

  其实,类似导入自己照片就能“换脸”的相关软件,在手机“应用商店”中随处可见。记者在“应用商店”中搜索“换脸”,便出现了“AI换脸”、“颜值换脸Cam”、“磨叽相机”等多款软件。其中,“AI换脸”软件的下载量多达19万次。

  记者也是“ZAO”换脸软件的使用者之一,之所以对该软件感兴趣,主要基于几方面原因。一是互动性较强。只需上传自己的人脸照片,便可以同喜欢的明星同台飙戏,满足自己的好奇心。二是娱乐性较强。“换脸”之后,面对不同装扮的自己,会有不同的惊喜,从而达到放松身心的目的。

  “AI换脸技术主要存在于对新鲜事物感兴趣的人群中,他们可以将自己的脸‘换’进相关的影视作品中,进而产生一种亲自参与演出的感觉,既满足了虚荣心,也是一种‘圆梦’。” 上海社科院法学研究所研究员涂龙科对《上海金融报》记者表示,在现实生活中,人们会受到来自各方面的压力,通过“换脸”,可以间接体验一种“逃避现实”,迈向“美好生活”的感觉。

  风险不容忽视

  从目前AI换脸软件的应用情况看,在享用该软件达到娱乐目的的同时,用户和软件的开发者可能面临一系列的法律风险。比如,AI换脸软件的使用可能涉及用户的财产权、肖像权、名誉权等的损害,以及侵犯他人的知识产权等。

  “‘ZAO’上的视频素材和表情素材的来源主要分两种,一是与权利人进行合作,获得权利人对于素材的版权及其中包含的肖像权利人的授权。二是由用户上传,通过用户协议,约定用户将上传的素材及修改后素材的修改权、信息网络传播权以及转授权等权利授予平台。其中,第一种来源有效解决了‘ZAO’商业模式的合规问题,但获取授权也存在一定代价,即限制了平台获取素材的种类和数量。而从用户处获得授权,大大降低了平台获取内容的成本,也丰富了平台的素材内容,有助于满足更多用户的需求。”中国政法大学知识产权研究中心研究员赵占领告诉《上海金融报》记者,用户对于其在“ZAO”平台上上传的内容,部分拥有版权、肖像权,或者从权利人处获得授权,但有的并未获得权利人授权。例如,用户未经授权将影视剧片段上传至平台,该行为构成版权侵权。“ZAO”对于用户的侵权行为是否承担责任,一般根据通知删除规则来判断,即当权利人向“ZAO”发出侵权通知后,“ZAO”及时删除了侵权内容,则平台无需承担责任;不过,“ZAO”对于用户上传的侵权内容属于明知或应知的除外。比如,用户上传的是热播影视剧中的片段,或者平台明知用户上传的内容侵权,还对上传内容进行了推荐。在这种情况下,“ZAO”很有可能构成帮助侵权,需承担一定责任。

  “‘换脸’技术从诞生之初便伴随着一种现象,即虚构事件中的当事人。例如,一些人出于各种目的,将某些人物的脸‘换’进色情影片中进行传播,会让不明真相的群众对该人物产生误解,进而使其名誉权受到损害。” 涂龙科认为,此外,“换脸”后用户极有可能面临个人信息被泄露的风险。在 “互联网+”时代,公民大量的个人信息以数据化、电子化的形式存储于网络数据库中,并通过密码、面部识别等方式进行加密处理,如果不法分子通过一定途径获取了公民“换脸”后的视频并予以裁剪,便极有可能通过“面部识别”对数据解锁,非法获取公民的个人信息。

  北京航空航天大学法学院教授孙国瑞在其文章《“ZAO”换脸软件有版权风险?》中也提到:“我国民法总则第一百一十三条规定:民事主体的财产权利受法律平等保护。第一百一十条第一款规定:自然人享有生命权、身体权、健康权、姓名权、肖像权、名誉权、荣誉权、隐私权、婚姻自主权等权利。用户在使用‘ZAO’换脸软件的时候,一旦同意提供或者许可自己的肖像权,则可能产生‘生物识别信息’失控的安全问题。‘ZAO’AI软件在运行中收集到的用户静态和动态的脸像信息,与人的指纹、虹膜、步态等同类,属于敏感的个人生理特征信息的生物识别信息。因为这些信息不易更改,所以被广泛应用于个人身份认证、交易和网络支付等领域。如果这些生物识别信息被不当泄露,特别是该类信息被他人非法用于异地支付或者网络交易,必然会给‘ZAO’AI换脸软件的用户造成诸如‘账户被盗’、‘被贷款’、‘被网贷’之类的财产损失。在个人信用越来越受重视的现代社会,用户‘生物识别信息’被非法使用,也会损害用户的名誉权。”

  有效化解风险,需要各方共同努力。涂龙科指出,一方面,社会可以通过宣传加强公民的“法律意识”。另一方面,人们在使用这些技术时,应该认真阅读用户须知,避免盲目跟风。同时,树立“维权意识”。现实生活中,当自身权利受到侵害时,很多人都存在“忍气吞声”的心理,无形中“鼓舞”了相关公司,使其丧失了尊重用户个人信息的意识。另外,监管部门也应有所作为,加大对用户须知、用户协议等条款的审查力度。例如,在“ZAO”的最初用户协议中,其公然规定当用户选择使用软件后,便允许平台可以免费使用并修改用户的肖像,并且还可以将它任意授权给自己想要授权的第三方。如此光明正大侵犯公民权利的条款,监管部门应该在审查环节就予以指出并要求改正,将其完全扼杀在“摇篮”中。

责任编辑:毛晓勇
相关稿件
视频新闻VIDEO NEWS

推进国债下乡的重庆范本:金融课堂扶智 切块销售互农

让企业少跑腿让数据多跑路 央行国库业务创新释放“放管服”改革红利