收藏本页 打印 放大 缩小
0

AI“丢脸”风险不容忽视

发布时间:2019-11-06 10:38:51    作者:    来源:中国银行保险报网

□卞文志

时下,刷脸支付正成为移动支付的新赛道,支付宝、微信等支付巨头正竞相发力布局刷脸支付市场,但刷脸支付的安全问题也一直备受关注。

人脸识别技术各类标准应尽快出台

一款基于人工智能技术的“换脸”应用软件“ZAO”走红网络,使用者上传自己的高清照片后,即可将本人面孔与大量影视片段中的明星面孔置换,过一把明星瘾。其实使用AI “换脸”背后,不仅潜在一些“霸王条款”,而且也存在着一定风险。有关人士认为,技术是一把“双刃剑”,在重构整个社会结构的同时,也在不断解构现有的社会生态体系。像基于AI换脸技术的App“ZAO”这种人工智能技术,便因引起人们的质疑而陷入舆论漩涡。

事实上,早前就有网友指出,“ZAO”中的用户协议隐藏了很多对用户不利的条款,一旦使用就意味着可能将自己的肖像权让渡给这家公司,而且可能还会连带附上侵权责任。据悉,该款App早期用户协议中载明:用户一旦上传自己的照片进行视频“换脸”,将在全球范围内完全免费、不可撤销地将包括人脸照片在内的肖像资料授权给该公司和其关联公司。

日前工信部约谈了“ZAO”相关负责人,要求其严格按照国家法律法规以及相关主管部门要求,组织开展自查整改。从一夜爆红到被约谈整改,“ZAO”的遭遇又一次为网络数据安全问题敲响了警钟。

笔者也是“ZAO”换脸软件的使用者之一,之所以对该软件感兴趣,主要基于两方面原因:一是互动性较强。只需上传自己的人脸照片,便可以同喜欢的明星同台飙戏,满足自己的好奇心。二是娱乐性较强。“换脸”之后,面对不同装扮的自己,会有不同的惊喜,从而达到放松身心的目的。

但在有关专家看来,人脸识别采集技术要求高安全性、高准确率、高可用性、高实时性,会积累大量的数据,但这些数据如果变成一个个数据孤岛,就无法使人脸识别技术得到提升。相关应用如何设计人脸识别系统、确保用户数据不被盗用,已经成为了人们普遍关注的问题。目前在技术开发领域仍有较大拓展空间,有必要在数据的共享和开放上加大引导力度,促进其发展。此外,随着人脸识别技术逐渐走向成熟,应用显著增多,人脸识别技术的各类标准,包括保护公民隐私的标准应尽快出台。

注重经济效益更应注意控制风险

据悉,今年支付宝刷脸支付商户和消费者规模增长均在10倍以上。为推广刷脸支付,继提出30亿元补贴之后,未来支付宝的补贴力度将“不设上限”。近年来,刷脸支付市场呈现加快发展态势。去年2月,支付宝推出了最新的商用版刷脸产品“蜻蜓”。今年3月,微信推出了自己的刷脸产品“青蛙”。此外,工行、建行等银行也均推出了刷脸支付相关方案。

从目前AI换脸软件的应用情况看,在享用该软件达到娱乐目的的同时,用户和软件的开发者可能面临一系列的法律风险。比如,AI换脸软件的使用可能涉及用户的财产权、肖像权、名誉权等的损害,以及侵犯他人的知识产权等。像“ZAO”上的视频素材和表情素材来源就主要分两种:一是与权利人进行合作,获得权利人对于素材的版权及其中包含的肖像权利人的授权。二是由用户上传,通过用户协议,约定用户将上传的素材及修改后素材的修改权、信息网络传播权以及转授权等权利授予平台。其中,第一种来源有效解决了“ZAO”商业模式的合规问题,但获取授权也存在一定代价,即限制了平台获取素材的种类和数量。

据了解,下一步,相关部门在发布人脸识别相关金融标准时,将会进一步明确人脸信息在采集、传输、存储、利用等环节的安全管理要求。以确保维护消费者在使用AI换脸软件时的安全,防范消费时的刷脸支付风险。

行业需要自律监管也应加强

针对刷脸支付存在的问题,监管部门正在加快顶层设计。近日,中国人民银行就印发了《金融科技发展规划(2019—2021年)》。该规划提出,探索人脸识别线下支付安全应用,借助密码识别、隐私计算、数据标签、模式识别等技术,利用专用口令、“无感”活体检测等实现交易验证,突破1:N人脸辨识支付应用性能瓶颈,由持牌金融机构构建以人脸特征为路由标识的转接清算模式,实现支付工具安全与便捷的统一。

刷脸支付既要便利,更要安全。这一方面既需要行业自律,企业应该对采集到的个人信息进行加密存储,也需要企业明确和规范用户信息使用的目的和范围,避免消费者信息被过度使用;另一方面也需要加强监管,在金融科技领域,创新走在监管前面是常有的事,这需要监管部门及时跟踪创新以及创新带来的问题,对监管机制进行更新和强化。


AI“丢脸”风险不容忽视

来源:中国银行保险报网  时间:2019-11-06

□卞文志

时下,刷脸支付正成为移动支付的新赛道,支付宝、微信等支付巨头正竞相发力布局刷脸支付市场,但刷脸支付的安全问题也一直备受关注。

人脸识别技术各类标准应尽快出台

一款基于人工智能技术的“换脸”应用软件“ZAO”走红网络,使用者上传自己的高清照片后,即可将本人面孔与大量影视片段中的明星面孔置换,过一把明星瘾。其实使用AI “换脸”背后,不仅潜在一些“霸王条款”,而且也存在着一定风险。有关人士认为,技术是一把“双刃剑”,在重构整个社会结构的同时,也在不断解构现有的社会生态体系。像基于AI换脸技术的App“ZAO”这种人工智能技术,便因引起人们的质疑而陷入舆论漩涡。

事实上,早前就有网友指出,“ZAO”中的用户协议隐藏了很多对用户不利的条款,一旦使用就意味着可能将自己的肖像权让渡给这家公司,而且可能还会连带附上侵权责任。据悉,该款App早期用户协议中载明:用户一旦上传自己的照片进行视频“换脸”,将在全球范围内完全免费、不可撤销地将包括人脸照片在内的肖像资料授权给该公司和其关联公司。

日前工信部约谈了“ZAO”相关负责人,要求其严格按照国家法律法规以及相关主管部门要求,组织开展自查整改。从一夜爆红到被约谈整改,“ZAO”的遭遇又一次为网络数据安全问题敲响了警钟。

笔者也是“ZAO”换脸软件的使用者之一,之所以对该软件感兴趣,主要基于两方面原因:一是互动性较强。只需上传自己的人脸照片,便可以同喜欢的明星同台飙戏,满足自己的好奇心。二是娱乐性较强。“换脸”之后,面对不同装扮的自己,会有不同的惊喜,从而达到放松身心的目的。

但在有关专家看来,人脸识别采集技术要求高安全性、高准确率、高可用性、高实时性,会积累大量的数据,但这些数据如果变成一个个数据孤岛,就无法使人脸识别技术得到提升。相关应用如何设计人脸识别系统、确保用户数据不被盗用,已经成为了人们普遍关注的问题。目前在技术开发领域仍有较大拓展空间,有必要在数据的共享和开放上加大引导力度,促进其发展。此外,随着人脸识别技术逐渐走向成熟,应用显著增多,人脸识别技术的各类标准,包括保护公民隐私的标准应尽快出台。

注重经济效益更应注意控制风险

据悉,今年支付宝刷脸支付商户和消费者规模增长均在10倍以上。为推广刷脸支付,继提出30亿元补贴之后,未来支付宝的补贴力度将“不设上限”。近年来,刷脸支付市场呈现加快发展态势。去年2月,支付宝推出了最新的商用版刷脸产品“蜻蜓”。今年3月,微信推出了自己的刷脸产品“青蛙”。此外,工行、建行等银行也均推出了刷脸支付相关方案。

从目前AI换脸软件的应用情况看,在享用该软件达到娱乐目的的同时,用户和软件的开发者可能面临一系列的法律风险。比如,AI换脸软件的使用可能涉及用户的财产权、肖像权、名誉权等的损害,以及侵犯他人的知识产权等。像“ZAO”上的视频素材和表情素材来源就主要分两种:一是与权利人进行合作,获得权利人对于素材的版权及其中包含的肖像权利人的授权。二是由用户上传,通过用户协议,约定用户将上传的素材及修改后素材的修改权、信息网络传播权以及转授权等权利授予平台。其中,第一种来源有效解决了“ZAO”商业模式的合规问题,但获取授权也存在一定代价,即限制了平台获取素材的种类和数量。

据了解,下一步,相关部门在发布人脸识别相关金融标准时,将会进一步明确人脸信息在采集、传输、存储、利用等环节的安全管理要求。以确保维护消费者在使用AI换脸软件时的安全,防范消费时的刷脸支付风险。

行业需要自律监管也应加强

针对刷脸支付存在的问题,监管部门正在加快顶层设计。近日,中国人民银行就印发了《金融科技发展规划(2019—2021年)》。该规划提出,探索人脸识别线下支付安全应用,借助密码识别、隐私计算、数据标签、模式识别等技术,利用专用口令、“无感”活体检测等实现交易验证,突破1:N人脸辨识支付应用性能瓶颈,由持牌金融机构构建以人脸特征为路由标识的转接清算模式,实现支付工具安全与便捷的统一。

刷脸支付既要便利,更要安全。这一方面既需要行业自律,企业应该对采集到的个人信息进行加密存储,也需要企业明确和规范用户信息使用的目的和范围,避免消费者信息被过度使用;另一方面也需要加强监管,在金融科技领域,创新走在监管前面是常有的事,这需要监管部门及时跟踪创新以及创新带来的问题,对监管机制进行更新和强化。

未经许可 不得转载 Copyright© 2000-2019
中国银行保险报 All Rights Reserved