近期一个名为“ZAO”的软件在朋友圈里刷屏。大量用户使用这个软件上传自拍照片,假装自己是影视剪辑的主角,并将这些视频剪辑上传到微信朋友圈等社交平台,引发“病毒式”传播。在熟悉的情节中,主角变成了自己的朋友。操作简单、换脸逼真、还能圆一把明星梦......但是事情真的这么简单吗?有些网友就会发出质疑,现在很多地方都有刷脸支付,这样自己微信,支付宝里的钱不就危险了吗?那么AI换脸会造成我们的财产损失吗?
AI换脸软件流行会对个人财产造成损失吗?
支付宝对AI软件发表评论,称目前各种变脸软件无论有多么逼真,都无法突破刷脸支付。即使出现账户被冒用的这种极小概率事件,公司也会通过保险公司全额赔付。律师和信息安全专家表示,用自己的脸替换他人的脸可能会侵犯他人的版权。同时,如果它被其他网站滥用,也可能导致欺诈等风险。
蚂蚁金服对刷脸支付也做了进一步的解释,刷脸支付采用3D人脸识别技术,在人脸识别之前,通过软硬件的结合检测,来确定采集到的人脸是由照片、视频还是软件模拟生成的。此外,如果刷脸支付功能要求用户开通,也就是说只有在用户开通后才能进行支付,用户也可以随时关闭,刷脸支付只能在输入过密码的支付宝上才能开通。
一夜之间火爆朋友圈的AI换脸软件也是暗藏玄机
除此之外一些网友还发现,该软件的用户协议其实是暗藏玄机的。用户协议中写道:要使用该软件的变脸功能,必须同意授予该软件及其附属公司在全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的肖像权利人的肖像权,以及利用技术对肖像权利人的肖像进行形式改动。
简单一点说就是,ZAO涉嫌过度地攫取用户的授权,在一种你不知情的情况交出你的肖像权。将来,你的脸可能会被别人随意使用和改变。
此外,ZAO还没有被授权更换明星的面孔。你进行AI变脸就涉嫌侵权。当明星们认为他们的权利受到侵犯时,ZAO很有肯会把所有的法律锅扔给你,让你承担侵权的痛苦后果。
其实AI换脸视频并不是新鲜事了。早在2017年12月,国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上,它能够把照片和视频中的人脸替换成任何想要替换的人脸,且效果十分逼真,有些肉眼甚至难以分辨真假。
技术本身是中性的,让舆论失去平衡的,一边是开发者的利益需求,一边是技术规制的落后缺位。网友们的争议,本质上是对技术的法律与伦理边界的探讨。同时,一夜之间的反差也给开发者敲了一记警钟,于这款软件而言,回应全民声讨最好的方式则是,不仅要拥有满足用户需求的炫酷技术外衣,更需一个约束在法律伦理、公众舆论范围内坚定的创新内核。