8月30日晚,一个名为“ZAO”的AI换脸App忽然刷屏了。
这个号称“仅需一张照片,出演天下好戏”的软件使用很简单,上传一张照片就能实现视频、表情包的制作,不仅能满足用户在各种场景“演戏”,还能跟自己的偶像们搭戏。因此,尽管这款软件引发严重的隐私争议,但并不影响一些朋友们尝鲜试水,沉浸在换脸游戏中。
好玩的确归好玩,但软件严苛的条款也让人心生质疑。用户要想完成换脸,首先要进行肖像验证,此举是为了确保是用户本人进行换脸。但用户上传发布内容后,就意味着同意授予ZAO及其关联公司以及ZAO用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”。
也就是说,当用户完成使用ZAO软件的过程中,已经把自己的肖像权“送”给软件了,如果遇到自己的脸被滥用的情况,对不起,这是你自己同意了的,跟ZAO没关系。与此同时,还存在另外一个问题,那就是软件并没有获取视频素材中明星们的肖像权,如果明星追究责任,那软件完全可以甩锅给那些换脸的用户们,撇清自己。如此看来,这个变脸软件还真是不要脸。
既想要使用AI技术换脸来攫取利益,又不想为用户兜底,摆脱责任。这样自私的商业逻辑,也难怪会引发网友们的质疑。
其实,AI换脸技术并不是什么高科技,也并不罕见。早在前几年,一些美妆app就有一键换脸的功能,只不过没有引起太大浪花。而今天ZAO之所以引发大家关注,也是因为动态的换脸技术比静态的换脸更具危害性。静态换脸或许还能辨别,但动态的换脸视频中,逼真的画面,即便是本人估计也难辨认。所以,一旦动态的换脸技术运用到色情视频的制作中,那对女性的伤害是首当其冲的,现实中也的确发生过这样的案例。这也是引发大家恐慌的原因之一。
尽管ZAO软件保证数据不会上传,但其中的隐忧却是致命的。不管软件的开发者是好意还是恶意,但也确实给我们提了一个醒。随着技术的突飞猛进,人们在享受科技带来的美好生活的同时,也必须高度警惕技术可能带来的破坏,对现有生活制度的破坏等。这不仅仅是技术的问题,也是社会治理应该考虑的领域。