玩换脸软件一时爽,AI拿你的脸去诈骗怎么办?
2019年08月31日
13964
一夜之间,我的朋友圈出现了8个张曼玉、6个桥本环奈、4个007特工,
仿佛人类被“克隆人”给占领了一般,到处都是换脸的小视频......
“
ZAO”这个拥有
视频换脸功能的软件突然
刷屏了,人们终于实现了通过换脸出演电影、和偶像同台飙戏的梦想。
然而,不知道大家玩得兴起时有没有想过,
如果诈骗团伙用AI换脸的视频去找你的家人发视频要钱,或者用你的脸去借网贷,你要怎么办呢?
证明视频里不是你,会不会是下个互联网时代最大的麻烦?
AI技术的魔盒已经打开
AI换脸技术其实七八年前就有了,但当时换脸成本极高。
比如电影《速度与激情7》原定男主角是保罗·沃克,可惜他深爱飙车,在拍完电影之前不幸遭遇车祸去世了,
于是剧组就斥千万美金的巨资,采用AI技术合成了一个保罗·沃克,和本人出镜拍摄简直一模一样,
就算大荧幕怼到你眼前看,也丝毫看不出破绽。
然而,2017年12月,AI换脸的高成本壁垒也被打破了。
有一个网名叫deepfakes的天才程序员自己研究出来了一套换脸术,
只要输入一张照片,就能把视频中的人脸替换成任何你想要的人脸,
而且效果堪比电影公司砸钱做出来的视频,肉眼难辨真假。
不过,这个程序员估计不太有法律意识,他兴奋地合成了一段美国女明星盖尔·加朵的不雅视频上传到网络上,结果被女明星起诉了,赔钱之后,
他干脆公开了这个技术的代码,向全世界打开了AI换脸的潘多拉魔盒。
技术的火种传开之后,世界各地都开始玩AI换脸了,今年初,B站UP主发布了一段94版射雕英雄传的视频,只不过,他把剧中朱茵的脸换成了杨幂:
饰演黄蓉的朱茵被换脸成杨幂
换完脸之后,这个黄蓉同时拥有朱茵的演技和杨幂的面庞,瞬间刷爆全网,甚至有人调侃,
以后明星都不用本人出镜了,找个替身拍完人脸一换就行
,说不定合成的作品演技还好些。
不仅明星有需要,当时就有很多网友也跃跃欲试,想体验一把“出演”电影的感觉。
哪里有需求,哪里就有商机和骗局,
以前的互联网世界是这样,以后也只会更快速地生产满足需求的产品,至于产品是好是坏,你没有火眼金睛的话,将会越来越难识别。
中国人愿意用隐私换便利
还记得拥有搜索引擎技术之后,百度是怎么干的吗?
当年百度做到一家独大之后,一边快速搞起了竞价排名业务,让广告赫然排在了有效信息前面;
另一边,还经常有用户发现自己的信息被百度给泄露了,
搜索了某个产品,马上就有公司的电话打过来推销......
你要想骂它一句,百度会回复你:
是您自己同意了用户协议,允许我们使用您的信息的哦。
李彦宏也不遮掩了,他公开表示,
“中国人多数情况下愿意用隐私换便利”
。这句话的潜台词是,反正你们也不在乎隐私不隐私的,你们只想不掏钱享受便利,不如让我把隐私“利用”起来,我们双赢。
然而,我们真的不在乎隐私吗?
有人告诉过我们如果身份证等信息被盗用了会带来多大麻烦吗?有人提前提醒我们,电话号码会被转手卖掉无数次吗?
大部分用户其实不曾拥有过选择权,我们面对大企业就是信息弱者,他们有顶级律师团队,
而我们对背后的风险一无所知。
先进技术,可以变成推动社会发展的动力,也可以变成大企业压榨普通人的工具。
要说互联网时代最大的谎话是什么,我提名这句:
☑
我已阅读并同意以上条款
无论你使用什么软件或者网站,都免不了要点一下“接受”用户条款,但问题是,
有几个人真的认真读过那个比医学专业书还难看懂的条款呢?
自从大企业发现老百姓都不看用户许可协议之后,他们就开始放飞自我了,简直是花式玩弄文字游戏,添加霸王条款眼睛都不眨一下。
20
1
7年,
微博更新用户协议中也出现了霸王条款:
“微博更新的《微博服务使用协议》,规定用户在微博上发布的信息,将
不可撤销地授权
微博平台作为微博内容的
独家发布
平台,用户所发表的微博内容仅在微博平台上予以
独家展示
。未经微博平台事先书面许可,
用户不得自行或授权任何第三方以任何形式直接或间接使用
微博内容。”
这段话很多人并不会去看,但它代表了一个重要的意思:你在微博发表的所有话都属于微博,它没有书面同意,你就不拥有这段话的知识产权了,如果你有篇微博火了,转发到了别的平台,微博可以告你。
也许你不在意在网上的只言片语,但是自己说的话都不属于自己,这当然是霸王条款。
如果所有人都不重视自己的隐私和知识产权的话,互联网公司必定会变本加厉,
而且按照合同法,很多情况下他们确实有这个权力,前提是你同意了用户协议。
这次,在
ZAO的
用户协议中,
就再次出现了恶心的霸王条款。
其中要求,用户上传的所有内容,均可以
永久、不可撤销地
由ZAO及其关联公司,
免费用、随便改、任意传,
而且还可以给
“合作方”使用、编辑、传播。
继我们说的话不属于自己,而属于互联网公司之后,我们的脸都不属于自己了。
只要你玩了这个软件,只要你同意了用户协议,那么你上传到ZAO的所有肖像资料,都属于ZAO了......
不仅如此,在隐私协议中,ZAO还要求你同意它
采集用户的电话、邮件、位置、设备、以及交易信息、银行卡和支付宝账号。
一款娱乐软件,看似免费帮你换脸演了电影片段,
实际把你的个人数据包括重要的金融数据给扒了个底朝天,
你觉得是一夜砸了几百万的ZAO亏了,还是你亏了呢?
有了这些数据,通过现在的网络技术,一个普通网民的所有信息都能被套出来,甚至包括社保、亲属关系等等,
以后会发生什么,才是最可怕的部分。
未来的诈骗,已经没人类什么事了
Zao软件引发人脸识别的安全性质疑只是一个开始,我们应该想到,隐私泄露不仅仅是官方用户协议有霸王条款的问题而已,还有冰山之下的很多隐患有待发掘。
比如,如果Zao背后的公司信息安全方面做的很差,不愿意花钱做好防范措施,即使它自己遵纪守法,
会不会有黑客攻击Zao的系统,然后把万千用户的数据扔到黑市上卖掉?
如果以后这些换脸公司倒闭了,用户隐私数据会不会直接暴露了?
万一被内鬼搞去卖了怎么办?
这些问题在近年倒闭的网贷、p2p公司身上已经发生了,那些用户损失的不仅仅是钱,还有证明自己存在的一系列重要个人信息。
为什么说AI换脸是潘多拉魔盒,因为人脸这样的生物特征有非常独特的特性,它不像密码只是冰冷的数字,
人脸和指纹是难以改变且不可再生的,几乎可以说是“证明你是你”的最后一道防线。
如果这些生物特征被窃取,对大到社会信用,小到个人财产,都会造成不可估量的冲击。
而且,AI技术流入诈骗行业,将带来非常夸张的暴利,
黑产业有充足的动力去投入研发和应用,甚至可能比良性的创新机构速度还快......
像阿里巴巴这样的大公司会投入巨量资金对抗相关诈骗,但小网贷不会,拍个视频就能借到钱了,至于找你还钱还是找骗子还钱,不用想都知道肯定要找软柿子捏。
更值得担心的是我们家里的老人,
老年人对视频真假的鉴别能力差,上当受骗的概率要远高于其他人群,以后可能只能告诉老人,
“见到我才是我,别人发短信说我被车撞了是假的,视频里看到我也是假的......
”
这些值得警惕的问题绝不是危言耸听,别说老年人分不清AI合成的脸了,就连AI自己都不一定认识合成的脸。
信息化社会里,大部分人脸识别的场景都是计算机操作,它的运作原理就是判断人像特征是否和信息库中的一致。
什么叫特征呢?
就是把脸拆解成无数小点,然后对比点与点之间的连线是否一样。
比较高级的支付宝会加上其他辅助识别,比如你所处的环境,你的手机换了没,但是小公司很可能不会去考虑这么多。
目前只是AI推广的开始而已,更多神乎其神的AI应用陆续会出现,但这也意味着,我们暴露在风险里的概率更高了。
AI不仅能换脸,目前还有一种AI技术能让换脸的人说出指定的话。
危险就在眼前,请警惕用户协议,警惕授权,提醒家人少注册免费的AI换脸换头换声换各种...的软件。
免费的东西才是最贵的,而且当躲在暗处的人来向你收费时,你可能根本抵挡不住。
所谓:
换脸一时爽,算账火葬场。
赞
赞
已有
877
人赞
热点推荐
18年后,中国又要和好朋友们,来一场大对决了!
2024.10.07
曲线的轨道!
2024.10.07
说你不行,就是不行!
2024.10.07
重局:剿以主力不是伊朗,而是用“以乌双杀连环局”把美国的两只手牢牢按在地上的大棋手!让美国动弹不得,才是破除霸权的关键
2024.10.07
中东均势的转折点!
2024.10.07