人们已经习惯了人脸识别的存在。
酒店接待旅客,刷脸登记入住,马路上车辆川流不息,司机们习惯于通过人脸识别解锁手机,而他们头顶的摄像头,正在利用同样的技术自动抓拍。
作为近年来AI浪潮中的标志性技术,人脸识别已经大规模落地,并应用于安防、金融等日常生活的重要场景中。
但这项给生活带来美好改变的技术,正处于前所未有的争议之中:当人脸识别技术不断引发个人信息安全问题,人们将之称作“危险的武器”。
人脸识别开始接连被叫停,从杭州动物园发生的“人脸识别第一案”到杭州一小区抵制人脸识别技术事件,人们已经对人脸识别技术产生警惕。
从美国巨头到中国科技企业,不乏被告上法庭的,有的企业则被勒令停止和中止使用人脸识别技术,他们站在了AI浪潮之上,却在蒙眼狂奔时,忘记给自己设上“红线”。
更恶劣的变化在于,人脸识别的滥用已经无孔不入、防不胜防。
近期,济南一位看房者戴着头盔进入售楼处,这样滑稽的行为,揭开了一条关于技术开发者、使用者和受益者的利益链条,人脸识别没有成为服务消费者的技术,反而成为房地产开发商精准营销的工具。
对于用户而言,如果风险无法避免,只能选择全面避开人脸识别技术。
技术的开发者和推广者也会陷入沮丧,技术并不是一开始便带有恶意。创新工场董事长李开复曾对外表示,隐私保护不是一个非白即黑的问题。作为AI技术以及多个科技公司的投资者,他的立场代表了许多支持者。
争议和混乱,也许是人脸识别发展中必经的过程,从目前的状况来看,这个过程还将持续很久。
1.谁在滥用人脸识别?
面部信息是个人重要的生物特征,具有强烈的个人身份属性。
人脸识别技术正越来越多地出现在日常生活中,但人们没想到的是,在你没注意的时候,你的脸部数据就已经被“偷窃”了。
戴头盔看房的反常行为背后,就是部分房地产公司用人脸识别技术进行精准营销,甚至这是以牺牲买房者的利益为代价。
据南方都市报报道,这或与房企的分销模式有关,售楼部装有人脸识别系统,可以把到访的客户区分为自然到访客户和渠道客户。自然到访客户是指购房者自己得知信息到售楼部看房的客户,渠道客户则指的是通过中介介绍到访的客户。一旦渠道客户成交,房产公司便会从每笔房产的成交额中给中介返佣。中介可以凭借这笔返佣让利给消费者,让其享受到售楼部的渠道优惠。
多年和房地产商打交道的方真对连线Insight表示,“这种给中介返佣的模式在业内很常见,根据中介水平的不同,售楼部给到的中介返佣,占销售额的0-13%。”
在此情况下,人脸识别系统,将自然到访客户和渠道客户进行明确分类,可以更方便地计算佣金。
不过,部分房产公司,将流程稍加改变,便可能让买房者利益受损。
房地产自媒体“重庆地产news”曾发布文章称,某项目推出了一系列年底购房优惠,只要购房者第一次到访项目并当场下单,各种折扣算下来可以少花30万元。但购房者必须是第一次到访,或者说此前没有被摄像头拍到过。
就在几个月前,也发生了类似的事件。今年6月,据宁波晚报报道,宋先生的姐姐在房地产售楼部销售吴经理的介绍下,购房返利拿到了2万元,宋先生也打算购一套房,然而就在返利审批流程快要完结的时候,售楼经理反馈审批没通过。
而审批未通过的原因是,如果想要拿到返利优惠,宋先生需要备案一个小时以后到售楼部,但宋先生备案不到一个小时就到售楼部,被人脸识别系统记录下来。
对于房产这样的高价产品,买房者通常购买时会咨询多个渠道,房产公司利用人脸识别技术设定这一规则,实际上是“剥夺”了买房者对比的权利。戴头盔男子的行为,也许便是对房产公司这种规则的反抗和规避。同时,也是对于自身人脸信息的保护。
在这件事被曝出之前,很多人并不知道,售楼部装了人脸识别系统,并且在毫无提前告知的情况下,房地产公司就抓取了消费者的人脸信息,这可以说是滥用人脸识别技术的一个典型案例。
而这只是人们脸部信息数据隐私被侵犯的冰山一角。
2.为什么要警惕人脸识别技术?
人脸识别技术准确率能够达到98.52%,超过人眼识别能力的97.53%。
2014年,中国科学院深圳先进技术研究院副院长汤晓鸥带领的团队,发布了这一基于原创人脸识别算法的研究成果,也打开了人脸识别技术巨大的商业想象空间。
但是人脸识别技术大规模落地以来,人脸数据的隐私权一直没有明确的法律规定,企业在人脸采集、人脸应用中没有现行的规定和标准,而是更多依托自身的道德水平。
想要维护自身的信息安全,甚至变成了一个难题。
今年6月15日,“中国人脸识别第一案”在杭州市富阳区人民法院开庭审理,对簿公堂的是浙江理工大学副教授郭兵和杭州野生动物世界。
回到事件刚发生时的2019年4月,郭兵购买了杭州野生动物世界1360元的年卡,并确认以指纹识别的形式进入园区,然而到了2019年7月、10月,杭州野生动物世界向郭兵发送短信通知,年卡的入园系统将由指纹识别更换为人脸识别,没有激活人脸识别系统则无法入园,也无法办理退卡退费。
这意味着杭州野生动物世界在强制性地让郭兵使用人脸识别技术。
之后,双方在入园方式、退卡退费上协商未果,郭兵把杭州野生动物世界告上了法庭,并表示杭州野生动物世界存在违约和欺诈,要求杭州野生动物世界赔偿年卡卡费、交通费和删除个人信息。
今年11月20日,“中国人脸识别第一案”正式公布结果,一审判决显示商家无权强制消费者配合其人脸识别的管理方式,这也给国内一些企业强迫用户使用人脸识别的行为敲响警钟,这起案件的法律审判具有一定的参考意义。
对于人脸识别的警惕,并不是一件坏事。
在美国,人脸识别技术正成为侵犯人权和数据滥用的罪魁祸首,今年6月,微软、亚马逊和IBM相继停止了人脸识别技术的应用。
IBM首席执行官克里希纳在致国会信中写道,“IBM坚决反对并且绝不容忍将任何技术(人脸识别技术)用于大规模监视,种族貌相,侵犯基本人权和自由,或任何与我们的价值观和原则相抵触的目的。”
关于人脸识别,一个典型案例是,Facebook未经用户允许,非法收集用户生物数据,对用户海量照片的人脸进行识别,并分析出人物标签信息。
这一侵犯用户信息数据隐私的行为,最终引起了用户的集体诉讼。
根据伊利诺伊州当地法律,每个受影响的用户,罚款金额将达到5万美元,考虑到此事波及5000万Facebook用户,其他州也可能提起类似的诉讼。这也酿成了堪称Facebook有史以来的最大危机。
Facebook希望用5.5亿美元进行和解,被伊利诺伊州的法官拒绝, 他认为这个和解方案,没有充分惩罚侵犯隐私权的Facebook。直到今年7月,Facebook表示愿意支付6.5亿美元赔偿终止诉讼,加州联邦法官初步批准该和解协议,最终和解协议还未正式公布。
回到国内,数据被滥用也是家常便饭。
在个人信息黑产链条中,人脸数据正在被交易。今年10月,据央视新闻报道,大量人脸照片被私下交易,2元可买上千张照片,5000张人脸照片不到10元,这些照片落入不法分子手中,可能用于精准诈骗甚至洗钱、涉黑等违法犯罪活动。
除了强制使用、数据滥用,人脸识别技术还存在许多的争议点。
如2019年陌陌公司旗下的一款AI换脸软件ZAO,仅需上传一张正脸照,就可以轻松实现明星、影视剧换脸,然而ZAO的一夜走红也引起数据泄露的担忧,事后人们才发现ZAO的用户协议上写明一旦上传照片,则表示用户同意ZAO及其关联公司以及ZAO用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利。
另外,人脸识别领域的巨头们被曝出的一些信息,也让人感到担忧。
今年9月,创新工厂董事长李开复公开演讲时称,曾在早期帮助旷视科技找到美图和蚂蚁金服等合作伙伴,让他们拿到大量人脸数据。
虽然李开复事后澄清是自己口误,但仍然没有办法消除外界对人脸数据被肆意共享的担忧。
获取人脸识别的设备越来越多,也有越来越多的企业,在采集人脸数据后,更多考虑如何给自己带来更多营收,而忽视了隐私保护,这也削弱了消费者接受人脸技术的信心。
3.人脸识别需要一条“红线”
人脸识别技术,原本应该帮助人们创造更美好的生活。
借助算法对人脸数据进行分析,可以检测遗传病,帮助盲人识别聊天对象的面部表情,在手机解锁、刷脸消费等场景中也经常被使用。
除了对普通用户的帮助,人脸识别技术也对政府机构提供了技术支持,比如在车站机场、街头巷尾乃至演唱会,都可以使用人脸识别追踪犯罪嫌疑人、寻找失踪人口,技术可以帮助政府机构更有效地维护公共安全、公共利益。
不过,想让人们享受这项技术,首先得让人们有安全感。
人脸识别技术,有着远距离分析、诊断的技术特点,可以轻松地、无接触式地获取信息,甚至是在用户完全不知情的情况下。同时,人脸信息属于重要的个人信息,一旦泄露并不当使用,会产生严重后果。
但在监管还未成熟的情况下,很多企业使用人脸识别技术时,却没有主动地给自己设限。
亚马逊曾多次布局安防等应用人脸识别技术的领域,2018年,AWS全球公共部门业务副总裁卡尔森在面临“亚马逊在安防业务中是否有设‘红线’标准”这一问题时,却给出了令人意外的回答,“我们并未设线……我们坚定支持执法、安防和智能社区。”
如亚马逊这样的巨头,都没有设置“红线”的意识,那么,整个市场中的其它企业的普遍态度可想而知。
人们对于数据信息安全的担忧已经越来越严重。目前,法律层面的保护也在完善。
一直以来,中国没有对保护个人信息进行单独立法,相关规定分散出现在其它法律中,系统性和可操作性欠缺。
直到2020年10月21日,《中华人民共和国个人信息保护法(草案)》(下称《个人信息保护法》)公布,并公开征求社会公众意见,征求意见截止日期为2020年11月19日。
《个人信息保护法》特别规定,在公共场所安装图像采集、个人身份识别设备,应当为维护公共安全所必需,遵守国家有关规定,设置显著的提示标识。所收集的个人图像、个人身份特征信息只能用于维护公共安全的目的,不得公开或者向他人提供。
这两项规定直接指明,不能强制用户使用人脸识别技术,也不可以滥用人脸识别技术所获得的个人信息。虽有观点认为,此条款的规定依然较为宽松,判断标准相对模糊,有待更细节的界定,但目前而言已经是迈出了重要一步。
不过,技术的两面性,其实给立法和监管造成的难度不小。美国是一个典型参考,今年7月,美国国会议员要求联邦政府全面禁止面部识别技术,因为他们在民众不知情或未同意的情况下进行人脸识别搜查,但双方最终没有对这一技术的监管问题达成一致。直到现在,美国人脸识别在法律和监管层面的争议也一直存在。
目前而言,人脸识别技术还不够安全,对于用户而言,相信科技向善的同时,也无法放下警惕心。每个人都有必要关注人脸识别技术对自身的侵犯,主动维护自己的个人信息安全。
在日常的生活中,对“危险”的应用和场景进行规避,比如每年都会有侵犯个人隐私的应用被中消协曝出。在适当的时候,每个人都有权拒绝使用人脸识别技术。
目前,人脸识别行业还处于技术跑在监管前面的境况,关于人脸识别的“红线”应该尽快划定,只有这样,才能够约束这一技术被大范围滥用。