人脸识别技术如何安全护财?

自迅分享 时间:

被“盗刷”的大额存款

2021年6月19日下午,韩月刚办理不足一小时的银行卡,还未“焐热”,账户就“忙碌”地启动转入、转出。在30余分钟内,她分十余笔转入42.9917万元,但往往是刚入账几分钟,这些钱就被转出,最终银行卡余额几乎被掏空。

而这些出账的操作,当时韩月并不知情。韩月的家属徐科告诉记者,2021年6月19日上午,韩月接到来电,对方声称韩月涉嫌反洗钱案件,且其个人信息已经泄露,要求韩月办理一张某银行的借记卡,并将其存款都转入新卡中。

当天13点36分,韩月在柜台开立借记卡。徐科称,开卡时韩月选择的设置是通过短信密码工具转账,限额为5万元,在开通手机银行时,她点击了“开通小额转账汇款,单日累计5万元,单笔最高5万元”的选项。

随后,韩月在当日的14点06分至14点38分,通过网上银行、第三方支付平台将多笔存款转入这张新卡。当对方在来电中提到还有一笔钱需要转账给某账户时,韩月意识到可疑,遂前往派出所报案。

经报案调查和庭审还原,韩月新办的银行卡在开卡后不久,就通过了人脸识别验证,并重置了用户名和密码、提高转账限额,进行了四次大额转账操作,而六次人脸识别均显示“活检”成功,人脸识别成功通过。这个账户转账时显示的IP地址位于境外,登录设备是“XT1686”,韩月则一直在北京,使用的是另一款手机。

徐科表示,韩月对上述转账和六次人脸识别完全不知情,当天报案后近17时,韩月才首次登录手机银行。案发当日,银行曾向韩月的手机发送22条短信,但徐科称,其中有11条韩月并未收到,转账时银行客服通过预留手机进行电话核实,但接听电话的均非韩月本人。

案发后,韩月对银行发起诉讼,庭审时的争议焦点之一即是银行是否应对韩月银行卡内的资金损失承担民事赔偿责任。

韩月认为,银行在这起网络盗刷案中存在明显过错,未尽到资金安全保障义务,未按照监管规定加强账户管理,应当承担赔偿责任。银行方面则辩称,这是一起诈骗案件,韩月本身存在过错,应当自行承担后果,银行没有违约,不应承担资金被骗的法律后果。

经过审理,2022年6月底,北京市丰台区人民法院一审判决认为,纵观韩月陈述的被骗过程及银行转账支付流程,可以认定韩月在资金被盗刷的过程中过错明显,银行作为指令付款方,已通过多个登录密码、验证码、人脸识别的合理方式识别使用人身份,未见存在明显的错误或过失,因此驳回韩月全部诉求。对此判决不服,韩月提出上诉。

代理韩月二审诉讼的是浙江理工大学法政学院特聘副教授郭兵。郭兵是国内“人脸识别第一案”的当事人。2019年10月,郭兵在进入杭州野生动物园时,因不同意接受园方将年卡用户的入园方式由指纹识别变更为人脸识别,起诉动物园的运营公司,并最终胜诉。最高人民法院曾将此案写入年度工作报告,表示该案对推动完善中国生物识别信息特别保护制度具有积极作用。

郭兵告诉记者,据其了解,目前与人脸识别相关的民事诉讼并不多,他代理了几起涉及金融机构的案件,与韩月情况有一些类似,均是用户在不知情时通过人脸识别验证发生转账或者贷款行为,因此引发诉讼。郭兵认为,与此前人脸识别侵权案件不同,“这一类案件有难度和挑战性”,其关键在于如何厘清金融机构的责任,以及如何界定金融机构是否尽到了安全保障义务。

银行账户资金遭遇“盗刷”并非个例。记者还获悉,另一起类似案件于2022年9月一审宣判。法院认为,金融机构在这起案件中负有部分过错,应该承担部分赔偿责任,目前该案当事人提出上诉。

“刷脸”为何被攻破?

一直到现在,韩月都不清楚,那台“XT1686”手机操作转账时通过她的人脸验证的是一张图片,还是能眨眼、张嘴的合成视频,亦或是她在当天接到诈骗电话时,与对方开启会议模式被截取的录屏信息。

“人脸识别应用存在的安全风险和个人隐私保护问题,是值得关注的两大隐忧。”北京瑞莱智慧科技有限公司副总裁(下称“瑞莱智慧”)唐家渝对记者表示。瑞莱智慧是一家人工智能基础设施和解决方案提供商,依托清华大学人工智能研究院发起设立。

2021年3月,瑞莱智慧研究团队发布了一项针对智能手机人脸识别安全性试验测试的研究成果。研究人员通过研究算法,制作一副特殊的眼镜,解开了19款安卓手机的人脸识别解锁系统。通过这款特制眼镜,研究人员还成功通过部分金融和政务服务类App的人脸识别。

唐家渝解释称,基于深度学习模型的人脸识别系统,具有算法的“黑盒”特性,先天存在脆弱性、不可解释性等局限性,这也意味着如系统本身存在漏洞,容易遭受干扰或解开。

随着技术快速演变,人脸识别领域的安全防御和攻击博弈也不断迭代。唐家渝举例称,早期可能拿一张打印的照片就能骗过摄像头,随后是人脸合成视频、高仿真人脸面具等,但随着人脸识别算法具备活体检测能力,早期的攻击手段对大部分人脸识别系统已不构成威胁。但针对算法模型底层的漏洞,又进化出利用对抗样本攻击、深度伪造攻击等新型攻击技术,从而解开人脸识别系统。“以前的攻击思路是你是张三,我就让我变得看起来像是张三,现在则是像不像张三无所谓,只要算法认为我是张三就可以。”唐家渝说。

对于已被披露的一些通过人脸识别“盗刷”他人账户案例,唐家渝从技术上分析认为,这有可能是通过注入应用的方式来篡改手机程序。他具体解释称,在人脸识别验证身份阶段,需要调取摄像头时程序被拦截,所以实际上当时并没有拍摄人脸或者视频,而是读取手机里存好的一段视频传到后台。“在整个实施过程中,除了人脸识别被解开,还可能涉及多个环节的风险,比如事先获取当事人身份证、手机号等信息,这与个人隐私数据流入黑灰产被用于犯罪活动不无关系。”唐家渝说。

人脸识别技术自上世纪90年代开始进入应用阶段,近几年来广泛应用于安防、金融、零售、政务等行业,应用场景包括身份识别、移动支付、车站安检、智能办公、刑事侦查、追逃等工作中。

作为验证方法,人脸识别最大的优点,就是非常方便、易于携带。“特别是在机场车站安检、上班打卡及安全监控等环境中,人脸识别技术的准确度和识别效率,都要比人工比对高出几个数量级。”裴智勇称。

奇安信行业安全研究中心主任裴智勇对记者表示,在日常生活中及互联网应用中,人脸识别通常只适用于小金额支付,且其过程是有监督的验证,即有安保人员在场监视,或有其他辅助验证手段。更安全的验证手段,是基于密码学技术构造的验证方法,如U盾、密码卡、动态口令等。短信验证码也属双因子认证,即验证信息分别通过两个不同的渠道(互联网和通信网)进行传输,而攻击者同时截获两个验证渠道的难度相对较高。人脸信息在本质上是一种静态密码,不论是二维的、三维的、静态的、动态的,或者是使用所谓“验活”技术,都没有改变人脸信息可复制、可生成、可解开的本质特征。攻破人脸识别系统的方法,最常见的就是利用受害人照片,用人工智能技术模拟人脸活动,以骗过识别系统,使识别系统误判为“本人”“真人”操作。

近日,记者在“企查查”检索发现,目前中国有1.6万余家企业开展人脸识别相关业务,其中有近一半的企业成立于近五年内,与人脸识别相关的商标专利达4万余条。这显示,中国人脸识别市场规模仍在持续扩大。

“刷脸”遭遇黑灰产

网络黑灰产犯罪链条上的个人信息泄露和个人信息贩卖行为,目前日益引起重视。

裴智勇表示,单纯的、零散的人脸信息泄露,通常不会有特别大的危害。但大量附加身份属性、行为属性的人脸信息一旦泄露,就可能会被犯罪分子用于恶意追踪、敲诈勒索及网络诈骗等。从一般的黑产活动特点来看,黑产团伙要想冒用一个人的身份,在一些大的互联网平台、金融机构平台系统注册新账号、卡号会比较困难。但如果是用户先前已经注册的账号,只是由于各种原因停用或被封禁,那么解封或重新启用的流程,往往会比新注册要简单一些,也更容易被攻破或利用。如此一来,攻击者就可以利用一个用户注册但可能不再使用的账号进行黑产活动。用户对此可能完全不知情,却可能遭受财产、征信等方面的重大损失。

严重侵犯公民个人信息的行为既要承担刑事责任,可能还要承担民事侵权责任。2022年7月中旬,广州市越秀区人民检察院办理的广东省“首例涉人脸识别公民个人信息保护民事公益诉讼案”公开宣判,法院判决郑某等4人支付公益损害赔偿金、公开赔礼道歉并以行为补偿弥补损害。此前,郑某等人被法院认定构成侵犯公民个人信息罪,各处刑罚和罚金。

司法文件显示,郑某等人均为“90后”,文化程度均为初中。广州市越秀区人民法院审理查明,其中3名被告人向郑某购买公民个人信息,包括身份证号码、身份证照片等,通过虚拟人脸用于解封某社交和支付平台账号、进行工商类等政务App的实名认证,从中非法获利。法院认定,郑某出售个人信息1000余条,违法所得1.3万余元;另3人利用购买的个人信息“刷脸”验证账号,违法所得均为3万余元。

一名安全行业人士对记者表示,此前人脸图像具备一定的易获取性,以及人脸识别应用中存在的漏洞,给黑灰产犯罪提供了可能性。

近几年来,相关部门严厉打击侵犯公民个人信息犯罪,并开展“净网”专项行动。根据公开信息,仅2021年公安机关共侦办侵犯公民个人信息等网络犯罪案件6.2万起。其中,侦办侵犯公民个人信息、黑客等重点案件1.8万余起,打掉为赌博、诈骗等犯罪提供资金结算、技术支撑、引流推广等服务团伙6000余个。针对网络黑灰产“黑卡”“黑号”“黑线路”“黑设备”四类网络犯罪的重要作案物料,抓获“卡商”“号商”等犯罪嫌疑人3万余名。

记者查阅相关的裁判文书发现,在个人信息贩卖市场,不同类型的个人信息明码标价,从中可以窥见个人信息灰黑产的交易行情。

2021年9月,广东省惠州市中级人民法院二审宣判的一起案件显示,出生于1996年的陈少宽和徐连旺(另案处理)从事网络传媒工作,获知有人想购买实名认证的支付平台账户,由此开始实施侵犯公民个人信息的犯罪行为。

在陈少宽和徐连旺的案件中,含有高度隐私的个人信息只有价格的区分。两人将支付平台的账号分为“V1”“V2”“V3”三种类型,“V1”是指绑定了身份证的账号,“V2”是指绑定了身份证并且通过了人脸识别的账号,“V3”是指绑定了身份证和银行卡、且通过人脸识别的账号。

裁判文书显示,从2020年3月开始,陈少宽通过网络买卖实名认证的“V1”“V2”“V3”类型账号,也从徐连旺和其他网友处购买不同类型账号,发布销售广告,再将账号出售给他人。每个“V1”“V2”“V3”账号的购入价不等,分别为20元-25元、30元-40元、50元-100元,再分别加价几元、十几元、几十元出售。

2020年5月7日,陈少宽案发,办案人员在其被扣押的电脑和手机电子数据中,发现“V3”账号475条,“V1”“V2”账号5546条。最终,陈少宽因侵犯公民个人信息罪获刑四年三个月,并处罚金3.8万元。

这些案例,仅仅暴露了个人信息犯罪黑灰产业链条的零星环节。

“护脸”人人有责

安全合规是人脸识别行业持续健康发展的必然要求。

中国电子技术标准化研究院信息安全研究中心测评实验室副主任何延哲,曾参与国家标准《信息安全技术 个人信息安全规范》《信息安全技术 个人信息安全影响评估指南》等的起草。

何延哲对记者表示,涉及“刷脸”的电信诈骗案例,并不只是从技术上解开人脸识别,更多的是利用社会工程学的诈骗套路,以此简单批判人脸识别这项技术可能有所偏颇。引入人脸识别技术作为身份验证方式之一,本身是为了提高安全防范措施,“当然不可否认,任何安全措施都不是绝对安全可靠。”何延哲说。

对于人脸识别应用带来的担忧,何延哲表示,人脸信息具有唯一性,“密码可以改,人脸换不了”。他认为,对于机构来说,需要对不同业务场景使用人脸识别技术的合法性、必要性和安全性进行充分评估,在人脸信息的收集、存储和使用中遵循最小必要原则,警惕个人信息泄露,这是个人信息保护最为核心的问题。对个人用户来讲,应提高个人信息保护的意识和防范技能,避免个人隐私泄露,乃至遭受财产损失。从安全防御的角度来看,则应不断完善技术方案,提高人脸识别攻击者的技术成本。

唐家渝表示,不能因人脸识别应用中出现的问题因噎废食,建立安全、可信、可靠与可扩展的人工智能技术体系,是促进行业健康可持续发展的有效路径。对人脸识别面临的安全隐患,唐家渝建议,对不同场景不同功能的人脸识别建立分级评估标准。

包括人脸识别在内的个人信息保护问题,日益引起相关机构的重视。

2022年8月,银保监会向各银保监局、银行保险机构等下发《关于开展银行保险机构侵害个人信息权益乱象专项整治工作的通知》,要求全面梳理和排查银行业保险业在个人信息保护方面的问题和漏洞,督促银行保险机构建立健全消费者个人信息保护工作机制等。

攻防博弈持续进行,人脸识别系统的升级改造没有止境。记者浏览招标和采购网站发现,2022年进行招投标的一些金融机构对人脸识别业务提出了更高的要求,比如要求升级人脸核心算法库,提升系统兼容性,未来可集成诸如声纹识别、指纹识别、虹膜识别等在内的其他生物识别技术,增加“炫彩检活”等验证环节。

今年6月,一家地方银行在“多维人脸识别项目”招标中明确表示,根据监管通知要求,需排查人脸识别应用风险漏洞,加强人脸识别认证系统安全性,升级现有人脸识别系统,建立适配业务场景和业务风控的、支持多厂家产品集成,支持多因素认证的生物识别平台。

有业内人士对记者表示,随着《个人保护法》等相关法律法规的完善和落实,相关机构在人脸识别系统的应用中,更加重视人脸识别系统的安全合规性。建设安全合规的人脸识别行业生态,需要相关主管部门、科研机构、法律机构、技术提供和使用者以及用户方共同构建。

2022年初,中国工商银行金融科技研究院发布的《2021网络金融黑产研究报告》(下称《报告》)称,自网络金融诞生以来,黑产一直是各网络金融企业面临的重要威胁,随着黑产的发展与扩张,各类新型的欺诈场景、欺诈技术不断渗透到针对金融企业的攻击中,其链条化分工、跨行业作案等特点,为金融机构的风险防控带来更大挑战。

《报告》指出,需要通过国家、行业、机构多个层面的联合攻坚,强化黑产的抵御之路。

207783