杭州中院近期公布的一起案件,戳破了很多人对“刷脸安全”的幻觉:两名不法分子用网络收集来的照片,通过AI生成点头、眨眼、摇头等动态视频,再用虚拟相机替换摄像头输入,绕过购物平台活体核验,非法登录近30个账号,盗取并售卖个人信息,还违规提供虚假实名认证。法院判令二人公开道歉,并支付公益损害赔偿金5857元。
金额不大,但信号很强。过去人们常说,密码可能泄露、验证码可能被拦截,脸总偷不走。如今,这张“最像自己的钥匙”也可能被复制。问题不只是AI伪造技术变强了,更是部分平台核验机制升级慢了。依赖“指定动作”判断真人的传统活体检测,面对AI合成视频和视频流注入,已经显得单薄。
更值得追问的是平台责任。有的平台匆匆上线人脸核验,却把低成本的单一动作校验当成主要防线;有的明知虚拟相机、视频流注入已是新型攻击手法,却不能及时升级;还有的核验能力来自第三方服务商,自身不掌握底层算法,出事后容易互相推诿。平台不能因为采购了第三方服务,就免除个人信息保护和安全防护责任。
制度层面并非没有依据。《人脸识别技术应用安全管理办法》明确,能实现同等目的时,不得把人脸识别作为唯一验证方式;处理人脸信息前应开展个人信息保护影响评估,达到一定规模还需备案。最高法今年发布的涉人工智能纠纷意见也明确,未经同意利用AI生成可识别自然人的虚拟形象并使用的,构成人格权益侵害。这意味着,刷脸不能只图方便,更应按高风险个人信息处理活动来管理。
平台和技术服务方必须主动进化。核验从“单次动作过关”升级为多信号交叉验证,在高逼真度AI攻击样本基础上开展红队测试,叠加设备可信验证、视频流注入检测、生理活体特征分析和多因素身份认证。监管部门继续严查AI伪造人脸黑灰产链条,推动攻击样本共享、漏洞通报和动态测评,让伪造技术可识别、可追溯、可追责。
对个人而言,也要更新安全认知:不随意向不可信渠道提供高清正脸照、证件照和动态视频;支付、登录等敏感场景尽量开启短信、邮箱、设备锁等二次验证;发现异常登录及时冻结账号并留存证据。
刷脸、眨眼,本意是为了让人们更安心地享受数字生活。但技术越便利,越不能把安全寄托在“看起来像本人”的单一判断上。面对AI深度伪造的加速演进,平台要升级、监管要跟进、个人要警惕,共同把数字生活的安全底线扎得更牢。
作者:金台岩
编辑/马晓晴