瑞莱智慧展示AI换脸检测平台:防范大规模技术滥用
北京青年报客户端 2021-12-27 19:42

12月26日,在第十八届中国国际社会公共安全博览会(“CPSE安博会”)上,清华人工智能研究院的官方产学研机构瑞莱智慧科技携自主研发的人工智能安全攻防创新成果与系列产品亮相,现场演示了“数据驱动”的人工智能系统所存在的风险漏洞,以及展示了如何通过升级技术手段打造动态防御机制。

当前,火爆社交网络的“AI换脸”正成为人工智能技术滥用的重灾区。瑞莱智慧现场展示了一段将观众的脸“换”到恶搞舞蹈中的视频。研发人员表示,随着开源工具的普及,AI换脸的技术门槛越来越低,因此被大规模用于非法伪造公众人物肖像吸引流量牟利,甚至是色情宣传、操纵舆论、网络欺诈等违法犯罪行为。

现有的“换脸”视频精度已经实现肉眼难以辨别的程度,传统人工审核团队束手无策。展会现场,瑞莱智慧展示了一款深度伪造内容检测平台DeepReal,支持快速、精准地对多种格式与质量的图像与视频进行自动化的真伪鉴别,能够应用于检测图像物证真实性、检测网络内容合规性、打击侵害个人声誉行为、提升人脸识别系统安全性等多个场景,为遏制和防范深度伪造技术的大规模滥用提供技术支撑。据介绍,该平台在主流学术数据集和网络数据集中的检测准确率高达99%以上,产业应用中检测准确率和效率均达业界顶尖水平。

展区现场,一件“隐身衣”吸睛无数。正常情况下,广泛应用于安防场景的目标检测系统,能实时检测出摄像头前经过的人或物体。瑞莱智慧开发的这款特制T恤,衣服上印刷了特定的图案,能够让识别算法出错、捕捉不到目标,人一旦穿上便可以实现“隐身”。

随着人工智能技术在安防、交通、金融等关键应用场景的持续渗透,这也导致算法漏洞的威胁面不断延展,对城市治理产生影响。例如,不法分子恶意攻击视频监控、安检闸机等智能安防设备,躲避追踪、冒充他人、破坏公共安全;交通领域,自动驾驶汽车可能被干扰“致盲”,引发安全事故等。

在展台,瑞莱智慧还展示了业内首个人工智能防火墙系统,通过集成多项国际领先的对抗防御算法,能够有效检测和抵御针对人工智能系统的新型攻击风险,实现人脸识别、目标检测等计算机视觉场景的安全加固升级,可用于安防门禁、人脸身份核验、人脸解锁等场景的安全防护,大幅提升人工智能系统的安全性。

瑞莱智慧副总裁唐家渝表示,伴随规模化建设和应用加速发展,保证人工智能“安全、可靠、可控”成为其未来发展最重要的趋势。瑞莱智慧推出了系列自研的安全可控新一代人工智能基础设施平台,为人工智能纵深赋能产业构筑安全基座,将推动整个智能化产业的安全可控升级。

文/北京青年报记者 温婧
编辑/田野

相关阅读
“被动检测”变为“主动防御” AI鉴伪技术开始反制AI“换脸”诈骗
科技日报 2025-01-27
制作、传播、教学……“AI换脸”背后藏着的“生意”
北京日报客户端 2024-12-31
“AI换脸”诈骗?新技术建起安全屏障 “AI火眼”5秒识破“AI换脸”
广州日报 2024-09-09
瑞莱智慧发布AIGC检测一体机,精准识别伪造AI视频图片
北京青年报客户端 2024-08-20
上海法院认定“AI换脸”短视频知产侵权
法治日报 2024-07-04
AI换脸精准诈骗难以防范 全国人大代表建议 推进立法强化人工智能技术安全应用
法治日报 2024-04-09
AI“多人换脸”冒充公司高层 香港一财务职员被骗2亿港元
南方都市报 2024-03-28
“只要能看到脸的都能换” 滥用“AI换脸”技术伪造女明星涉黄视频 法院判了!
央视新闻 2024-03-21
最新评论