12月26日，在第十八届中国国际社会公共安全博览会（“CPSE安博会”）上，清华人工智能研究院的官方产学研机构瑞莱智慧科技携自主研发的人工智能安全攻防创新成果与系列产品亮相，现场演示了“数据驱动”的人工智能系统所存在的风险漏洞，以及展示了如何通过升级技术手段打造动态防御机制。

当前，火爆社交网络的“AI换脸”正成为人工智能技术滥用的重灾区。瑞莱智慧现场展示了一段将观众的脸“换”到恶搞舞蹈中的视频。研发人员表示，随着开源工具的普及，AI换脸的技术门槛越来越低，因此被大规模用于非法伪造公众人物肖像吸引流量牟利，甚至是色情宣传、操纵舆论、网络欺诈等违法犯罪行为。

现有的“换脸”视频精度已经实现肉眼难以辨别的程度，传统人工审核团队束手无策。展会现场，瑞莱智慧展示了一款深度伪造内容检测平台DeepReal，支持快速、精准地对多种格式与质量的图像与视频进行自动化的真伪鉴别，能够应用于检测图像物证真实性、检测网络内容合规性、打击侵害个人声誉行为、提升人脸识别系统安全性等多个场景，为遏制和防范深度伪造技术的大规模滥用提供技术支撑。据介绍，该平台在主流学术数据集和网络数据集中的检测准确率高达99%以上，产业应用中检测准确率和效率均达业界顶尖水平。

展区现场，一件“隐身衣”吸睛无数。正常情况下，广泛应用于安防场景的目标检测系统，能实时检测出摄像头前经过的人或物体。瑞莱智慧开发的这款特制T恤，衣服上印刷了特定的图案，能够让识别算法出错、捕捉不到目标，人一旦穿上便可以实现“隐身”。

随着人工智能技术在安防、交通、金融等关键应用场景的持续渗透，这也导致算法漏洞的威胁面不断延展，对城市治理产生影响。例如，不法分子恶意攻击视频监控、安检闸机等智能安防设备，躲避追踪、冒充他人、破坏公共安全；交通领域，自动驾驶汽车可能被干扰“致盲”，引发安全事故等。

在展台，瑞莱智慧还展示了业内首个人工智能防火墙系统，通过集成多项国际领先的对抗防御算法，能够有效检测和抵御针对人工智能系统的新型攻击风险，实现人脸识别、目标检测等计算机视觉场景的安全加固升级，可用于安防门禁、人脸身份核验、人脸解锁等场景的安全防护，大幅提升人工智能系统的安全性。

瑞莱智慧副总裁唐家渝表示，伴随规模化建设和应用加速发展，保证人工智能“安全、可靠、可控”成为其未来发展最重要的趋势。瑞莱智慧推出了系列自研的安全可控新一代人工智能基础设施平台，为人工智能纵深赋能产业构筑安全基座，将推动整个智能化产业的安全可控升级。

文/北京青年报记者 温婧
编辑/田野