AI换脸冒充亲友视频通话骗钱、用AI伪造的“枯萎绿植”图片申请退款……当“眼见”不再“为实”，普通人该如何分辨？近日，国家反诈中心APP正式上线“AI内容鉴定”功能，支持对图像、视频、文本、音频进行AI识别检测。北京青年报记者实测体验发现，上传AI生成图100%可被检测出来，而上传自己拍摄的内容则可迅速被识别为非AI。

关注：检测图片需在30KB至5MB之间

国家反诈中心APP可以看到，首页功能菜单里新增了“AI内容鉴定”功能，该功能支持图像、视频等内容的AI识别检测，用户根据需要选择对应入口，上传内容后点击“一键识别”即可获取鉴定结果。各模块对上传文件的大小和时长有一定限制：图片需在30KB至5MB之间，视频限制为100KB至100MB，文本需在10字至5000字之间，音频则要求为10分钟以内的人声音频，目前每日免费检测次数为10次。

国家反诈中心APP由公安部刑事侦查局组织开发，此前已集成报案助手、举报线索、风险查询、诈骗预警等功能，新上线的“AI内容鉴定”相当于为用户增加了一道主动甄别数字真伪的工具。

实测：系统每次处理数秒后反馈结果

为了验证该功能的实际表现，北青报记者进行了一轮多场景测试。北青报记者先在豆包、文心一格、通义万相等多个AI绘图模型上，分别生成了人物肖像、风景、动物等不同主题的多张图片，逐张上传至“图像检测”模块。系统每次处理数秒后均反馈“图像含AI生成痕迹”，所有图片全部被正确识别。

随后，北青报记者用手机随手拍摄了一张办公场景照片上传，系统迅速显示“未检测到合成痕迹”。北青报记者还尝试了几种“边界”情况：一张电商平台的商品页面截图、一张手机相册里的生活照，系统均判定为真实内容。北青报记者还在网上找到了一张由商家提供的图片——买家称收到的绿植“到货就枯萎了”，并以此为据申请退款，实际上该图片系AI伪造。将这张图上传后，系统同样准确识别为“图像含AI生成痕迹”。据了解，该类AI检测技术通常通过对图像的光影一致性、纹理细节、像素异常等特征进行深度学习分析，从而判断内容是否由AI生成。 

提醒：反诈APP还有“身份核实”功能

目前，国家对AI生成内容的标识管理已形成制度框架。2025年9月1日起施行的《人工智能生成合成内容标识办法》明确要求，AI生成合成内容须添加显式标识，即在图片、视频等内容的显著位置以文字或图形等形式予以标注；同时在文件元数据中嵌入隐式标识，记录生成属性及服务提供者编码等信息。目前，抖音、快手、今日头条等主流平台均已上线AI内容声明选项，用户发布时须主动勾选标注。今年5月，中央网信办启动“清朗·整治AI应用乱象”专项行动，将“生成合成内容标识落实不到位”列入重点整治问题。

除了识别AI生成内容，国家反诈中心APP还提供了一项实用的“身份核实”功能。当用户在通话或聊天过程中怀疑对方身份时，可点击APP内的“身份核实”入口，输入对方手机号发起验证请求。对方使用该手机号登录国家反诈中心APP后，会收到核验提示，按指引完成人脸识别，核实结果将实时反馈至发起方APP，显示“已验证”或“未通过”，从而帮助用户判断该号码是否为真人操作。这一功能与AI内容鉴定形成互补：一个验“图”的真假，一个核“人”的真伪。

业内人士表示，应对AI造假需要技术与制度双管齐下，国家反诈中心APP此次上线AI鉴定及身份核实等功能，为公众提供了一双随时可用的“火眼金睛”。

文/北京青年报记者 温婧
编辑/ 刘忠禹
签发编辑/ 马晓晴