国家反诈中心APP上线AI鉴定 快速识别合成内容

国家反诈中心APP上线AI鉴定 快速识别合成内容！近日，国家反诈中心App上线了AI内容鉴定功能，支持图像、视频等内容的AI识别检测，以应对当前泛滥的AI换脸、伪造图片视频等新型诈骗手段。这一消息迅速引发广泛关注。

记者体验发现，上传一张拍摄的照片后不到一分钟，平台上显示“未检测到合成痕迹”。而当换成一张用AI合成的图片时，平台则会判定其“含有AI生成痕迹”。

实现这一功能的关键在于从元数据入手。真实相机拍摄的照片通常包含拍摄设备、参数、时间等信息，同时各类图形处理、影像剪辑平台在制作内容时也会留存一些标识信息。通过AI识图工具对比这些信息，可以初步筛选出可疑图像。然而，仅依靠元数据还不够，还需要通过物理世界和像素断层等细节来判断。真实照片需要遵守物理定律，例如光照方向一致、眼镜反射与背景匹配、皮肤下的脉搏信号微弱但可测等细节。此外，放大图片后，真实图片像素过渡平滑，而AI图像可能出现像素断层等情况，如头发的真实图片可以看到一丝一丝，而AI制作则可能是模糊的。

综合准确率方面，行业整体情况在95%以上，不同应用场景下准确率有所不同。例如，人像等细节元素较多的内容，准确率会更高；而细节较少的内容，准确率则略低。

多位受访者提到，要更好地识别AI虚假信息，除了依靠技术手段外，还需多措并举做好“存真”工作。其中，“内容标识”是一个常见做法。去年9月，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》正式实施，要求所有AI生成的文字、图片、视频等内容都要“亮明身份”。这样可以从源头确保信息的真实性，减少因AI生成内容引发的侵权、诈骗等问题。国家反诈中心APP上线AI鉴定 快速识别合成内容！