一项新技术的出现,善用与滥用可能同时在发生。2023年以来,“AI诈骗”相关的新闻频频登上热搜。
“某男子9秒被骗245万元”、“某老板10分钟被骗430万元”、“AI换脸不雅视频敲诈勒索”等案例相继出现。这些新闻案例的背后都指向了一项新技术——AIGC。
而事实也如此,AIGC技术的快速发展为众多行业的多环节带来了提质增效,但也暴露出新风险,如各类合成攻击层出不穷,AI诈骗等黑产情况增多,且攻击者无需很强的技术就能快速合成高仿真的假脸,引发大众、企业对于业务安全的担忧。
回顾攻击迭代历史,目前的人脸攻击已经从早期的物理介质攻击(二维照片、三维面具等)迭代到数字合成攻击(人脸替换、属性编辑、表情驱动等),黑产技术日臻成熟,手段也更加隐秘。
被滥用的AI诈骗正是属于人脸合成类攻击,即基于人脸合成、拟声等AI技术进行脸部替换,并结合表情驱动做出眨眼、张嘴等动作来构造虚假的人脸视频,同时通过摄像头劫持进行攻击。
相比传统的合成技术,新型AI生成技术大幅度提升了攻击识别与拦截难度,也给现有的活体检测技术带来了新的安全挑战。
1、面向AIGC攻击,用AI打败AI
围绕新型AIGC防攻击,腾讯云慧眼给出了自己的答案:基于腾讯优图实验室的算法能力,增强版人脸核身(浮层H5)重磅上线远近活体新模式。
作为一种全新研发的活体检测模式,产品通过实时检测用户面部离摄像头的距离、实时交互提示用户移动手机设备,实现人脸由远及近或由近及远的随机检测,再搭配眨眼动作,即可验证用户是否为真人,具有检测速度快、实时交互好、商业用户体验佳等优点。
据腾讯云慧眼相关产品经理介绍,相比传统的活体检测技术,远近活体通过对交互过程中人脸的形变信息建模,并对交互行为进行分析,从而分辨出是真人还是攻击,进一步强化了活体检测的安全性,能够有效检测并拦截新型 AIGC 攻击以及高清纸片、翻拍、面具等常见攻击。
“在实际体验中我们也发现,相比传统的活体检测模式,远近活体不受光线强弱影响,适用范围更广,整体通过率更高;且远近交互与活体检测效果受设备和浏览器版本的影响较小,兼容性更好。”
而在设备侧,基于腾讯安全风控体系,腾讯云慧眼能有效拦截摄像头劫持、恶意注入等攻击类型,验证用户是否存在欺诈或作弊行为,可为银行、保险、证券等金融行业业务办理提供更高的安全保障。
2、打造可信AI,通过多项国家级安全检测认证
当前,腾讯云慧眼人脸核身在产品与技术层面,都已做足了【质变】与【智变】的势能。
在安全能力上,腾讯云慧眼人脸核身此前通过多项国家级安全检测,获得多项认证;
a.在“移动金融客户端人脸识别技术检测”项目中,通过了国家金融科技测评中心(简称“NFEC”)的技术检测,成为首款完成NFEC移动金融客户端人脸识别技术检测的产品。
b.在国家语音及图像识别产品质量检验检测中心(简称“国检中心”)首个面向人脸识别系统安全性的国家级检测与评估中成为首批通过测评的人脸识别系统安全产品。
c.在中国信通院发起的“可信AI:人脸识别评估”中,“腾讯云慧眼人脸核身V3.0”获评为优秀级(四级)安全防护等级,成为首批通过可信AI-人脸识别评估的安全产品。
d.通过权威机构安全检测,在防纸质面具攻击、防纸质照片攻击、防人脸剪纸攻击、防屏幕翻拍电子图像攻击、防动态视频翻拍攻击、防注入视频(摄像头劫持)攻击、活体检测测试中正确率均大于99%(检测中心测试数据)。
在可信AI方面,腾讯云智能一直将“可信”作为打造“普惠AI”的核心主张之一,落实到腾讯云慧眼人脸核身等众多AI产品服务中,并在中国信通院发起的“可信人脸应用守护计划”中评选为年度“突出贡献单位”。
在产品服务上,腾讯云慧眼围绕身份核验场景形成了实名信息核验、基础版人脸核身、增强版人脸核身、意愿核身、实证NFC、E证通等丰富的AI安全产品矩阵,实现微信小程序、公众号、APP、H5、智能终端等场景的全面覆盖。