节目中,腾讯优图人脸安全技术总负责人丁守鸿担任现场评审,共同参与极客选手挑战细节的技术讨论及打分。作为腾讯旗下顶尖的人工智能实验室,腾讯优图还为第一期“AI鉴定师”提供了领先的AI算法支持,同时丁守鸿作为第一期“AI鉴定师”和第二期“眼镜易容术”挑战环节的评审。
在AI鉴定师挑战项目,腾讯优图和主办方共同策划,选手们对其中合成人脸检测的准确率超过70%即为成功。AI大战AI,水哥和潘晓婷现场“换脸”爆笑不断。近期,AI换脸也是风波不断,部分人觉得AI换脸技术能够让生活产生新体验,但也有部分人饱受被AI换脸的折磨。此项目中,选手利用人工智能技术在15分钟内判断100段真假视频,最终以72%正确率挑战成功。
在眼镜易容术项目中,主办方则构建了一个人脸门禁系统,选手通过模型对抗攻击技术生成对抗素材,贴在脸上欺骗门禁系统的识别模型。在此环节4秒“变身”安妮·海瑟薇成功刷过门禁、不到10秒解锁各种男神、女神身份,甚至实现跨种族、跨性别解锁门禁系统,让在场嘉宾和观众叹为观止。
腾讯优图AI算法的加持,让《我是极客》看点不断精彩连连,并直观地展示了人工智能世界的魅力,但同时也令人们开始思考,5G、AI主导的智能时代,终端密码、人脸识别一向被视为保护个人隐私安全的屏障,却在选手面前形同虚设,变成毫无防御能力的“纸老虎”,那么智能化在给人提供便利的同时,是否是真的安全呢?
因此,本次《我是极客》节目以“让智能更安全、让安全更智能”为主题,意在探索产业智能与消费智能潜在安全问题,而为挑战项目提供了领先AI算法支持的腾讯优图,早已在人脸安全应用的探索上有了不错的积累。
换脸编辑检测技术刷新 FaceForensics Benchmark国际赛事摘金
腾讯优图在人脸伪造检测方向进行了深入研究,对伪造图像和伪造视频分别提出针对性的鉴别方案。针对人脸伪造图像,腾讯优图关注人脸空间特征的不一致性,提出通过局部关联学习来进行伪造检测的新方法,该方法基于注意力机制同时提取RGB-频域空间特征,并设计多尺度局部相似性建模网络来衡量局部区域特征间的相似性,最终构造泛化性强、鲁棒性高的相似模式,支持多种图像伪造方法的有效检测。
针对人脸伪造视频,腾讯优图关注人脸时序运动的不一致性,基于相邻帧间的特征差异,同时从竖直和水平方向上进行细粒度差异建模,引导模型关注时空上的不一致区域来进行真假鉴别。相关工作已发表于AAAI、ACM MM等会议,并刷新过FaceForensics Benchmark,同时在全球最大伪造人脸检测比赛DFDC中获得金牌。
模型对抗攻击和防御研究 获人工智能国际顶级会议CVPR、IJCAI接收
腾讯优图在对抗攻击方向也进行了深入研究,针对人脸识别深度模型,提出一种高隐蔽性且可物理化的对抗攻击的方法Adv-Makeup。该方法首先通过生成对抗网络生成真实风格的彩妆,并设计融合网络实现逼真的上妆过程,最后采用基于元学习的对抗攻击策略实现迁移性强的对抗彩妆。生成的Adv-Makeup可以支持物理化,实现真实场景下的攻击。
针对黑盒场景攻击,腾讯优图提出一种全新的替代模型训练方法,无需真实场景数据,通过数据生成网络生成具有多样性的数据,并设计对抗替代模型训练框架,将分布在决策边界的对抗样本引入到替代模型训练过程中,进一步提升替代模型和目标黑盒模型的相似度,从而提升黑盒攻击的成功率。相关工作已被CVPR、IJCAI等会议接收。
优图视觉AI人脸安全应用落地 打造多样化行业解决方案
始终秉承科技向善使命的腾讯优图,已拥有超过1000项AI全球专利,超过200篇论文被世界顶级会议收录,并在人脸识别数据库LFW、MegaFace、MOT challenge等多个国际赛事中不断刷新纪录,领先于国际水平的人脸识别技术为现实场景中的应用提供了保障。
如今,人脸应用安全是智能时代的重要命题,为防范AI技术滥用,未来腾讯将在人脸安全领域持续深耕,精心打磨算法研究和业务落地,同时开放和输出相关技术服务,全面覆盖微信小程序、公众号、APP、H5以及智能终端等场景,并广泛应用于金融、直播、游戏、电商、政务民生等数百行业场景、数万个项目,从而更好的保障人脸相关应用的安全。
