找回密码
 立即注册
搜索
查看: 3|回复: 0

AI变脸风靡,信息安全受威胁?反AI换脸技术强势来袭

[复制链接]

6535

主题

0

回帖

1万

积分

管理员

积分
19677
发表于 2025-5-9 06:05:37 | 显示全部楼层 |阅读模式
人工智能的进步显著地转变了人们的日常生活,深度学习技术使得机器能够更高效地服务于人类。然而,随着人工智能技术的广泛传播,一些负面效应也逐渐显现。比如,近年来在全球范围内流行的AI变脸软件,现在,它的对手已经出现。

反AI换脸来袭

变脸技术的出现对依赖人脸识别技术的用户群体构成了极大的信息安全风险。近期,美国国防部下属的研究机构DAPRA成功推出了全球首台反变脸AI刑侦检测设备。该设备的核心作用在于准确区分由机器学习算法创造的伪造图像与视频。借助深度学习技术,系统能够在软件生成的虚假人脸中捕捉到细微的痕迹,从而判断图像或视频中的人脸是自然生成还是由AI技术合成。

至于人脸识别的细节,除了在图像处理中难以消除的微小差异之外,更关键的漏洞在于眼睛。在经过AI技术编辑的视频中,人物往往很少甚至不会眨眼,因此,眨眼与否可以作为一个判断视频真伪的有效手段。除此之外,自然的、无意识的生理反应,如呼吸、心跳和眼球活动,同样可以作为辨别真伪的依据。

现在的AI程序能够巧妙地复制人的面部特征,让人难以分辨真伪,而要消除人们心中的疑虑,唯有运用人工智能技术,通过AI对抗AI的方式。这种软件在预测眼部状态方面表现出色,准确率高达99%。



或许有人觉得这并无太大价值,至多只是个别明星或政治人物恶作剧的产物,然而,AI换脸技术在散播虚假信息、制造社会混乱方面的潜在危害却不容小觑。

换脸其实很简单

实际上,这类AI换脸技术早已流传开来,在微信平台上,我们时常能目睹人脸被转换成各种小动物的形象,或是其他类似的小程序。这种技术在人脸识别领域的应用范围极广,普及程度相当高。更令人感到不安的是,利用AI进行换脸操作的过程异常简便。

借助网络软件,变脸效果变得简单易行,不仅面部特征识别得以实现,脸型轮廓、动作及嘴型等细节亦能被人工智能软件轻松调整,进而替换原有图片或视频中的形象。网络上已有类似案例,有人将电影中的女主角替换为其他女星,整个过程轻松自如,且新电影女主角的表情显得十分自然。

与之相辅的技术,即利用人工智能实现的声纹识别和声音合成技术,正迅猛发展。Adobe在此期间推出了多款声音合成产品,因此,在各类直播中,观众们看到换脸与换声的表演也就不再感到惊讶了。

安全的危机

必须得承认,深度学习技术显著提高了人脸识别的精确度和识别种类,尽管基础算法大多相似,但它们都依赖于向机器输入大量数据来增强其深度学习能力。为了达到更高的识别准确度,积累大量数据显得尤为关键。在新闻报道中,我们了解到Face++已成功识别超过10亿张照片,并且还构建了一个包含数亿张名人照片的数据库。



人工智能技术的广泛应用已深刻影响我们的生活,从安防到教育,从金融到交通,各行各业纷纷引入人脸识别技术。随着行业巨头的参与,人脸识别技术更是无处不在。在我国,人脸识别领域已被腾讯、阿里、百度等企业以及国家队所主导。以旷世科技和依图科技为例,它们背后有阿里系的强大支持,而云从科技和中科视拓则属于国家队阵营。

人脸信息采集的广泛应用以及人脸识别技术的日益简便,关键在于我们自愿输入的这些信息都是真实无误的。然而,一旦这些真实面孔遭遇AI换脸技术处理后的数据,原有的安全保障便会荡然无存。届时,恐怕涉及利用人脸识别手段盗取个人财产、进行诈骗等事件将会频发。何况目前我国的相关法律条文尚未得到充分的建设与优化,这便为那些围绕面部特征进行的各类犯罪活动提供了可利用的空隙。

如果监控视频中的面部特征被人工智能软件篡改,并且这样的视频出现在网络或法庭上,那么人脸识别技术以及监控系统的可信度很可能会受到严重质疑。

帮尼有话说

机器视觉技术的根基不断进步,使得AI换脸工具在特定领域欺骗性日益提升,这类易于制作且真假难辨的图像或视频,极有可能给当事人带来极大的伤害,而DAPRA研发的反变脸AI软件则成为了这一技术的有力对抗者。在当下这个面纹和声纹信息极易获取的时代,帮尼期望能有更多人开始关注AI换脸技术对安全领域所产生的影响。

NEWS
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|【远见科技】 ( 京ICP备20013102号-58 )

GMT+8, 2025-5-19 00:29 , Processed in 0.132852 second(s), 20 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表