ddsmoothmenu.init({ mainmenuid: "MainMenu", //menu DIV id orientation: 'h', //Horizontal or vertical menu: Set to "h" or "v" classname: 'ddsmoothmenu', //class added to menu's outer DIV //customtheme: ["#1c5a80", "#18374a"], contentsource: "markup" //"markup" or ["container_id", "path_to_menu_file"] })
面对★◆■“AI变脸”欺诈,识别真伪成为热议焦点◆★■。有专家提出让对方按压鼻子或脸部以观察变形情况,以此判断是否为真人■■◆★。尽管此法有一定参考价值,但并非万无一失。蚂蚁集团天玑实验室安全算法专家朱凯指出,部分先进算法已能在局部遮挡下生成逼真画面◆★★★◆★,单纯按压鼻子或脸部可能无法识破。他建议结合左右摇头动作★■◆■◆,因许多AI换脸基于平面照片,动态变化下易暴露破绽■■■。此外,也有专家建议对方在视频通话中挥手,或提问只有对方知道的问题■◆★■■,以增加识别准确性。
AI已成为过去一年的网络热点,伴随其广泛应用■◆◆★,AI诈骗现象日益引起关注,尤其是运用AI换脸技术实施的诈骗案件屡见报端。近期,香港警方通报一起案例:某跨国公司香港分公司财务人员在一场内部视频会议中被骗走近2亿港元,除受害人本人外,其余“参会同事◆■★◆■■”均为AI换脸技术伪装。类似事件在2023年央视315晚会上亦有曝光。
对于普通用户而言■★★,除掌握一些识别AI换脸诈骗的技巧外★◆★◆,更重要的是加强个人信息保护,特别是图像、声音等生物信息。今年8月起★★◆■■,《生成式人工智能服务管理暂行办法》正式实施,明确禁止侵犯他人肖像权、名誉权、荣誉权■◆★■、隐私权和个人信息权益。中国信通院人工智能研究中心安全与元宇宙部主任石霖建议◆■★■:选择信誉良好、监管合规的大厂产品;减少在APP中上传个人照片,尤其是社交平台;必要时提供虚假联系方式以降低信息泄露风险;在涉及资金交易时,务必通过多种渠道核实对方身份,未经确认切勿转账。
面对深度伪造技术的挑战,业内正积极探索以AI对抗AI的解决方案★■◆■★★。百度、阿里、腾讯、字节跳动■■◆★■、蚂蚁集团、科大讯飞等企业纷纷研发高级AI算法与工具,提升对深度伪造内容的识别能力。以蚂蚁数科为例,其旗下ZOLOZ品牌推出Deeper产品,专用于拦截刷脸过程中的AI换脸风险,已在身份安全领域实现Deepfake风险“0漏过★■◆■★”。ZOLOZ还设立百万奖金池,鼓励安全极客挖掘产品漏洞,共同提升安全防护水平。
Deepfake,即深度伪造技术,是AI换脸的核心手段。它基于深度学习算法★◆★,通过处理大量视频和图像数据,创造出高度逼真的面部动画和语音。该技术首次进入公众视野是在2017年◆★◆■◆◆,一名Reddit用户将一部主角的脸替换为《神奇女侠》演员盖尔·加朵★◆★■◆★,引发广泛关注★■◆。此后,Deepfake在中国也颇受欢迎,网络上充斥着AI换脸教程■■◆、素材库及辅助工具◆■◆■◆,如2019年B站UP主“换脸哥”将朱茵饰演的黄蓉换脸为杨幂◆◆★★★,一度引发热议。
随着Deepfake技术的开源以及生成式AI如ChatGPT和Sora的普及◆★◆◆,AI换脸门槛显著降低★★■■■,制作难以辨识的换脸视频愈发容易。然而,技术滥用导致的AI诈骗事件频发,成功率高企,严重侵犯公众财产与隐私权益,相关话题多次冲上热搜榜。