当心!你的身份证照片可能被AI生成了动态视频!
“当心!假亲人、假领导可能正盯着你的钱包!”7月17日、18日,湖北省南漳县检察院与县民警连续两天深入社区、走进养老院、来到快递站,轮番播放反诈微视频,揭露“AI换脸”这一新型诈骗的作案手法与防范要点。
2024年5月,南漳县接到广州市公安机关移交的一条侵犯公民个人信息线索。根据线索,南漳县找到了涉嫌利用AI技术合成人脸动态视频的陈某。
陈某是一名“00后”,原本靠打游戏、做代练谋生,因对AI换脸技术感兴趣,自学相关技能并在网上发布作品。很快,肖某联系他制作用于电话卡实名认证的AI合成人脸动态视频。在利益诱惑下,明知可能违法的陈某接下了“订单”。
随着侦查深入,一条“技术+物流”的新型犯罪链浮出水面:陈某和肖某等人从网络黑市非法获取大量公民高清身份证照片,利用AI换脸工具制成包含眨眼、张嘴等活体动作的动态视频,辅以无人直播插件骗过电信运营商人脸核验系统,非法激活电话卡;负责快递转运的李某、华某(已另案判决)通过电商平台批量购买电话卡,利用快递中途改址或专人转寄等方式“洗白”运输痕迹;秦某则当起“中间商”,把激活的电线元一张的价格卖给卡商,最终流入诈骗团伙手中。
“整个团伙分工明确,像一条高效生产线。”办案检察官赵小霞介绍,技术组制作“人脸通行证”,物流组洗白痕迹,秦某则作为枢纽连接买卖双方,串联整条犯罪链。警方在陈某电脑中查获1098条居民身份证信息及200余张电话卡,经与国家反诈平台数据比对,其中23张卡直接关联35起诈骗案,涉案金额达293万余元。
经查,一年时间,陈某、肖某、秦某这一3人小团伙就激活贩卖电线张,造成群众财产损失超600万元。
在南漳县物证室内,10余台电脑主机、20余部手机和成捆的电话卡静静陈列着。面对犯罪团伙使用境外加密聊天软件联络、虚拟货币交易结算等反侦查手段,2024年7月,南漳县检察院依法介入该案,在电子证据固定方面引导公安机关对查扣的电子设备展开三重勘验,提取加密聊天记录、复原AI操作痕迹、追踪虚拟货币流向,构建起完整证据闭环。
今年4月,这起由南漳县检察院提起公诉的帮助信息网络犯罪活动案宣判,陈某被判处有期徒刑一年二个月,并处罚金5000元;肖某被判处有期徒刑一年,并处罚金5000元;秦某被判处有期徒刑一年八个月,并处罚金1万元,涉案工具和违法所得被依法处理。
检察官提醒广大市民,要保护好个人身份信息,切勿随意上传手持身份证照片或视频;定期通过运营商官方渠道查询自己名下的电话卡,若发现信息被冒用或遭遇可疑诈骗,要及时保留证据并报警。
在使用AI换脸技术时,非法收集、使用或泄露他人的人脸信息等敏感个人信息的,可能会构成侵犯公民个人信息罪;