“AI换脸技术”是一种先进的数字技术，通过使用人工智能和机器学习算法，将一张面部的图像或视频帧转移到另一张图像或视频帧上，实现面部特征的替换或更改。然而，这项技术也存在潜在风险，比如可能被用于制作虚假视频，通过平台的人脸识别认证环节进行不法活动。近期，鲤城区人民法院就审理了一起利用“AI换脸技术”进行犯罪活动的案件。
网络公司报警
大量实名账号使用同一IP
“短短半个月，这个地区的实名认证怎么突然增加这么多？这些账号所用的IP还存在大量重复，认证参数有明显的团伙聚集特征！”2023年6月，某网络公司发现有部分账号在注册过程中使用AI伪造的动态人脸视频通过实名认证环节审查。经该公司技术部门排查分析，怀疑有不法分子非法购买他人身份信息和人脸照片，通过3D人脸软件制作动图或视频，在实名认证时使用相关插件对公司实名检测软件注入攻击，使得实名软件读取已制作好的动态人脸视频通过实名活体检测，进而成功通过实名认证。
据该公司介绍，鲤城辖区一共申请了4623个账号，成功认证2238个，这些账号可能被用于诈骗、色情等引流，会严重破坏平台生态，给社会带来不良影响。该公司遂向警方提供了上述线索。
消费者投诉
身份信息被陌生人注册
“我想在某小程序购买商品，需要实名注册账号，系统提示我的身份证号码已经被注册过了，但我本人和家人都没有注册过。”消费者林某在网上准备购买某商品时，遇到了这一现象。
为带动本地农产品经济，某知名企业通过微信小程序销售特产和酒水，客户通过购买特产获得相应积分后，即可原价购买其他市场溢价较高的商品。为防止不法分子倒卖牟利，购买时需要人脸识别验证。
企业销售人员表示，因是通过网络销售，无法见到消费者本人，技术上存在“AI换脸”冒用他人身份的可能，曾有接到客户投诉其身份信息被他人注册，尽管该行为没有给企业造成损失，但已扰乱了正常的销售环境和市场。
被告人供述
自学软件制作AI换脸视频
“在网上看到有人发布这种注册需求的单子，听说做这个来钱快，我就买了软件自学。”被告人傅某表示。
原来，为牟取利益，被告人傅某从网上购买了软件及相关教程，从客户提供的信息或自己从网上购买的公民信息中，抠出头像制作AI换脸视频，预存在手机相册中，再点击客户要求通过的相关平台人脸验证链接，通过技术手段帮助客户通过平台的人脸验证。傅某从中非法获利人民币27000元。
根据相关犯罪线索，2023年8月，公安机关在鲤城区某小区内抓获傅某。傅某对购买公民个人信息，制作AI换脸视频进行商品申购认证的犯罪事实供认不讳。
法官提醒
生活中注意保护个人信息
法院审理认为，傅某的行为构成非法控制计算机信息系统罪和侵犯公民个人信息罪，两罪的关系是手段与目的的牵连关系，应择一重罪论处。由于两罪均是以非法所得作为入罪条件和情节的认定，根据查明事实，傅某犯非法控制计算机信息系统罪。
最终，根据被告人傅某的犯罪事实、性质、情节、认罪态度及对于社会的危害程度，鲤城法院依法判决被告人傅某犯非法控制计算机信息系统罪，判处有期徒刑三年并处罚金，没收违法所得。
法官提醒，公众在日常生活中应当注意保护个人信息，尽量不要在社交媒体平台发布个人免冠正面照，避免在社交平台上过度暴露个人信息。同时，勿轻易下载未知软件或点击可疑链接，以免被病毒侵入，减少被诈骗的风险，在遇到可疑情况时，可及时报警求助。（融媒体记者 许小程 通讯员 叶俊欣 王彩霞）
来源：东南早报
