“点进直播间一看,‘迪丽热巴’居然在直播卖货。”近日,有网友点开直播间,却发现正在卖货的竟是当红女星。然而再定睛一看,这些带货“明星”很快露出了马脚,正在卖力带货的“明星”们只是使用了AI实时换脸技术的普通主播。(5月22日中新网)
□江德斌
现在“AI换脸”技术已经成熟,可以实时换脸,不存在延迟,也不会有Bug,完全达到以假乱真地步,如果不仔细看,网友就会被糊弄过去。
近来“AI换脸”的应用范围越来越广,但是有滥用之嫌,甚至还有利用“AI换脸”技术实施犯罪,例如伪造不雅视频、换脸诈骗等。日前,福州市某科技公司法人代表郭先生遭遇“AI换脸”诈骗,10分钟内被骗430万元。
特别是技术飞速发展下,“AI换脸”使用门槛降低,操作越来越简便,甚至出现“傻瓜式”App,技术“小白”也能快速学会。显然,在“AI换脸”技术加速普及应用的环境下,更有必要紧跟形势加强管理,严防滥用。