花一点小零钱就能买到心仪偶像、网红的裸照?北京一男子利用AI技术「一键脱衣」,伪造并贩售近7000张裸照牟利。由于他开了「白菜价」一张照片只要1.5元人民币(约0.21美元),在社群软件QQ上已有300多人向他购买裸照。由于图片涉及女性人数多,目前男子已被提起公诉。
每日经济新闻报导,嫌犯白姓男子是一家网络公司的技术员,他号称可利用AI软件为照片中的人物「一键去衣」,在网络上兜售制作一张「去衣」照片只要1.5元人民币,吸引许多人下单,要求「去衣」的对象包括客户的学生、教师、同事,以及喜欢的女明星等。白男落网时,已制作将近7000张经过「深度伪造(deepfake)」的照片。
负责此案的北京市海淀区人民检察院检察官表示,白男在境外的社群媒体上发布了广告,上面写着「电脑AI去衣,白菜价」、「身边人、网红、明星皆可」;他在QQ上向351个人贩卖过相关图片。
检察官说,根据白男自承,这种「一键去衣」技术并不是真的去掉照片中人物的衣服,而是针对已有的模型和模块进行图片重绘,只要一键就能完成,基本上几秒钟、几分钟就能批量生成相应的图片。短短几个月的时间,白男赚了将近1万元人民币,被以制作、贩卖淫物品等罪名起诉。