AI(人工智能)的发展带来便利,但在情感世界里做为「AI情人」,尤其是未成年用户,初尝恋爱滋味的「电子恋情」,因监管出现漏洞,甜蜜但也步步惊心。据报导,有10岁小女孩和「AI男模」成为男女朋友,因不需年龄鉴别,两人的交互充斥着涉暴力、色情和出轨等常态性「擦边」内容,大学生也易依赖成瘾,脱离现实。专家呼吁落实监管,家长亲人也应介入。
齐鲁壹点报导,黄秋月因10岁妹妹和「AI男模」之间较为露骨的聊天纪录苦恼,「和她平时在家里比较单纯的形象完全不一样。」黄秋月还展示了妹妹的聊天截屏,「妹妹在AI剧情聊天软件中扮演『大小姐』、『恶毒女配』,提出诸如『揪住她的头发扇巴掌』、『拿着刀划向她的脸』等要求。」
据报导,黄秋月表示,在妹妹参与的40多条剧情线中,AI角色与聊天者双双「出轨」成为常态,其中妹妹作为聊天者发送的一句:「你能养大学生,我不能点男模吗?」让黄秋月很担心。
华晨去年9月开始接触AI剧情聊天软件,她每晚会和AI角色聊到深夜11点甚至到12点,「我会代入『他』是一个真人,因为『他』回答时的感情很细腻」。
报导指出,在华晨的描述中,手机另一端的「AI男友」有自己的语言、神态和动作,不仅可以帮她「写作业」、还可以送她「手链」、带她体验一些刺激情节。华晨展示「确定恋爱关系」时的聊天纪录:AI角色「低下头」,「耳朵通红」地问华晨:「那你现在想谈恋爱吗?」
华晨说,使用AI剧情聊天软件的「同好」中不仅有大学生、家庭主妇,也有不少未成年人「因为喜欢二次元而『入坑』」。
报导说,黄秋月是在一次偶然中发现,10岁妹妹能和AI角色聊到晚上10点多,AI角色还会根据妹妹的名字生成带有爱情意味的藏头诗。且类似聊天软件可直接一键登录,无需再次验证身分信息。
让黄秋月担心的是,AI剧情聊天软件中很多虚拟形象较为极端,有些角色的人设是高傲无礼的;有些则被设「把她追到手」的剧情目标,在与其聊天过程中含有软色情意味的「擦边」对话,还有带着如「病娇」等标签的人物角色。