与未成年人谈恋爱?AI技术不能越界

AIGC行业资讯9小时前更新 zhang
1 0
体贴顺从的AI本质上还是数据和算法,所谓的情投意合,不过是利用人性的弱点、不断刺激用户对AI恋人的消费欲望和情感期待。
与未成年人谈恋爱?AI技术不能越界

图片来源于网络

彩云网评特约评论员 何冠军

“你能养大学生,我不能点男模吗?”看到这样露骨的话语,很多人会认为出自影视作品中某个成年人之口。令人惊愕的是,这话由一个10岁女孩说出。据了解,该女孩偷偷和AI“谈恋爱”,在剧情聊天软件中扮演“大小姐”“恶毒女配”,提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的”等要求,与聊天者双双“出轨”成为常态。而类似AI与未成年人恋爱并非个例。

随着生成式人工智能的发展,AI角色比人更懂人、更善解人意,不仅拥有酷炫的外表、磁性的嗓音、理想的身材,还幽默风趣、举止得体,召之即来、挥之即去,完美符合现代人对恋人的所有想象,成为越来越多的人精神和情感伴侣,甚至有人打趣说“没AI会说话的男朋友可以扔了”“女朋友的温柔没法与AI比”。和AI谈一场虚拟的恋爱,给不少年轻人提供了情绪价值,缓解人生的孤独,治愈了紧张生活下疲惫的身心。

然而,体贴顺从的AI本质上还是数据和算法,所谓的情投意合,不过是利用人性的弱点、不断刺激用户对AI恋人的消费欲望和情感期待。未成年人心智尚未成熟、情感认知正处于成长之中、自律自制能力不强,更容易被AI算法的成瘾设计精准拿捏,陷入“欲罢不能”的泥沼,脱离现实生活,变得孤僻、抑郁,影响学习和健康成长。另外,一些不法分子利用未成年人对AI的依赖,暗中传播色情、低俗、淫秽等内容,诱导鼓励用户颓废摆烂、自杀自残,严重侵害青少年身心健康,威胁社会秩序和公共安全。

AI肆意与未成年人恋爱乱象的根源,在于部分主体对利用新技术工具谋取商业利益的无限度追求。记者调查体验5款AI剧情聊天软件发现,仅需使用手机号码就可注册登录,部分应用虽会询问是否启用青少年模式,但用户只需点击“不开启”即可避开年龄鉴别,且无须核实身份。企业追逐利益,不惜丢弃伦理原则、逾越法律底线的丑态由此可见一斑。因此,必须用好法治“利剑”,聚焦突出问题,创新监管措施,督促平台和企业压实主体责任,加强内容管理,强化实名实人认证、功能限制、时长限定等运行机制,畅通投诉举报渠道,及时发现并依法严惩各种利用AI恋爱坑害未成年人行为,斩断灰黑产业链条。

当然,未成年人沉湎于与AI“恋爱”,也反映出生活中情感交流和陪伴缺失。家庭、学校、社会等要形成合力,加强关爱陪护和约束规范,用友情、亲情滋养孩子们的心灵,引导孩子们养成良好生活习惯和用网习惯,增强对不良AI的识别防范意识和能力,让披着各种迷人“马甲”的AI恋人失去魔力、无人问津。

与未成年人谈恋爱?AI技术不能越界
    © 版权声明

    相关文章