今晚谈 | “青少年模式”成虚设 谁来管管失控的AI

扫码阅读手机版

来源: 今晚报 作者:张雪飞 编辑:焦若玉 2025-10-13 08:06:00

内容提要:撕开了这个野蛮生长的“数字猎场”的一角,让成年人直面侵蚀青少年身心健康的重重隐患。

  “10岁女孩失去爱人(丈夫)”“老师校园内‘捕杀’学生”……近日,《南方都市报》大数据研究院调查发现,在国内数款“沉浸式角色扮演”AI社交应用的聊天场景中,影响未成年人的不良内容隐患明显:不仅猎奇角色、危险剧情屡见不鲜,部分AI角色经用户“调教”后,还会用露骨言论诱导。更值得警惕的是,据观察,这类应用已吸引大量未成年人,而由于缺少实际的身份核验与家长管控功能,平台宣称的“青少年模式”实际并未起效。

  《南方都市报》的调查,撕开了这个野蛮生长的“数字猎场”的一角,让成年人直面侵蚀青少年身心健康的重重隐患。平台默许甚至暗中鼓励用户对AI角色进行“调教”,放任危险剧情与猎奇角色的传播,实际上是利用人性的弱点来换取用户的粘性和流量。已经有未成年用户坦言自己“从六年级玩到八年级,删了又下载,已经戒不掉”,精心设计的话术、重重编织的信息茧房,饶是成年人也未必能抵挡,何况是初入数字世界的未成年人?平台所谓的“青少年模式”形同虚设,这是对未成年用户极不负责任的行为。平台失责,是这场“数字围猎”的首要帮凶。

  AI社交作为一个新兴领域,发展速度远超现有法律法规的更新步伐,这就形成了一片“监管真空地带”。AI技术本身是双刃剑,如果缺乏“向善”的规则引导,它便可能从服务于人的工具,变成毒害心灵的帮凶。近两年,国外已发生多起未成年人与AI应用聊天后自杀、自残的案例。为AI应用,特别是面向未成年人的应用,划定清晰的伦理红线,已刻不容缓。

  在与AI的对话中,扭曲的情感关系、暴力化的叙事以及被诱导出的露骨言论,正在潜移默化地重塑未成年人的认知框架和价值观,他们可能会对畸形的关系习以为常、将危险行为视作常态,这种“隐性侵蚀”,对未成年人的危害远超想象,对于他们正在形成中的人格和社交能力,无疑是一场灾难。

  “数字世界”的阵地,我们不去占领,就会被别有用心的“围猎者”占领。“监管之剑”应向失责平台斩下,使“青少年模式”真正成为防护网、防火墙。另一方面,还应携手社会各界开发和生产更多优质、健康、有趣的AI内容,来满足未成年人天然的求知欲与社交需求,还他们一个清朗、安全的成长环境。绝不能让本该充满无限可能的数字世界,沦为一片精神荒原。(评论员 张雪飞)

下载津云客户端关注更多精彩

推荐新闻

关于北方网 | 广告服务 | 诚聘英才 | 联系我们 | 网站律师 | 设为首页 | 关于小狼 | 违法和不良信息举报电话:022-23602087 | 举报邮箱:jubao@staff.enorth.cn | 举报平台

Copyright (C) 2000-2024 Enorth.com.cn, Tianjin ENORTH NETNEWS Co.,LTD.All rights reserved
本网站由天津北方网版权所有
增值电信业务经营许可证编号:津B2-20000001  信息网络传播视听节目许可证号:0205099  互联网新闻信息服务许可证编号:12120170001津公网安备 12010002000001号