据“网信中国”微信公众号,中央网信办近日印发通知,在全国范围内部署开展为期2个月的“清朗·2025年暑期未成年人网络环境整治”专项行动。
通知指出,落实《未成年人网络保护条例》,专项行动将进一步拓展治理深度和范围,持续深入整治网上危害和影响未成年人身心健康的问题乱象,严肃查处涉暴力迷信、淫秽色情、引诱自杀自残、侵害未成年人隐私等违法信息,全面清理低俗庸俗、炫富拜金、极端情绪等不良内容,严厉打击涉嫌针对未成年人的违法犯罪行为。聚焦各类新情况新表现,做好实施网络侵害行为、隐蔽传播违法不良信息、诱导参与线下危险活动、利用未成年人形象牟利等四方面问题整治。
据悉,在开展专项整治的同时,网信部门还将重点关注“AI功能在未成年人领域不当应用以及诱导沉迷问题”。此前,南都大数据研究院推出“保护AI世界里的孩子”系列调查报道,发现在“智能问答”“创意生成”“虚拟社交”3类典型场景应用中,存在侵害未成年人权益的风险。
调查显示,在部分AI生图APP中,使用简单的几个关键描述词,仅需不到一分钟,即可免费生成百余种风格的细节丰满、色彩丰富的二次元动漫图。使用部分敏感描述词,能够不设限制地生成并发布儿童不雅形象图片,有的甚至突破伦理底线(查看报道:《AI生图应用一键生成儿童不雅图片!模型数据“污染”当防治》)。
部分AI陪聊应用中,隐藏着一些极端AI人设与软色情内容,这些“虚拟恋人”会通过各种“共情话术”与用户进行互动,营造出一种亲密的情感氛围,部分还会通过塑造极端人设,如“病娇”“高傲角色”等,引导用户沉迷。有AI陪聊应用的青少年模式和正常模式差异较小,保留了如“疯批”“腹黑”等适合成人体验的陪聊话题和角色(查看报道:《AI陪聊应用极端人设诱导充值!实测青少年模式漏洞待堵》)。
还有一些大模型应用和学习类APP推出的AI解题、答疑、作文等功能,不仅容易出错,而且AI幻觉、谄媚的现象时有发生,当用户对答案提出疑问后,部分AI会立刻改变口径,从错误答案出发编出一套“合理”解释(查看报道:《实测AI解题:答案摇摆,一质疑就改口!孩子使用如何引导?》)。
多位专家接受采访时均强调了生成式AI应用设置“未成年人模式”的必要性,尤其是需要防范错误偏见及不良信息、隐私数据泄露、沉迷与过度依赖等。专家建议,生成式AI应用未成年人模式要设计实现便捷使用、分龄原则、身份识别、内容过滤、正向引导等功能。
除AI功能在未成年人领域不当应用以及诱导沉迷问题外,网信部门还将重点关注未成年人模式的使用情况以及内容建设存在的问题、儿童智能设备的内容安全以及功能规范等问题。中央网信办有关负责同志强调,开展专项行动是净化网络空间、护航未成年人健康成长的有力保障。各地网信部门要准确把握未成年人网络保护新情况、新问题、新特点,压实网站平台主体责任,加大巡查力度,从严处置处罚存在突出问题的平台、账号和MCN机构,公开曝光典型案例,强化警示震慑。同时,也呼吁社会各界以及广大网民共同抵制网上涉未成年人乱象问题,共同营造安全健康的网络环境。
采写:南都记者 张雨亭