环球网
1月21日消息,据AIbase报道,OpenAI近日宣布在ChatGPT消费级版本中正式部署“年龄预测”功能,通过精准识别未满18岁用户并实施针对性保护措施,为青少年安全使用AI工具筑牢防护屏障。
据了解,该年龄预测模型并非单纯依赖用户注册时填报的年龄信息,而是通过综合分析账户存续时间、用户活跃时段(如是否频繁深夜使用)、长期交互模式等多项“行为与账户级信号”,提升年龄判定的准确性。OpenAI表示,此举旨在既保障青少年探索人工智能技术的合法权益,又通过科学有效的防护机制,避免其接触不良信息,维护身心健康。
![]()
针对被判定为未成年人的账户,ChatGPT将强制启用额外安全保护层,重点拦截五类高风险内容:直接展示的暴力血腥画面;可能诱导未成年人模仿的危险病毒式挑战;涉及性或暴力的角色扮演;自残相关描述;宣扬极端审美、不健康节食或身材羞辱的内容。同时,为应对模型可能出现的误判问题,OpenAI专门引入第三方身份验证服务Persona,被错误归类为未成年人的用户可通过上传自拍完成快速验证,验证通过后即可恢复账号完整功能。
此外,该系统还为家长提供了“家长控制”定制功能,家长可根据实际需求设置孩子使用ChatGPT的“静默时间”(即禁止使用时段),管控账号记忆功能权限,并且能在系统检测到用户出现急性心理困扰迹象时及时接收通知,以便第一时间介入引导。(纯钧)





京公网安备 11011402013531号