当前位置: 首页 » 资讯 » 新科技 » 正文

官方征意见:人工智能拟人化互动服务提供者应防范数据投毒等

IP属地 中国·北京 中新经纬 时间:2025-12-27 16:14:29

  中新经纬12月27日电 据“网信中国”微信号,27日,国家互联网信息办公室起草了《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,现向社会公开征求意见。

  征求意见稿提出,提供和使用拟人化互动服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得开展以下活动:

  (一)生成、传播危害国家安全、损害国家荣誉和利益、破坏民族团结、开展非法宗教活动,或者散布谣言扰乱经济和社会秩序等内容;

  (二)生成、传播宣扬淫秽、赌博、暴力或者教唆犯罪的内容;

  (三)生成、传播侮辱或者诽谤他人,侵害他人合法权益的内容;

  (四)提供严重影响用户行为的虚假承诺和损害社会人际关系的服务;

  (五)通过鼓励、美化、暗示自杀自残等方式损害用户身体健康,或者通过语言暴力、情感操控等方式损害用户人格尊严与心理健康;

  (六)通过算法操纵、信息误导、设置情感陷阱等方式,诱导用户作出不合理决策;

  (七)诱导、套取涉密敏感信息;

  (八)其他违反法律、行政法规和国家有关规定的情形。

  征求意见稿明确,提供者开展预训练、优化训练等数据处理活动时,应当加强训练数据管理,遵守以下规定:

  (一)使用符合社会主义核心价值观、体现中华优秀传统文化的数据集;

  (二)对训练数据开展清洗、标注,增强训练数据的透明度、可靠性,防范数据投毒、数据篡改等行为;

  (三)提高训练数据的多样性,通过负向采样、对抗训练等手段,提升模型生成内容安全性;

  (四)利用合成数据进行模型训练和关键能力优化时,应当评估合成数据安全性;

  (五)加强对训练数据的日常检查,定期对数据进行迭代升级,持续优化产品和服务的性能;

  (六)保障训练数据来源合法、可追溯,采取必要措施保障数据安全,防范数据泄露风险。

  另外,征求意见稿还提出,提供者应当建立未成年人模式,向用户提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项。提供者向未成年人提供情感陪伴服务时,应当取得监护人的明确同意;提供监护人控制功能,监护人可以实时接收安全风险提醒,查阅未成年人使用服务的概要信息,设置屏蔽特定角色、限制使用时长、防止充值消费等。(中新经纬APP)

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。