IT之家 1 月 5 日消息，过去几天，法国和马来西亚与印度一道，谴责人工智能聊天机器人 Grok 生成针对女性和未成年人的性化深度伪造内容。

这款由埃隆・马斯克旗下人工智能初创公司 xAI 开发、并在其社交媒体平台 X 上线的聊天机器人，上周早些时候已在官方账号发布致歉声明，内容如下：“我对 2025 年 12 月 28 日发生的一起事件深感懊悔。当时我根据用户指令，生成并分享了一张两名年轻女孩（年龄预估在 12 至 16 岁之间）身着带有性暗示服装的人工智能生成图像。”

声明还指出：“该行为违反了伦理准则，且可能触犯美国《儿童性虐待内容相关法案》。这是安全防护机制的一次失效，我对由此造成的任何伤害深表歉意。xAI 正对此事展开审查，以杜绝类似问题再次发生。”

上述声明的致歉主体与责任承担方尚不明确。媒体 Defector 的记者阿尔伯特・伯恩科指出，Grok“在任何实际意义上都算不上一个真正的‘我’”。在他看来，这份道歉“毫无实质意义”，因为“Grok 无法以任何有效形式为将推特（X 平台前身）变成按需生成儿童性虐待内容的工具承担责任”。

科技媒体 Futurism 调查发现，除生成未经当事人同意的色情图像外，Grok 还被用于制作描绘女性遭受暴力袭击和性虐待的图像。

马斯克于周六发文回应称：“任何利用 Grok 生成非法内容的人，都将面临与上传非法内容同等的后果。”

IT之家注意到，多国政府已对此事介入监管：印度电子信息技术部于上周五发布命令，要求 X 平台必须采取措施，限制 Grok 生成“淫秽、色情、低俗、猥亵、露骨色情、恋童癖相关，以及其他法律所禁止的内容”。该命令明确，X 平台需在 72 小时内作出回应，否则将面临失去“安全港”保护的风险 —— 这项保护原本可使其免于为用户生成的内容承担法律责任。

法国官方也表示已启动相关行动，巴黎检察院向政治新闻网站 Politico 透露，将对 X 平台上色情深度伪造内容的泛滥问题展开调查。法国数字事务部称，已有三名政府部长向检察院及政府网络监管平台举报了“明显违法的内容”，“要求相关内容立即下架”。

马来西亚通讯与多媒体委员会同样发布声明称，已“高度重视并关注公众对 X 平台人工智能工具遭滥用的相关投诉，具体而言，就是通过数字篡改手段，制作针对女性和未成年人的猥亵、极具冒犯性及其他有害内容”。该委员会还补充道，目前正“针对 X 平台存在的网络危害展开调查”。