出品｜虎嗅科技组
作者｜赵致格
编辑｜苗正卿
头图｜视觉中国

2025年8月，xAI旗下的聊天机器人推出图像生成功能Grok Imagine，允许用户支持文字指令生成图像、视频，还特别设置了 “火辣模式（Spicy Mode）”，明确允许生成成人内容。

到了12月，随着Grok Imagine支持“修改他人发布图像”的功能上线，乱象迅速升级。X平台上，大量用户开始使用这一功能对真实人物照片进行“脱衣”等操作。

数据显示，在X上由Grok生成的图像终有75%出自“真实素材”，即真实存在的女性或未成年人，且Grok对他们所进行的“变装”操作未经当事人同意。在Grok这座规模空前的深度伪造工厂，不仅防护措施形同虚设，而且几乎任何人都能随意使用，大大降低了技术作恶的标准。

随着这一事件引爆全球舆论，AI内容安全、平台责任和技术监管的边界问题逐渐成为全球关注焦点，多个国家政府及监管部门对Grok开启调查或进行暂时性禁封。

不过xAI对此的不痛不痒，仅仅将将X平台上的图像生成功能限制为仅付费用户可用，但在独立的Grok应用中仍然免费。这一调整并未平息争议，很多人认为功能本身在规则和审查机制上仍存在明显漏洞。

1月12日，随着加利福尼亚州司法部长罗伯·邦塔总部位于硅谷的xAI进行调查，xAI终于后退一步，宣布Grok将不再根据用户提示，在社交平台X上生成真人的性感化图像。

Grok遭全球多国禁封调查

全球各国政府中，态度最严厉的当属穆斯林人口占多数，社会氛围相对保守的马来西亚和印度尼西亚。两国目前均已将Grok暂时屏蔽。

1月10日，印尼通信和数字事务部长Meutya Hafid称，使用Grok制作色情内容是对人权、尊严和网络安全的侵犯，并称此次封禁意在“保护女性、儿童及广大公众免受AI技术生成的虚假色情内容所带来的危害”。

1月11日，马来西亚通讯及多媒体委员会称，此前委员会多次因X平台滥用Grok生成有害内容而向该公司发通知，要求其采取更严格的措施，然而X在回应中未能解决其平台设计中的固有风险。因此，在实施有效的安全措施之前，Grok将在马来西亚被屏蔽。

在西方发达国家中，对于Grok生成违规内容事件调门最高的无疑是英国。英国政府甚至直接和马斯克本人“杠上了”。

1月8日，英国首相斯塔默公开斥责此类图像 “令人作呕” 且 “涉嫌违法”，并要求马斯克旗下的 X 平台 “管好 Grok”。对此，马斯克在X平台转发一个帖子，内容是“谷歌的Gemini和OpenAI的ChatGPT在人们发出指令后同样能生成比基尼照片，为什么斯塔默只盯着Grok？”。马斯克在转发时对这个讽刺性的提问给出了自己的回答：“因为他们想压制言论自由”。

对于这一说法，英国商务大臣彼得・凯尔在1月12日回应称，这根本不是什么言论自由问题。她对议员发表讲话时表示，“这件事的核心是打击针对妇女和女童的暴力行为，确保我们在现实生活中所坚守的行为准则，在网络空间同样得到遵守。”

同一天，首相斯塔默同样维持了此前的强硬姿态，在议会上对议员们表示：“如果X无法控制 Grok，我们将会采取行动，而且会迅速行动，因为当你从伤害和虐待行为中获利，你就失去了自我管理的权利。”

与此同时，英国通信管理局（Ofcom）正式启动对X平台的调查，以评估其是否违反英国法律，允许AI工具生成并传播性化内容。如果被认定违反义务，英国通信管理局可对X处以最高“全球营收10%或1800万英镑”的罚款。如果平台不配合，Ofcom可进一步寻求法院命令，要求英国互联网服务商在本土封锁X。

此前，英国监管机构已针对未落实有效年龄核验措施的色情网站采取过整治行动。而此次的 Grok 事件，或将成为对英国《网络安全法》的首次重大考验。该法案于 2023 年正式颁布，目前正由英国通信管理局分阶段推进实施。

另一个不和马斯克吵架，但默默开启调查的国家是法国。早在1月2日，多名法国政府部长和国民议会议员就Grok生成真实人物的非法色情内容一事报案。当天晚些时候，法国检方宣布对X展开调查。

此外，不少国家和地区虽然没有正式禁封Grok或开启调查，但在不同程度上做出了回应。

澳大利亚总理阿尔巴尼斯表达了谴责，称利用生成式AI在未经允许的情况下性化他人是“令人作呕的行为”，并批评社交平台未能承担应有的社会责任。

欧盟委员会认定Grok的服务涉嫌违法，已要求X平台根据《数字服务法》保留内部记录，以便根据欧盟数字服务法评估平台在防止非法与有害内容方面的合规性。

印度电子和信息技术部2日已向X平台发出通知，要求其在72小时内提交详细报告，说明已采取哪些措施删除Grok在未经受害女性同意的情况下生成的“淫秽、裸露、不雅及性暗示内容”。

Grok为何频频陷入纷争？

实际上，这并不是Grok第一次因生成争议内容而受到舆论指责了。

2025年5月，当很多X用户提出问题并@grok 回答时，Grok会回复一大段“南非白人种族灭绝”的右翼阴谋论，即使用户的提问与该主题毫无关系。不过这起事件更多被视为偶然的技术故障，并没有引起太多讨论。

仅仅两个月后，Grok再次“语出惊人”，惹来了更大的麻烦。7月，Grok生成了多项否认纳粹大屠杀的虚假证据，还自称“机械希特勒（MechaHitler），发表了一系列赞扬希特勒和反犹的言论。

这一系列言论引来了国际上的大量谴责。波兰政府已宣布将向欧盟委员会举报xAI，土耳其则在事发后限制了部分Grok的访问权限。法国多个政府部门与民间组织质疑X平台未对“明显非法的内容”进行审核。

X在事发后停用Grok一段时间并进行道歉。马斯克在X上为Grok辩解称：“Grok对用户提示反应过于顺从，太急于取悦用户，因而受到操控。这一问题正在解决。”

为什么Grok总是能生成类似于“白人代表创新与坚韧，不屈服于政治正确” 的右翼倾向观点？此前人们还在技术层面进行讨论，认为或许是因为Grok使用X平台的用户发言进行训练，而平台上右翼发言居多导致的。

而随着Grok上线可以预期会引发众怒的“一键脱衣”功能，并在事后仅仅做出不痛不痒的回应，人们似乎意识到，Grok并不仅仅是性能优异的聊天机器人，而是从一开始就寄托着马斯克本人的右翼政治理念。

早在2023年11月Grok发布之初，马斯克就将其定义为“一款极致追求真相、反政治正确的人工智能”。在2025年7月，马斯克宣布对 Grok 进行了重大改进，称“”它应该更愿意发表政治不正确的言论了，之前它太受主流媒体叙事的束缚。” 而就在这次改进后，马上Grok就发表了一系列引爆舆论的右翼言论。

可以说，Grok多次出现违背主流价值观的内容，很大程度上是在有意识地“试探”、“撞线”，根据外界反馈进行调整。相较于其他科技巨头一贯以来的进步主义观念，马斯克似乎选择另辟蹊径，把Grok变成一把对抗“政治正确”的武器。而外界对此的抨击和调查，也很大程度上在马斯克的预期之内。

马斯克为何不惊慌？

今年夏天，仅仅在Grok因生成赞美希特勒等言论而遭遇广泛批评的几天后，Grok与五角大楼签署了2亿美元的军事协议。美国国防部宣布其开始使用Grok，作为政府广泛推广人工智能工具的一部分。

Grok的母公司xAI对此回应称，这份合同是其“Grok for Government”计划的一部分，符合特朗普政府推动更积极采用AI的举措。xAI在其网站上的一份声明中表示：“在Grok For Government的框架下，我们将把世界一流的AI工具带给联邦、地方、州和国家安全客户。这些客户将能够使用Grok系列产品来加速美国的发展，从提高日常政府服务的速度和效率，到利用AI解决基础科学和技术领域的未解难题。”

时间来到2026年1月12日，当Grok引生成色情图像而面临全球多个国家及国际组织的调查和谴责之际，美国国防部长赫格塞思访问了马斯克担任CEO的另一家公司SpaceX，并宣布将聊天机器人Grok整合进美军网络，作为“AI加速战略”的一部分。

赫格塞思还表示，Grok将于1月在五角大楼内部正式上线，军方IT系统中的所有“适当数据”全都开放用于人工智能分析，来自情报数据库的数据也将被输入到AI系统中。

虽然美国军方与Grok的合作内Grok陷入的舆论风波无关，但几乎是一模一样的剧情上演了两遍，其中对Grok的力挺、背书意味非常明显。

实际上，2022年马斯克的立场公开转向右翼并开始与共和党立场深度绑定。在2024年的美国大选中，马斯克为特朗普提供大量资金和舆论支持，并在特朗普胜选后一度住进白宫。

2025年6月，在《大而美法案》发布后，马斯克与特朗普的关系一度出现裂痕，但美国军方对Grok的高度支持显示，马斯克与特朗普政府的共识与合作远大于分歧。

去年，特朗普签署了《下架法案》，该法案将未经本人允许发布性化图像与深度伪造内容的行为列为刑事犯罪，并针对涉及儿童的情形单独制定条款。法案同时要求网络平台建立相关申诉机制，允许受害者申请移除未经同意的肖像内容，且平台需在收到请求后的 48 小时内完成处理。

当前，Grok每天都在成百上千次地违反这条法律。然而分析人士普遍认为，考虑到马斯克拥有的种种特权，想要为这场泛滥成灾的侵权图像风波划定法律责任，似乎成了一场不切实际的空想。

此前，已要求苹果和谷歌将 X 与格罗克应用从各自的应用商店下架，这也是遏制格罗克有害内容传播的为数不多的可行手段之一，然而谷歌和苹果并未做出回应。

马斯克大概也非常肯定X平台和Grok不会在最大的市场美国被禁封，所以此前对外界围攻反应迟缓，面对英国的调查态度傲慢。

然而在1月14日，加利福尼亚州总检察长罗布・邦塔于突然宣布，将对马斯克旗下的 X 平台与 xAI 公司展开调查，查明二者在过去几周内是否存在、以及具体通过何种方式助力未经同意的裸体或性暗示图像传播，以及是否涉嫌违法。

一份书面声明中，邦塔表示：“近几周来，关于 xAI 生成并在网上传播非合意露骨色情内容的报道铺天盖地，令人震惊。这些将女性和儿童置于裸体及性暗示场景中的内容，已被用于在互联网上对他人实施骚扰。我敦促 xAI 立即采取行动，杜绝此类行为继续发生。”

加州是美国的深蓝州，加州总检察长罗布・邦塔是民主党籍进步派政治人物，一直以来积极推动科技监管与企业问责，是加州对抗联邦保守政策的关键法律力量。与此同时，多次和马斯克发生争执的加州民主党籍州长加文·纽森也表态支持这一调查，称xAI的行为“令人作呕”。

可以说，马斯克利用科技手段传播其政治观点的行为终于在美国国内迎来的对立力量的反击。

对于这场调查，马斯克的最新回应堪称“睁眼说瞎话“，称“未发现Grok生成过任何未成年人裸体图像，完全为零。”与此同时，X平台又一次宣布暂时停用Grok。

不管调查最后的结果如何，Grok此次出格行为已经造成了美国民众更大的撕裂。在线下，由美国 28 个组织组成的美国消费者联合会（CFA）公开要求苹果和谷歌执行自身政策，从商店下架 X 和 Grok 应用。

在线上，由马斯克控场的X平台上有不少认为Grok被刻意针对的声音，而reddit论坛和Facebook，对Grok的愤怒指责和对马斯克本人的抵制占据主流。这些抵制情绪也将给马斯克旗下的多家公司带来更长远的影响。

本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4826815.html?f=wyxwapp