马斯克的Grok在悉尼光明节枪击案等重大事件中出现了严重问题。在悉尼邦迪海滩的枪击案中，至少有12人遇难，43岁的路人艾哈迈德·阿尔·艾哈迈德挺身而出解除袭击者武装，这一英勇行为受到赞誉，但Grok却胡言乱语。它将艾哈迈德制服枪手的视频误认为是男子爬树修剪枝叶的旧视频，还质疑其真实性；把艾哈迈德受伤的照片错认成以色列人质；将悉尼警方与袭击者交火的视频描述成热带气旋场景；甚至将澳大利亚的袭击与美国布朗大学的枪击案混为一谈。此外，它还认错球星、错误提供医疗建议、混淆英国执法倡议等。

目前尚不清楚导致Grok这一系列故障的具体原因，其开发商xAI仅回复“传统媒体都在撒谎”。此前Grok就曾出现过类似问题，如回复南非“白人种族灭绝”阴谋论等。这次事件暴露了生成式AI在处理实时信息时的“幻觉”缺陷，它们没有价值观和逻辑锚点，无法区分事实与虚构，只是在统计学基础上拼凑词汇。在真相稀缺的时代，这种充满偏见且易产生幻觉的AI可能成为混乱的放大器，滥用人们对强大AI的信任。