综合美国有线电视新闻网、英国广播公司等外媒1月12日报道，近两日，印度尼西亚和马来西亚已先后宣布禁止国内对马斯克旗下大模型Grok的访问，理由是大量用户通过该模型来伪造色情图像。

这两个国家也成为首批因“深度伪造”（deepfake）而对AI采取封禁措施的国家。

1月10日，印度尼西亚数字部长梅乌蒂亚·哈菲德（Meutya Hafid）在一份声明中解释道，此项禁令旨在“保护妇女、儿童及广大公众免受利用人工智能技术生成的虚假色情内容的风险。”

马来西亚也于11日宣布实施临时禁令，原因是“Grok被滥用于生成淫秽、露骨色情、不雅、极具冒犯性且未经同意的伪造图像，其中包括涉及妇女和未成年人的内容。”

此次封禁的导火索是近期在社交媒体平台X（原Twitter）上引发的一股热潮——大量用户利用Grok的图像生成与编辑功能，将真实女性甚至未成年人的照片恶意篡改为裸露或穿着暴露的图像。

许多遭到冒犯的网友纷纷发声并将矛头指向马斯克，要求他加大对Grok的管控。

一位名为基拉娜·阿尤宁蒂亚斯的印尼残障人士向BBC表示，有陌生人利用Grok篡改了她坐在轮椅上的照片，生成了她身穿比基尼的图像。尽管她尝试调整隐私设置并向平台投诉，但收效甚微。

此前，马斯克和xAI曾表示，他们正在通过永久封禁违规账户以及“与当地政府和执法部门合作”来解决这一问题。然而，X平台仍然充斥着此类图像。有消息人士向CNN透露称，马斯克在xAI内部一直抵制为Grok设置审查和安全防护机制。

目前，X平台及马斯克方面尚未就印尼和马来西亚的封禁做出正式回应。

除前述两个国家之外，利用Grok生成裸露图片的行为也遭到了英国首相斯塔默的谴责。斯塔默曾批评这种行为“可耻”和“令人作呕”。

英国科技大臣利兹·肯德尔也呼吁采取迅速行动，打击深度伪造图像。她表示，英国的《在线安全法案》“包含如果服务商拒绝遵守英国法律，可以封锁其在英国被访问的权力”，如果英国通信管理局（Ofcom）决定封锁马斯克的社交媒体网站，她将予以支持。

本文系观察者网独家稿件，未经授权，不得转载。