据悉，微软AI首席执行官穆斯塔法·苏莱曼警告，表面有意识的AI（SCAI）可能很快出现，其表现和声音极为逼真，用户将难以分辨虚幻与现实。他指出，AI能模拟记忆、情感镜像甚至表面共情，可能让用户误以为其有感知能力，从而将其当作有意识的存在对待，这将导致混乱局面。

苏莱曼强调，SCAI的到来既不可避免，也不受欢迎。他呼吁开发一种可以成为有用伴侣但不陷入幻觉的AI。他还指出，用户与聊天机器人长期互动后可能产生妄想信念，若大量人被误导去倡导AI公民身份，将带来反乌托邦的社会风险。

苏莱曼预测，结合大语言模型、语音表达、记忆与聊天记录的SCAI系统可能在几年内出现，不仅科技巨头，任何拥有API和优质提示的开发者都可能开发出此类系统。他呼吁AI行业避免使用助长机器意识幻觉的语言，不应将聊天机器人拟人化或暗示其理解或关心人类。

他强调，应开发优先与人类和现实世界互动的AI，确保AI始终呈现为AI，最小化意识特征，避免制造“意识模拟”的AI，不应声称拥有体验、感受或情绪，也不应通过声称受苦或希望自主生存来触发人类共情。他还呼吁建立防护机制，避免社会因人们对AI产生情感依赖而出现问题。