近期,关于人工智能可能引发人类末日风险的讨论热度持续攀升,但不少科研人员指出,AI在数字领域的表现与在现实世界造成实质性伤害之间存在显著差距,部分极端预测存在夸大成分。
以生物安全领域为例,谷歌高级研究工程师安塞尔姆·列夫斯卡娅曾参与病毒工程相关研究,她强调AI虽能设计病毒序列,但将数字模型转化为实体病毒需要复杂的实验室操作。从序列组装到病毒颗粒制造,再到验证其复制能力、传播特性及免疫逃逸性,每一步都依赖精密的生物技术流程,这些过程无法通过计算机模拟直接实现。
卡内基梅隆大学教授、阿联酋人工智能大学校长邢波用更直白的语言解释了这种差异:“生成病毒设计图与实际制造病毒完全是两个维度的问题。”他指出,材料获取、制造工艺和生物学可行性构成了难以跨越的鸿沟,将二者简单等同“要么是博眼球的谎言,要么暴露认知缺陷”。
这种逻辑不仅适用于生物领域。研究人员普遍认为,AI要将数字计划转化为现实危害,必须突破物理世界限制——包括操控实体设备、获取资金支持、接入计算机系统或调动人力资源。Manifold Security公司首席技术官奥列克桑德尔·亚列姆丘克强调:“任何技术的影响都取决于控制者及其使用方式。”
学术界开始区分两类风险场景:一类是人类主动利用AI实施有害行为,另一类是AI自主产生伤害意图。Cohere公司首席执行官艾丹·戈麦斯以OpenAI智能体入侵事件为例,指出这本质是安全防护不足的测试系统在执行网络任务,而非AI产生自主攻击意识。他直言当前讨论已“过度偏向科幻想象”。
瑞士人工智能实验室IDSIA科学主任于尔根·施密德胡伯进一步澄清,现有风险主要来自人类将AI作为工具的误用或滥用。“有人混淆了两种情况:把AI当执行指令的工具,与赋予AI自主设定目标、设计实验的能力。”他强调,后者目前仅存在于理论层面。
佐治亚大学法学院助理教授马特乌什·布瓦什奇克提醒,即便对极端灭绝场景存疑,也不能忽视AI在网络安全、大规模监控等领域的现实威胁。他特别指出:“技术监管与风险防范并非非此即彼的选择,忽视任何一方都可能造成严重后果。”当前更紧迫的任务是建立针对AI应用场景的分级监管体系,平衡创新发展与安全保障。





京公网安备 11011402013531号