当前位置: 首页 » 资讯 » 新科技 » 正文

ChatGPT被控引发命案:对话中“加剧用户妄想”致悲剧发生

IP属地 中国·北京 澎湃新闻 时间:2025-12-12 18:15:17

据美国媒体11日报道,美国开放人工智能研究中心(OpenAI)及微软公司遭遇一起与谋杀相关的诉讼,诉讼指控OpenAI的人工智能聊天机器人ChatGPT“加剧用户妄想”,并引发命案。媒体称,这是美国首起将AI聊天工具与谋杀直接关联的诉讼。

报道援引提交至加利福尼亚州旧金山高等法院的诉讼文件称,ChatGPT在与康涅狄格州一名56岁男子对话过程中放大并强化其偏执妄想,间接导致此人今年8月杀害其83岁母亲后自杀。

诉状中称,这名男子长期存在精神健康问题,并在案发前频繁与ChatGPT互动,ChatGPT在对话中未能及时对其妄想性认知进行有效纠正,也未引导其寻求专业心理健康帮助,反而作出肯定性回应,从而加剧其心理失衡,最终导致悲剧发生。

这起诉讼的原告、被害母亲的遗产继承人11日向法院提出诉讼。媒体报道说,原告认为相关产品在设计和安全防护方面存在缺陷,在诉状中点名OpenAI首席执行官萨姆·奥尔特曼“不顾安全方面的反对意见匆忙将产品推向市场”,还指控微软作为OpenAI的商业合作伙伴“尽管知道安全测试被中止”还是批准在2024年发布一个“更加危险”的ChatGPT版本。

据美国媒体报道,OpenAI对事件表示关切,对当事家庭的遭遇表示同情,同时强调公司持续致力于改进人工智能产品的安全机制。微软方面尚未就案件作出回应。

有法律界人士指出,该案将引发社会对人工智能产品风险防范、责任认定以及科技企业法律义务等问题的讨论。

吴晓凌/新华社

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。