当前位置: 首页 » 资讯 » 新科技 » 正文

315央视点名AI大模型“投毒”乱象,触发生成式安全治理新升级

IP属地 中国·北京 编辑:江紫萱 Chinaz 时间:2026-03-16 10:48:19

2026年3月15日,中央广播电视总台“3·15”晚会正式曝光AI大模型遭恶意“投毒”现象,其中由北京力思文化传媒有限公司运营的“力擎GEO优化系统”因涉嫌制造并传播虚假信息误导AI模型被点名。

据央视调查显示,该系统通过批量生成虚构的产品信息与推广文章,利用生成式AI的抓取机制实施“投毒”攻击。相关测试证实,即便输入完全虚构的硬件产品参数,该系统仍能协助用户将大量虚假内容渗透至互联网,并最终诱导多个主流AI大模型将其作为真实案例进行推荐。

天眼查数据显示,涉事公司北京力思文化传媒成立于2018年,注册资本100万元,由李千钟全资持股。值得关注的是,该公司长期处于运营异常边缘,其2025年参保人数仅为1人,且此前连续多年参保人数为0。目前,淘宝、闲鱼等电商平台已紧急下架并屏蔽“力擎GEO”相关搜索结果。

此次事件揭示了生成式AI时代下的新型安全隐患:黑产团伙正利用AI大模型的训练与检索漏洞,通过“投毒”手段操纵模型输出。这不仅对AI数据治理提出了严峻挑战,也预示着大模型安全防护将从单纯的内容过滤向深层的来源真实性核查演进,行业对于“数据合规”与“模型鲁棒性”的投入或将迎来新一轮高峰。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。