当前位置: 首页 » 资讯 » 新科技 » 正文

Meta 甩出“白盒手术刀”:CoT-Verifier 把 AI 推理失误钉在归因图上

IP属地 中国·北京 编辑:钟景轩 Chinaz 时间:2025-11-28 14:21:33

meta AI 实验室今天把 Llama3.1改造成推理“X 光机”——新模型 CoT-Verifier 正式登陆 Hugging Face,专门剖开链式思维(CoT)每一步的“电路轨迹”,让错误不再躲在黑箱里。

传统验证只看输出对不对,meta 换了个视角:先给模型跑一次前向,再把每一步的归因图(attribution graph)抽出来。团队发现,正确与错误推理的图结构差异极大,就像两条形状完全不同的电路板。用轻量级分类器在这些“图特征”上训练,错误步骤的预测准确率直接飙到 SOTA,且不同任务(数学、逻辑、常识)各自有独特的“故障图谱”,说明推理失败并非随机噪声,而是可量化、可分类的计算模式。

更关键的是,归因图不仅能“诊断”,还能“动刀”。meta 在实验里对高可疑节点做定向消融或权重偏移,成功把 Llama3.1在 MATH 数据集上的准确率再提4.2个百分点,而无需重新训练主干。换句话说,CoT-Verifier 把推理纠错从“事后复盘”变成“术中导航”。

模型已开源,脚本一键复现。开发者只需把待验证的 CoT 路径喂给 Verifier,就能拿到每一步的“结构异常分”,并定位最可能出错的上游节点。meta 在论文结尾放话:下一步把同样的图干预思路搬到代码生成、多模态推理,让“白盒手术”成为 LLM 的新标配。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。