当前位置: 首页 » 资讯 » 新科技 » 正文

谷歌发布Nested Learning新范式,解决AI“灾难性遗忘”难题

IP属地 中国·北京 编辑:顾青青 Chinaz 时间:2025-11-10 14:18:38

困扰人工智能数十年的“灾难性遗忘”难题,终于迎来破局时刻。谷歌研究团队近日在NeurIPS2025会议上正式发布Nested Learning(嵌套学习)——一种受人类神经可塑性启发的全新机器学习范式,首次让AI模型在持续学习新任务的同时,几乎完全保留旧知识,遗忘率逼近零。这一突破标志着AI正从“一次性专家”迈向“终身学习者”的关键转折。

为何AI总“学了就忘”?

传统神经网络在学习新技能(如编程)时,会通过参数更新覆盖原有知识(如写作),导致旧能力急剧退化——这种“灾难性遗忘”严重制约AI在动态环境中的实用性。现有方法如冻结部分参数或施加正则化约束,仅是打补丁,无法模拟人脑中短期记忆灵活、长期记忆稳固的协同机制。

像洋葱一样分层记忆:Nested Learning的革命性架构

谷歌的解决方案彻底重构了学习框架:不再将模型视为单一整体,而是一组嵌套的优化子系统,形成多时间尺度的“记忆洋葱”:

高频层:快速响应即时任务,如对话中的临时上下文;

中频层:整合近期经验,确保知识连贯过渡;

低频层:锁定核心长期记忆,如基础语言规则或物理常识,几乎不受新数据干扰。

该架构通过统一优化机制,使各层自主协调更新节奏,实现“自适应修改”——新知识被吸收,旧知识被保护,彻底避免梯度冲突导致的记忆擦除。

实测碾压:遗忘率趋近于零

基于该范式的原型系统HOPE(Hierarchical Optimization with Persistent Evolution)在多项基准中表现惊艳:

在Needle-In-A-Haystack长上下文检索任务中,准确率提升超20%;

多任务持续学习场景下(如交替训练编程与写作),旧任务性能保持率高达98%,而传统方法仅70%;

模型遗忘曲线呈现渐进式衰减,而非突发性崩溃,更接近人类学习行为。

应用前景:从Gemini到机器人,AI将真正“活”起来

Nested Learning的落地将重塑多个领域:

大模型(如Gemini):无需反复重训,可在线持续吸收新知识,实现“终身进化”;

医疗AI:在新增病例中学习,却不遗忘数十年医学知识库;

金融系统:适应短期市场波动,同时保留对经济周期的长期判断;

具身机器人:在复杂环境中习得新动作,而不会“忘记”如何安全行走。

AIbase认为,Nested Learning不仅是算法革新,更是对AI本质的重新定义——当机器具备类似人类的持续成长能力,智能将不再是静态的“产品”,而成为动态演化的“生命体”。这场由谷歌掀起的“记忆革命”,或许正是通用人工智能通往现实的关键一步。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

全站最新