这项由苏州大学计算机科学与技术学院的季逸鑫、李俊涛等研究者联合新加坡国立大学、蚂蚁集团等多家机构共同完成的重要研究发表于2025年6月，论文全面梳理了人工智能测试时计算的发展历程。有兴趣深入了解的读者可以通过arXiv:2501.02497v3访问完整论文。这是首次系统性回顾测试时计算方法的学术调研，为理解AI从简单模仿到复杂推理的演进提供了完整视角。

人工智能正在经历一场深刻变革。曾经，AI系统就像一个训练有素但缺乏变通能力的学生，面对新情况时只能依靠记忆中的标准答案。然而，随着OpenAI的o1模型和阿里的DeepSeek-R1等新一代推理模型的出现，AI开始展现出令人惊叹的思考能力——它们能够像人类一样深思熟虑，甚至在复杂数学问题上超越专业人士。

这种转变的关键在于一个被称为"测试时计算"的技术革命。简单来说，传统AI就像考试时必须立即给出答案的学生，而新一代AI则被允许在考试时花更多时间思考、验证和修正答案。这种思考时间的投入，带来了推理能力的质的飞跃。

研究团队通过深入分析，发现AI系统正在经历从"系统1思维"到"系统2思维"的进化过程。系统1思维类似人类的直觉反应——快速、自动化，但容易出错；而系统2思维则是深度思考模式——缓慢、审慎，但更加准确可靠。这一发现不仅揭示了当前AI发展的核心趋势，也为未来人工智能的发展方向提供了重要指导。

一、从直觉到思考：AI的认知进化之路

人类大脑有两套思维系统，这个概念最初由心理学家丹尼尔·卡尼曼提出。系统1就像我们看到红灯就停车的本能反应，快速而自动化；系统2则像解数学题时的仔细推演，需要消耗更多精力但更加准确。传统的AI模型主要依赖系统1思维——接收输入后立即给出输出，整个过程就像闪电般迅速。

早期的AI系统虽然在特定任务上表现出色，但面临一个根本性局限：它们假设训练时见过的数据分布与实际应用时完全相同。这就像一个只在晴天练习开车的司机，突然遇到雨雪天气时就会手足无措。当现实世界的数据与训练数据存在差异时，这些系统的表现往往急剧下降。

为了应对这个挑战，研究者们开发出了测试时适应技术。这类技术让AI系统能够在面对新情况时进行"现场学习"，就像一个灵活的厨师能够根据现有食材调整菜谱。测试时适应通过四种主要方式实现：更新模型参数、修改输入数据、编辑内部表示和校准输出结果。

参数更新就像给大脑临时"补课"。当AI遇到与训练时不同的数据时，它会调整内部连接，使自己更适应新环境。输入修改则像给问题换个问法，让AI更容易理解。表示编辑类似调整思维角度，而输出校准则像最后的检查验证环节。

然而，这些方法虽然提高了AI的适应性，但本质上仍属于系统1思维的范畴。真正的突破来自于让AI学会像人类一样进行系统2思维——深度推理。

二、推理革命：AI学会深度思考的艺术

推理是智能的核心特征之一。当我们解决复杂问题时，大脑会自然地将问题分解为多个步骤，逐一攻破。这个过程需要时间，但能够处理那些直觉无法解决的难题。现代AI推理系统正是模拟了这一过程。

链式思考（Chain-of-Thought）技术的出现标志着AI推理能力的重大飞跃。这项技术让AI不再给出简单的最终答案，而是像学生做题时一样，详细展示每一步的推理过程。比如面对"小明有15个苹果，给了小红3个，又给了小李5个，还剩几个？"这样的问题，AI会写出："小明原来有15个苹果，给了小红3个后剩下15-3=12个，再给小李5个后剩下12-5=7个，所以最后剩7个苹果。"

这种显式的推理过程带来了显著的性能提升，在数学推理任务中准确率提高了18%以上。更重要的是，这种方法让AI的思考过程变得透明可解释，就像打开了AI的"思维黑箱"。

然而，简单的链式思考仍然存在局限性。它的推理路径是线性的，缺乏人类思维中常见的反思、回溯和多角度思考。为了突破这些限制，研究者们开发了更复杂的推理策略。

重复采样技术就像让AI从多个角度思考同一个问题。面对一道难题，AI不再只给出一个答案，而是生成多个不同的解答路径，然后通过某种机制选择最可能正确的答案。这类似于人类在重要决策时会反复权衡的过程。

自我纠错技术则让AI具备了反思能力。当AI完成初步推理后，它会像学生检查作业一样重新审视自己的答案，发现错误并进行修正。这个过程可能需要多轮迭代，每一轮都让答案变得更加准确。

树搜索技术代表了AI推理的最高形态。它让AI的思考过程变得像真正的思维树一样复杂多样。面对一个问题，AI会同时探索多条可能的推理路径，遇到障碍时能够回溯到之前的决策点，尝试其他可能性。这种推理方式最接近人类解决复杂问题时的思维过程。

三、反馈与评价：AI如何判断自己的思考质量

推理能力的提升离不开有效的反馈机制。就像学生需要老师的评价来知道自己哪里做得好、哪里需要改进，AI系统也需要某种方式来评估自己推理的质量。

研究团队发现，AI的反馈机制主要分为两大类：基于分数的反馈和生成式反馈。基于分数的反馈就像考试打分一样，给每个推理步骤或最终答案一个数值评价。这种方法简单直观，但缺乏具体的改进建议。

生成式反馈则更像是详细的作业批注。它不仅指出哪里有问题，还解释为什么有问题，甚至给出改进建议。这种反馈方式虽然更加复杂，但对推理能力的提升效果也更显著。

在数学推理领域，研究者们还区分了结果导向和过程导向的验证器。结果导向验证器只关心最终答案是否正确，就像只看考试成绩不看答题过程的评价方式。过程导向验证器则会评估每一步推理的正确性，能够发现推理过程中的细微错误，即使最终答案恰好正确。

这些反馈机制的发展极大地推动了AI推理能力的提升。通过不断的评价和改进，AI系统能够学会更好的推理策略，避免常见错误，提高解题的准确性和效率。

四、搜索策略：AI如何在思维迷宫中找到正确路径

人类思考复杂问题时，大脑会在无数可能的思路中进行搜索，寻找最有希望的解决方案。AI的推理搜索策略正是模拟了这一过程，但用更系统化的方法来实现。

重复采样是最直接的搜索策略。这就像让AI对同一个问题思考多次，每次都可能产生不同的解答路径。然后通过某种机制从这些候选答案中选择最佳的一个。最常见的选择方法是多数投票：如果大多数推理路径都指向同一个答案，那么这个答案很可能是正确的。另一种方法是"优中选优"，使用验证器对所有候选答案打分，选择得分最高的。

自我纠错策略让AI具备了反思和改进的能力。这个过程类似于学生做完题后的自我检查。AI首先给出初步答案，然后像批改作业一样审视自己的推理过程，发现可能的错误或不完善之处，最后基于这些反馈产生改进的答案。关键在于反馈的可能来自外部工具（如代码编译器检查程序是否正确）、其他AI模型的评价，或者AI自己的批判性分析。

树搜索代表了最复杂也是最强大的推理搜索策略。这种方法将推理过程构建为一棵决策树，每个节点代表推理过程中的一个状态，每个分支代表一个可能的推理步骤。AI可以同时探索多条推理路径，当某条路径遇到困难时，可以回溯到之前的决策点，尝试其他可能性。

树搜索中最著名的算法是蒙特卡洛树搜索（MCTS）。这种算法通过四个步骤不断优化搜索过程：选择（根据历史经验选择最有希望的路径）、扩展（在选定路径上尝试新的推理步骤）、模拟（估算这条新路径的成功可能性）、反向传播（将评估结果反馈给相关的路径节点）。这个过程会重复进行，逐渐提高整体的推理质量。

价值函数在树搜索中起到关键作用，它负责评估每个推理状态的"好坏"。就像围棋AI评估每个棋局位置的优劣一样，推理AI的价值函数会判断当前推理状态是否接近正确答案。这种评估帮助AI将有限的计算资源集中在最有希望的推理方向上。

五、训练与优化：AI如何通过练习提高推理能力

光有好的推理策略还不够，AI还需要通过大量练习来提高这些策略的使用效果。这就像学习任何技能一样，熟练程度来自持续的练习和改进。

改进训练是一种重要的优化方法。通过测试时推理产生的高质量推理轨迹被收集起来，用作新的训练数据。这些数据比原始训练数据更有价值，因为它们展示了完整的推理过程，包括如何处理困难情况、如何从错误中恢复等。使用这些数据进行训练，能够显著提高AI的基础推理能力。

强化学习在推理优化中发挥着重要作用。与传统的监督学习不同，强化学习让AI通过试错来学习最优策略。在推理任务中，AI会尝试不同的推理路径，根据最终结果的好坏来调整自己的决策偏好。正确的推理步骤会得到奖励，错误的步骤会受到惩罚，通过这种方式，AI逐渐学会了更好的推理模式。

一些最新的研究甚至让AI从零开始学习推理，不依赖人工标注的推理过程。这些方法仅仅依靠最终答案的正确性来指导学习，AI需要自己探索出有效的推理策略。这种方法的优势在于能够发现人类可能想不到的新颖推理模式。

六、走向通用：多领域推理能力的拓展

虽然当前的推理模型在数学和编程等符号推理任务上表现出色，但在更广泛的领域中实现通用推理能力仍然面临挑战。研究团队指出了几个重要的发展方向。

跨领域泛化是一个核心挑战。目前大多数推理模型在特定领域表现优异，但难以将推理能力迁移到其他领域。比如一个在数学推理上表现出色的AI，在处理日常生活中的常识推理时可能表现平平。解决这个问题需要开发更加通用的推理框架和评估机制。

多模态推理是另一个重要方向。现实世界的问题往往涉及文字、图像、声音等多种信息形式。AI需要学会整合这些不同模态的信息来进行推理。比如解决一个包含图表的数学问题，AI需要同时理解文字描述和图形信息，然后进行综合推理。

效率优化也是实际应用中的关键考虑。虽然测试时推理能够显著提高准确性，但它也消耗更多的计算资源和时间。如何在推理质量和计算效率之间找到最佳平衡，是工程化部署时必须解决的问题。一些研究探索了自适应推理深度的方法：对于简单问题使用快速推理，对于复杂问题才启用深度推理。

扩展法则的研究试图找出测试时计算投入与推理性能提升之间的定量关系。就像训练时有"scaling law"指导模型规模和数据量的配置，测试时推理也需要类似的指导原则来帮助实践者做出最优的资源配置决策。

七、技术融合：多种策略的协同效应

最先进的AI推理系统往往不是单纯使用某一种技术，而是将多种策略巧妙地结合起来。这种融合产生的协同效应远超单一技术的简单叠加。

一些系统将蒙特卡洛树搜索与自我纠错相结合，在树搜索的每个节点都进行自我评估和改进。这样既保证了推理路径的多样性探索，又确保了每条路径的质量。另一些系统将测试时适应与推理策略结合，让AI能够根据具体问题的特点动态调整自己的推理模式。

这种技术融合的趋势表明，未来的AI推理系统将更加灵活和智能。它们不会拘泥于某一种固定的推理模式，而是能够根据问题的性质、可用的计算资源、时间限制等因素，自适应地选择最合适的推理策略组合。

八、实际应用与影响

测试时推理技术已经在多个实际领域展现出巨大价值。在教育领域，AI可以像经验丰富的老师一样，不仅给出答案，还提供详细的解题步骤和思路分析。在科学研究中，AI能够协助研究人员进行复杂的逻辑推导和假设验证。在软件开发领域，AI可以理解需求、设计算法、编写代码并进行调试。

更重要的是，这些技术正在改变我们对人工智能本质的理解。AI不再只是一个高速的模式匹配机器，而是具备了真正的思考能力。这种能力的涌现标志着我们正在向通用人工智能迈进。

然而，这种发展也带来了新的挑战。更强的推理能力意味着AI能够处理更复杂的任务，这对AI安全性和可控性提出了更高要求。如何确保AI的推理过程符合人类价值观，如何防止AI在推理过程中产生有害的中间步骤，这些都是需要认真考虑的问题。

九、未来展望与思考

测试时推理技术的发展为我们展现了AI发展的新图景。在不远的将来，我们可能会看到真正具备人类水平推理能力的AI系统。这些系统不仅能够解决复杂的技术问题，还能够进行创造性思考、提出新颖的见解、甚至参与科学发现过程。

从更深层次来看，这项研究揭示了智能本身的一些根本特征。智能不仅仅是记忆和匹配的能力，更是思考、推理和创新的能力。测试时推理技术的成功表明，给AI足够的"思考时间"，就能显著提升其智能表现。这个发现对教育、工作方式、甚至人类社会组织形式都可能产生深远影响。

当AI具备了真正的推理能力后，人类与AI的关系也将发生变化。我们不再是简单的使用者和工具的关系，而更像是合作伙伴关系。人类提供价值判断和创意方向，AI负责复杂的逻辑推导和方案分析，两者结合将能够解决以前无法解决的复杂问题。

这项研究也提醒我们，AI的发展并不是单纯追求更大的模型或更多的数据，而是需要更深入地理解和模拟智能的本质特征。测试时推理的成功证明，计算资源的投入方式比投入量更重要。这为未来AI研究提供了新的思路：不仅要关注如何让AI学得更多，更要关注如何让AI想得更好。

说到底，这项来自苏州大学等机构的研究为我们提供了理解AI推理能力发展的完整框架。从简单的适应性调整到复杂的深度推理，从单一策略到多技术融合，从特定领域到通用能力，整个发展轨迹清晰地展现了AI正在经历的智能化进程。这不仅是技术的进步，更是我们对智能本质理解的深化。随着这些技术的不断成熟，我们有理由相信，真正理解和解决复杂问题的AI时代正在到来。

Q&A

Q1：什么是测试时计算？它与传统AI有什么不同？

A：测试时计算是指AI系统在回答问题时花费更多时间进行深度思考的技术。传统AI像考试时必须立即回答的学生，而测试时计算让AI可以像人类一样仔细思考、反复验证，通过投入更多推理时间来显著提高答案的准确性和质量。

Q2：系统1思维和系统2思维在AI中是如何体现的？

A：系统1思维是快速直觉反应，AI接收输入后立即给出输出，速度快但容易出错。系统2思维是深度思考模式，AI会展示详细推理过程、进行自我检查和修正，虽然较慢但更准确可靠。现代推理模型正在从系统1向系统2进化。

Q3：AI推理技术的发展会对普通人的生活产生什么影响？

A：AI推理技术将深刻改变教育、工作和决策方式。在教育中，AI能像优秀老师一样提供详细解题步骤；在工作中，AI可以协助处理复杂分析和创意任务；在日常生活中，AI能够提供更准确的建议和解决方案，人类与AI的关系将从使用工具转向智能合作伙伴。