近日,约翰・霍普金斯大学推出了一种名为 EGO-prompt 的框架,该框架显著提高了小型语言模型在专业领域任务中的表现,性能提升近50%,同时将成本降低了83%。这一创新的框架主要用于解决专业领域任务,如医疗诊断和交通管理,使得小型 AI 模型能够媲美大型推理模型。
在实际应用中,设计合适的提示词是一个挑战,这不仅需要融入专业领域知识,还要确保 AI 能有效推理并提炼关键信息。EGO-prompt 框架的核心在于它能自动生成优化的提示词,并结合因果逻辑帮助 AI 像人类一样分步思考。
该框架从专家提供的简单提示和因果关系图开始,经过自动优化,生成具体推理指引,使 AI 的思考更为清晰。这一过程通过真实数据反复调整因果图和提示词,直到达到最佳效果。此外,EGO-prompt 还能提升模型的可解释性,让用户更容易理解 AI 的判断依据。
与之前的最佳方法相比,EGO-prompt 的 F1分数平均提高了7.32% 到12.61%。使用这一框架的小型 AI 模型,能够在成本低至原有的20% 下,达到大型 AI 模型的效果。这种动态的知识进化方式,使得专家知识不再是静态的,而是与模型共同成长。
EGO-prompt 的创新之处在于将专家知识从静态图谱转变为语义因果图(Semantic Causal Graph, SCG),并允许初始图谱存在一定的不完美。这种容错设计使得优化过程更为灵活,从而避免了模型在生成过程中可能出现的语义漂移。
EGO-prompt 通过精巧的两阶段推理机制,将推理过程分解为指导生成和条件推理两个步骤,极大降低了模型的认知负荷,使其在处理复杂的专业领域数据时更加高效。
github:https://github.com/miemieyanga/EGO-prompt
划重点:
-





京公网安备 11011402013531号