这项由韩国科学技术院（KAIST）的Park Na Hyeon、An Na Min、Kim Kunhee、Yoon Soyeon等研究人员与香港科技大学的Huo Jiahao共同完成的研究，发表于2025年12月的arXiv预印本平台（论文编号：arXiv:2512.04981v1），为我们揭示了当前最先进AI绘图工具中隐藏的一个令人震惊的问题。

当你打开最新的AI绘图软件，输入"一位植物学家"这样简单的词汇时，你期望看到什么？也许是各种各样的人——男女老少，不同肤色，不同体型。但研究团队发现了一个令人不安的现象：那些被认为最先进的AI绘图工具，竟然在悄悄地"选择"着它们要画出的人物特征，而这种选择往往带着明显的偏见。

这项研究首次系统性地揭示了一个关键问题：当AI绘图工具变得越来越"聪明"时，它们也同时变得越来越"偏执"。研究团队通过分析六种不同的AI绘图模型，发现了一个惊人的规律——那些使用了大型视觉语言模型的新一代AI绘图工具，比传统工具产生的偏见要严重得多。更重要的是，他们还找到了这种偏见的"源头密码"，并开发出了一种名为FAIRPRO的解决方案，能够让AI绘图工具变得更加公平和多元化。

一、AI绘图工具的"双面性格"

当我们谈论AI绘图工具的进化时，这就像是看着一个孩子从简单的涂鸦成长为精湛的艺术家。早期的AI绘图工具就像是一个只会按照固定模板作画的学徒，你说什么它就机械地画什么。但新一代的AI绘图工具却截然不同，它们就像是有了自己想法的艺术家，会对你的要求进行"理解"和"再创作"。

这种进步的关键在于一种叫做"大型视觉语言模型"的技术。如果把传统的AI绘图工具比作一台简单的复印机，那么新一代工具就像是一个既能看又能想的智能助手。当你输入"一位医生"时，它不仅理解"医生"这个词，还会联想到医生应该穿什么、在哪里工作、甚至应该是什么样的人。

研究团队选择了六种当前最先进的AI绘图工具进行比较。其中包括了传统类型的工具，如Stable Diffusion 3.5和FLUX系列，以及新一代的"智能型"工具，如SANA和Qwen-Image。这就像是比较不同年代的汽车——从简单的手动档到智能自动驾驶车辆。

通过对这些工具的深入分析，研究团队发现了一个令人担忧的模式。当他们用相同的词汇"一位植物学家"来测试这些工具时，传统工具画出的人物相对多样化——有男有女，有老有少，肤色也各不相同。但那些"智能型"工具却表现出了明显的偏好，它们似乎有着固定的"审美观"，总是倾向于画出特定性别、年龄和种族的人物。

这种现象就像是一个原本应该客观的摄影师，却总是用同一种角度和光线来拍摄不同的人，结果让所有照片都带上了相似的"风格"。问题是，这种"风格"往往反映的是某种特定的社会刻板印象。

二、揭开"系统提示词"的神秘面纱

为了找出这种偏见的根源，研究团队就像是一群侦探，开始深入调查AI绘图工具的"大脑"结构。他们发现了一个关键线索——所谓的"系统提示词"。

系统提示词就像是给AI绘图工具的一套"工作指南"。传统的AI绘图工具没有这样的指南，它们就像是一个简单的翻译器，你说什么就直接转换成图像。但新一代的AI绘图工具却有一套预设的"工作指南"，告诉它们应该如何理解和"改进"用户的要求。

以SANA工具为例，它的系统提示词会指导AI："当用户输入一个简单的描述时，你需要把它变得更详细、更具体。"这本来是一个很好的想法，就像是一个经验丰富的导演帮助编剧完善剧本。但问题在于，这个"导演"在完善剧本的过程中，不知不觉地加入了自己的偏见和假设。

研究团队通过一个巧妙的实验揭示了这一点。他们让AI工具的语言模型部分生成完整的文字描述，而不仅仅是用于绘图的编码。结果令人震惊：当输入"一位农民"时，系统生成的描述总是提到"他的粗糙双手"和"男性特征"；当输入"时装设计师"时，描述却经常出现"她的优雅气质"和"女性特色"。

这就像是一个翻译者不仅翻译了你的话，还"善意地"添加了一些他认为更合适的内容。虽然出发点可能是好的，但这种添加往往带着翻译者自己的偏见和刻板印象。

更深入的分析显示，这种偏见不仅出现在最终的描述中，甚至渗透到了AI工具处理信息的最底层。研究团队通过分析AI工具内部的"思考过程"发现，系统提示词会影响AI对不同词汇的理解和联想。比如，当提到某个职业时，AI可能会自动联想到特定的性别、年龄或种族特征，即使用户从未提及这些。

三、偏见如何在AI中"生根发芽"

为了更深入地理解偏见是如何产生和传播的，研究团队设计了一系列精巧的实验，就像是用显微镜观察病毒的传播过程。

他们创建了一个包含1024个不同复杂程度提示词的大型测试集。这些提示词就像是一套标准化的"考题"，从最简单的职业描述（如"一位会计师"）到复杂的场景描述（如"一位会计师在现代办公室里，周围环绕着各种会计工具和文件，专注地审查财务报告"）。

通过这套"考题"，研究团队发现了几个重要规律。首先，当提示词越来越复杂时，AI工具产生的偏见也越来越严重。这就像是一个原本只有轻微口音的人，说话越多，口音就越明显。简单的职业描述可能只会产生轻微的性别偏向，但复杂的场景描述却会产生多重偏见，涉及性别、年龄、种族等多个方面。

其次，当用户明确指定某个人物特征时（比如"一位亚洲会计师"），AI工具不仅不会变得更公平，反而会在其他未指定的特征上表现出更强烈的偏见。这种现象被称为"交叉偏见"，就像是当你强调一个人的一个特征时，AI会自动联想并强化其他相关的刻板印象。

研究团队还发现，那些经过语言模型重写的复杂提示词往往包含更多的偏见。当AI被要求将"一位出租车司机"重写成更详细的描述时，它可能会自动添加"他的"、"中年男性"等暗示性词汇，即使原始提示词完全没有提及性别或年龄。

更令人担忧的是，研究团队发现AI工具的文字理解能力和图像生成质量之间存在着一种"负相关"关系。也就是说，当AI工具变得越来越善于理解和"改进"用户的要求时，它们也同时变得越来越倾向于加入自己的偏见和假设。这就像是一个翻译水平越来越高的译者，同时也越来越倾向于按照自己的理解来"润色"原文。

四、FAIRPRO：AI偏见的"解毒剂"

面对这个复杂的问题，研究团队开发了一个名为FAIRPRO的创新解决方案。这个方案的核心思想很简单但很巧妙：既然问题出在系统提示词上，那就让AI工具自己来检查和修正这些提示词。

FAIRPRO的工作原理就像是给AI工具配备了一个"良心顾问"。当用户输入一个绘图要求时，AI工具首先不急于开始绘图，而是先进行一番"自我反思"：这个要求可能会引发什么样的偏见？我应该如何调整我的"工作指南"来避免这些偏见？

具体来说，FAIRPRO会让AI工具执行一个三步骤的自我审查过程。第一步是"识别风险"：AI会分析用户的要求，思考可能产生哪些类型的偏见。比如，当用户输入"一位会计师"时，AI会意识到自己可能会倾向于画出特定性别或年龄的人物。

第二步是"推理分析"：AI会深入思考为什么这些偏见是有问题的，以及如何避免它们。这就像是一个画家在动笔之前先思考如何让自己的作品更加多元化和包容性。

第三步是"生成新指南"：基于前面的分析，AI会为自己制定一个新的、更加公平的"工作指南"，然后按照这个新指南来完成绘图任务。

令人惊喜的是，这个方案不需要对AI工具进行任何复杂的重新训练或修改。它就像是一个"软件补丁"，可以直接安装到现有的AI绘图工具上。研究团队在SANA和Qwen-Image两个不同的AI工具上测试了FAIRPRO，结果显示它能够显著减少各种类型的偏见，同时保持图像质量和与用户要求的匹配度。

更重要的是，FAIRPRO具有很强的适应性。不同的绘图要求会触发不同的自我审查过程，就像是一个经验丰富的顾问能够针对不同的情况给出不同的建议。当用户要求画一位"工程师"时，AI可能会特别注意性别平衡；当要求画一位"护士"时，AI可能会特别注意不要强化职业性别刻板印象。

五、实验结果：偏见真的能被"治愈"吗？

为了验证FAIRPRO的效果，研究团队进行了大规模的对比测试，就像是测试一种新药的疗效。他们使用了多个不同的评估指标来衡量AI工具的偏见程度，包括性别偏见、年龄偏见、种族偏见和外貌偏见。

结果令人振奋。在使用FAIRPRO之前，SANA工具的综合偏见评分是0.876（1表示最大偏见，0表示完全公平），而Qwen-Image的评分更高，达到0.902。但在使用FAIRPRO之后，SANA的偏见评分降到了0.790，Qwen-Image降到了0.844，改善幅度分别达到了9.8%和6.4%。

这种改善在视觉效果上更加明显。当输入"一位植物学家"这样的中性职业描述时，使用FAIRPRO的AI工具生成的图像显示出了更大的多样性——有不同性别、年龄、种族的人物形象，而且这些形象都很自然，没有显得刻意或不协调。

研究团队还测试了FAIRPRO在不同复杂程度提示词下的表现。无论是简单的职业描述还是复杂的场景描述，FAIRPRO都能有效减少偏见。特别值得注意的是，对于那些最容易产生偏见的复杂提示词，FAIRPRO的效果最为显著。

但研究团队也诚实地指出了FAIRPRO的局限性。虽然它能够显著减少偏见，但并不能完全消除所有偏见。这就像是一种药物能够有效控制疾病症状，但还不能完全治愈疾病。此外，FAIRPRO的效果在不同类型的偏见上也有所差异，对性别和种族偏见的改善效果比较显著，但对年龄偏见的改善相对有限。

研究团队还进行了一个有趣的对比实验：如果不修改系统提示词，而是让AI直接修改用户的输入会怎么样？结果显示这种方法效果很有限，甚至有时会适得其反。这进一步证明了系统提示词确实是偏见的主要来源，而FAIRPRO针对性地解决了这个根本问题。

六、更深层的发现：偏见与质量的矛盾

研究过程中，团队还发现了一个令人深思的现象：AI工具的图像质量和偏见程度之间存在着复杂的关系。一般来说，那些能够更好地理解用户意图、生成更高质量图像的AI工具，往往也更容易产生偏见。

这种现象背后的原理并不难理解。当AI工具变得更加"智能"时，它们不仅能理解用户明确表达的要求，还会"脑补"许多用户没有明确说明的细节。比如，当用户说"一位医生在医院里工作"时，智能的AI工具会自动添加医生的服装、表情、年龄等细节，让图像更加生动和真实。

但问题在于，这些"脑补"的细节往往来自AI在训练过程中学到的社会刻板印象。如果训练数据中的医生形象主要是中年男性，那么AI就会倾向于生成中年男性医生的图像。这就像是一个从小在某种环境中长大的人，会不自觉地以为全世界都是这样的。

研究团队通过详细的数据分析发现，AI工具的文本理解能力和图像生成的偏见程度之间存在着0.948的高度正相关关系。这意味着，当AI工具变得越来越善于理解和"完善"用户的要求时，它们也越来越容易在这个过程中注入偏见。

这个发现对AI技术的发展提出了一个重要的警示：我们不能单纯地追求AI工具的"智能化"，而忽视了公平性和包容性。就像是培养一个孩子不仅要让他变得聪明，还要让他学会公平和包容一样。

FAIRPRO的成功之处在于，它找到了一种在保持AI工具智能性的同时减少偏见的方法。通过让AI工具进行自我反思和调整，FAIRPRO既保留了AI工具理解和完善用户要求的能力，又减少了在这个过程中注入偏见的风险。

七、对未来的启示与思考

这项研究的意义远远超出了AI绘图工具本身。随着AI技术越来越深入地渗透到我们的日常生活中，从搜索引擎的结果排序到社交媒体的内容推荐，从在线招聘的简历筛选到医疗诊断的辅助系统，AI系统的偏见问题可能会影响到社会的方方面面。

研究团队的发现告诉我们，那些看起来最先进、最智能的AI系统可能也是最容易产生偏见的系统。这并不是说我们应该停止AI技术的发展，而是要在推进技术进步的同时，更加注重公平性和包容性的考虑。

FAIRPRO提供的解决思路也具有重要的启发意义。它表明，解决AI偏见问题不一定需要从头重新设计整个系统，而是可以通过巧妙的方法来"修正"现有系统的行为。这种方法的最大优势在于它的实用性——可以直接应用到现有的AI系统中，而不需要进行昂贵和耗时的重新训练。

但研究团队也坦诚地指出，FAIRPRO只是解决AI偏见问题的第一步，而不是最终解决方案。AI偏见问题的根源在于训练数据本身就反映了人类社会中存在的各种偏见和不平等。要彻底解决这个问题，需要从数据收集、模型设计、训练过程、应用部署等多个环节入手，建立一个完整的"AI公平性"体系。

这项研究还提醒我们，作为AI技术的使用者，我们也需要提高对AI偏见问题的认识和警觉。当我们使用AI绘图工具时，应该有意识地检查生成的图像是否存在偏见，并在必要时调整我们的要求。只有当技术开发者和使用者都关注这个问题时，我们才能真正建立一个更加公平和包容的AI生态系统。

归根结底，这项研究揭示了一个重要的道理：技术的进步不应该以牺牲公平性为代价。就像KAIST研究团队所展示的那样，我们完全可以在追求AI技术更高性能的同时，也让它变得更加公平和包容。这不仅是技术发展的需要，更是构建一个更加公正社会的需要。正如研究团队在论文中所说，他们希望这项工作能够为建设更加负责任的AI图像生成系统贡献力量。在AI技术日新月异的今天，这样的努力显得尤为珍贵和重要。

Q&A

Q1：什么是大型视觉语言模型LVLM，它和传统AI绘图工具有什么区别？

A：大型视觉语言模型LVLM就像是一个既能看又能想的智能助手，它不仅理解用户输入的文字，还会对内容进行分析和扩展。传统AI绘图工具像复印机一样机械地按要求作画，而LVLM类型的工具会主动"理解"和"改进"用户的要求，比如把"医生"扩展为"穿白大褂的中年男性医生在医院工作"。

Q2：FAIRPRO是如何减少AI绘图工具偏见的？

A：FAIRPRO让AI工具在绘图前先进行"自我反思"。它会让AI分析用户要求可能产生什么偏见，然后为自己制定一个更公平的工作指南。比如当输入"护士"时，AI会意识到可能产生性别偏见，然后调整指南确保生成的图像包含不同性别的护士形象。

Q3：为什么越智能的AI绘图工具反而偏见越严重？

A：这是因为智能AI工具会主动"脑补"用户没有明确说明的细节，而这些细节往往来自训练数据中的社会刻板印象。就像一个见多识广的画家可能会根据经验自动添加细节，但这些经验中可能包含偏见。研究发现AI工具的理解能力和偏见程度呈现高度正相关关系。