江德斌

前不久，一位高考生的哥哥梁某在查询高校信息时，遭遇了“AI幻觉”，AI平台在生成错误信息后，还底气十足地表示若内容有误将赔偿10万元。一气之下，梁某将AI平台的研发公司告上法庭。针对国内首例因“AI幻觉”引发的侵权案，近日，杭州互联网法院作出一审判决，驳回诉讼请求。判决明确，在生成式人工智能场景中，AI的“承诺”不构成平台的意思表示，同时为AI生成内容划出红线、底线，厘清了服务提供者的注意义务边界。

在生成式人工智能迅猛发展的当下，国内首例因“AI幻觉”引发的侵权案虽以平台胜诉收场，却揭示了AI技术存在的显著缺陷。对此，企业需积极承担技术优化责任，加速迭代升级，以提供更为精准可靠的服务，从而在技术演进中更好地保障用户利益。

杭州互联网法院的判决逻辑清晰，AI不具备民事主体资格，其“赔偿承诺”并非企业真实意思表示；平台已履行提示义务并采取合理技术措施，故无主观过错。这一裁决在现行法律框架下确有依据，也为行业划定了责任边界。法院判决虽体现了对技术不成熟性的合理包容，但这种宽容不应成为延缓问题解决的借口。当前AI技术仍处于发展初期，对其缺陷给予适度理解固然必要，但“AI幻觉”引发的侵权风险不容忽视，必须通过持续的技术迭代与机制完善加以应对，避免因过度宽容而纵容问题长期存在，最终阻碍技术进步的良性循环。

生成式AI在无真实依据的情况下，为了“讨好”用户、满足需求，凭空编造信息、一本正经地输出错误内容，即便输出内容与事实严重不符，也会呈现出不容置疑的姿态。大模型训练数据的覆盖范围有限、算法设计逻辑存在潜在缺陷，以及上下文语义理解的偏差，共同构成了信息生成失真的技术根源。与此同时，部分厂商在市场竞争压力下，过度追求生成效率与响应速度，将技术迭代重心偏向性能优化，却相对弱化了内容准确性校验与合规性审查机制，这种“重速度轻质量”的发展策略，客观上加剧了“AI幻觉”问题的扩散风险。

面对“AI幻觉”，法律定责是底线，技术破局才是根本。AI厂商必须加快技术迭代，将准确性、可靠性置于产品设计的核心。具体包括：优化训练数据质量与覆盖范围，减少专业知识盲区；开发实时事实核查与不确定性评估机制，让AI学会“知之为知之，不知为不知”；建立用户反馈纠错闭环，使模型在实践中持续学习修正。

同时，可针对不同领域的需求，提供相应等级的AI生成服务。对于艺术创作与文学设计等强调创新与想象力的领域，“AI幻觉”可被转化为创意催化剂，激发使用者的想象空间，帮助他们创作更丰富的作品，而法律、新闻、金融、医疗等对信息准确性要求严苛的专业领域，则必须建立严格的内容校验机制，通过多轮事实核查、专业领域知识图谱嵌入等方法，消除信息失真风险，确保输出内容达到行业标准。