一场没有律师的难民听证，最终变成了一场“AI幻觉”的公开处刑。
一个三口之家，在加拿大提出难民保护申请，被驳回。原因不是他们不够绝望，不是证据不足，而是他们的上诉材料——那些本该承载命运转折的法律文书——被法院认定为“显然由人工智能工具生成”，里面充斥着根本不存在的判例、错误的法律论点，以及看似言之凿凿、实则空洞无物的“法律推理”。
法官没有留情。驳回。
这起案件之所以值得每一个法律人、每一个AI从业者、每一个普通公民停下来想一想，是因为它不是孤例。它是一道裂缝，裂缝之下，是整个法律体系正在面对的一个根本性追问：当生成式AI开始“编造法律”，谁来为那些被编造的正义买单？
**第一层：AI幻觉不是“技术故障”，而是“结构性谎言”**
很多人对AI生成内容的认知还停留在“偶尔出错”的层面。但法律领域的AI幻觉，性质完全不同。
所谓“幻觉”，是指大语言模型在缺乏真实依据时，仍然以高度自信的语气生成看似合理的内容。它会编造判例名称、伪造法条编号、虚构法律原则，甚至能“引用”一段根本不存在的法官判词。更可怕的是，这些内容往往逻辑自洽、语言流畅、格式规范——非专业人士几乎无法辨别。
在法律场景中，这意味着什么？意味着一个不懂法律的难民申请者，可能拿到一份“看起来完美”的上诉状，里面引用了五六个“权威判例”，论证严密，措辞专业。他以为找到了救命稻草，实际上拿到了一颗定时炸弹。
这不是技术不够成熟的问题。这是大语言模型的工作原理决定的：它追求的是“最可能的下一个词”，而不是“最真实的那个事实”。在法律领域，这种“概率优先于真相”的底层逻辑，天然就是危险的。
**第二层：没有律师的弱势群体，正在成为AI幻觉的第一批牺牲品**
这起案件中最令人不安的细节是：这个家庭没有律师。
在加拿大的难民申请体系中，没有律师代理的申请人并不少见。语言障碍、经济压力、对法律程序的无知，让他们成为最脆弱的群体。而AI工具的出现，对他们来说曾经像一束光——免费、即时、看似专业。
但这束光是假的。
当AI生成的上诉材料被提交到法庭，后果是灾难性的。法官不会因为“你不知道AI会编造”而宽容。法律程序不会因为“你请不起律师”而暂停。相反，一份充满虚假判例的上诉状，不仅会导致败诉，还可能被认定为“滥用程序”，甚至影响未来任何再次申请的诚信评估。
换句话说，AI幻觉对弱势群体的伤害，是双重的：先用虚假的希望引诱你，再用程序的铁拳击碎你。而那些真正有能力辨别AI幻觉的人——受过法律训练的专业人士——反而不会轻易踩坑。技术鸿沟，正在变成正义鸿沟。
**第三层：法庭的识别能力，正在被AI的进化速度甩开**
有人会说：法官不是已经识别出来了吗？说明系统还有纠错能力。
但请仔细看这个逻辑。法官之所以能识别，是因为这份材料“充斥着虚假案例和错误的法律论点”——换句话说，它错得太明显了。如果AI生成的是一份“90%真实、10%编造”的上诉状呢？如果它引用的判例真实存在，但被微妙地曲解了呢？如果它伪造的只是一个不起眼的程序性规则呢？
法庭不是AI检测实验室。法官没有义务、也没有能力对每一份提交材料进行“AI幻觉审计”。当AI生成的内容越来越接近真实，识别成本会指数级上升。而法律程序讲究的是效率和终局性，不可能无限期地停下来做技术鉴定。
更深的矛盾在于：法律体系假设提交材料的人是“诚信的”，而AI幻觉打破了这一假设。它让“不知情的虚假陈述”成为可能——申请人自己都不知道材料是假的。这种情况下，惩罚申请人公平吗？不惩罚，法庭的权威又何以维系？
**第四层：这不是“要不要用AI”的问题，而是“谁为AI的谎言负责”的问题**
目前的法律框架，几乎完全没有准备好回答这个问题。
如果AI工具的开发者在用户协议里写了一句“本工具不保证内容准确性”，就能免责吗？如果申请人确实不知道AI会编造判例，他的“不知情”能构成抗辩吗？如果法庭因为AI幻觉而驳回一个可能真正需要保护的难民申请，这算不算一种制度性的不正义？
更深层的问题是：法律AI的“幻觉”和人类的“错误”之间，界限在哪里？一个律师引用了不存在的判例，会被吊销执照。一个AI生成了不存在的判例，谁来负责？是训练数据的问题？是算法设计的问题？还是用户使用方式的问题？
这些问题，目前没有答案。但每一起像这样的案件，都在逼着我们逼近答案。
**写在最后**
这个难民家庭的败诉，不是一个技术事故，而是一个制度警报。它告诉我们：当AI开始“编造法律”，受害者不会均匀分布。最脆弱的人，最先被击中。
法律可以拒绝AI，但无法拒绝那些渴望正义的人使用AI。真正的出路，不是禁止，而是建立一套新的责任框架——让AI工具在生成法律内容时，有明确的“幻觉风险提示”；让法庭在识别出AI生成材料时，有更精细的处理程序；让弱势群体在寻求法律帮助时，有真正可靠的免费替代方案。
否则，下一个被AI幻觉击碎的，可能不只是一个难民申请，而是整个法律体系对“真相”的垄断权。
**你怎么看这起案件？你认为AI生成的法律文书，应该由谁来承担“编造”的责任？欢迎在评论区留下你的观点。**