随着生成式人工智能（AI）越来越广泛地应用于法律行业，加拿大法院正面临一种新的挑战——越来越多律师和自行诉讼人士提交的法庭文件中，出现了由人工智能“编造”的法律案例和判例引用。
法律专家警告，如果不对AI生成的内容进行认真核实，不仅可能误导法庭，还可能导致律师受到纪律处分，甚至承担高额经济处罚。
加拿大出现最高额AI法律文件处罚
近日，加拿大一家法庭裁定，一名律师因向法院提交包含AI虚构案例引用的法律文件，被判支付31,150加元费用。
这是加拿大法院或法庭迄今针对AI伪造法律引证作出的最高金额处罚，也再次引发法律界对于AI应用风险的关注。
拥有30多年执业经验的安省诉讼律师、Kotak Law创办人Nainesh Kotak表示，AI本身并不是问题，真正的问题在于有人把核实工作的责任完全交给了AI。
他说：“AI是法律研究、案例整理和文件摘要的优秀工具，但你不能把准确性的责任外包给人工智能。”
AI“幻觉”案件数量快速增加
根据加拿大司法监督机构Courtready统计，涉及AI虚假法律材料的案件数量正迅速增长。
2024年，全国法院仅记录7宗相关裁决。
2025年，这一数字激增至87宗。
而仅2026年前六个月，全国法院已经记录了74宗类似案件。
如果这一趋势持续下去，今年很可能创下加拿大AI相关法律错误案件的新纪录。
Kotak预计，未来法院针对提交AI错误内容的律师采取处罚措施的情况只会越来越多。
大多数问题来自自行诉讼人士
数据显示，约81%的案件涉及没有律师代理、自己打官司的当事人。
法律专家认为，不少人误以为ChatGPT等AI工具提供的案例一定真实可靠，却不知道AI可能会生成完全不存在的判例、法官姓名和法律引文。
与此同时，近20%的案件则涉及执业律师。
这意味着，全国已有30多名律师因为未经核实便引用AI生成内容，而受到法院批评或纪律处分。
Kotak认为，实际情况可能比公开数字更加严重。
他说：“这些只是已经曝光的案件。还有多少AI编造的案例没有被发现，我们根本不知道。这很可能只是冰山一角。”
AI生成的错误越来越难识别
法律界担忧的是，如今AI“幻觉”已经越来越逼真。
过去，AI编造出来的案例往往一眼就能识别，因为案件名称、法院名称或引用格式明显错误。
但现在，AI不仅会生成看似真实的案例名称，还会搭配合理的法律分析、司法术语和判决引用，让专业人士都更难察觉问题。
Kotak表示：“现在的假案例越来越像真的，这正是最危险的地方。”
法院开始加强审核措施
为了降低风险，安大略省法院已陆续推出新的审核要求。
目前，律师提交法庭文件时，需要对引用资料的准确性负责，并为引用的判例提供超链接，方便法院核查来源。
不过，Kotak认为，仅靠这些措施仍然不足。
他建议，凡是在准备法律文件过程中使用AI工具，都应强制披露，并由律师确认已经逐一核实所有引用的法律依据。
他同时建议律师协会制定统一的AI使用和验证标准，并帮助自行诉讼人士了解AI工具可能存在的局限。
AI不是敌人，但必须承担责任
尽管不断提醒风险，Kotak并不反对律师使用人工智能。
他表示，在现代律师事务所，AI已经成为提高效率的重要工具，可以帮助完成资料整理、法律检索和文件处理等大量工作。
“AI代表着未来的发展方向。”
“但无论技术如何进步，律师最终都必须对自己提交给法院的每一句话负责。这不仅是技术问题，更是职业责任，也是维护司法公正的问题。”
