随着人工智能的广泛应用，不少律师开始使用生成式AI起草法律文件。不过，越来越多的律师因为引用了AI捏造的虚假案例，面临被解雇或罚款的窘境。

美国摩根与摩根（Morgan& Morgan）律所本月向所内1,000多名律师发出警告称，人工智能可能会捏造虚构的法律案例。律师一旦在法庭文件中引用了这些虚假资料，可能会被解雇。

今年1月，这家律所的两名律师，在对沃尔玛提起的一份诉讼中，引用了AI生成的虚假案例。怀俄明州的一名联邦法官表示，可能会对他们进行处分。

根据《路透社》报导，调查显示，63%的受访律师曾在工作中使用AI软件，21%会定期使用。法律专家提醒，由于AI模型通过分析和学习大数据中的统计模式来生成回应，而不会检查数据的真实性，AI有时会发出错误资讯，这种现象被称为AI“幻觉”（hallucinations）。

美国律师协会（American Bar Association, ABA）表示，律师必须对AI生成的案例加以核实，否则即使是无意中引用了虚构案例，也必须承担责任。

过去两年以来，AI在法律文件中的造成的“虚构案例”问题，导致全美各地至少七起案件中，法院对律师提出质疑或罚款等处分。这恐怕会是法律界新一个科技难题。