【大紀元記者周鳳臨報導/薛明珠編譯】生成式人工智慧（AI）在法律領域的使用風險再度引發關注。一名加州律師因在法院文件中引用三個不存在的案例，被聯邦法官處以1,000美元罰款，該錯誤與AI生成「幻覺」內容有關，並可能影響一起針對灣區捷運（BART）的訴訟。
美國聯邦治安法官Thomas S. Hixson於5月6日的命令中表示，法院並不禁止律師在法律辯護中使用AI，但前提是律師必須獨立核實AI生成內容的準確性。
遭制裁的律師Jessica R. Barsotti，代表原告Karl Gregoire對BART提告。Gregoire原為BART車資查票員，疫情期間因宗教理由拒絕接種強制性COVID-19疫苗，隨後遭BART解雇。
此案中，Barsotti此前因缺席並錯過多項法院期限，遭被告提出制裁動議。被告要求的制裁包括駁回案件、禁止原告提出證據，以及金錢處罰。
Barsotti隨後提交文件回應，稱自己在一連串壓力事件後，原有健康狀況復發，期間還經歷與丈夫分居、律所合夥人退休及近親去世等情況。
她表示，自己曾進入治療機構接受75天治療，因此無法出席法院會議，也未能及時回應相關程序。然而，她在文件中引用四個案例，主張原告利益不應因律師失誤而受影響；法院後來發現，其中三個案例並不存在。
法官在命令中警告，該錯誤可能導致法院「全部或部分刪除該文件」，進而影響原告案件。除1,000美元罰款外，法院還要求Barsotti通知原告相關制裁，並至少參加一小時有關「法律實務中人工智慧倫理使用」的教育課程。法官也命令法院書記員將此事通報加州律師公會。
《大紀元時報》未能聯繫到Barsotti置評。
AI生成虛假法律內容的問題近年在美國法院逐漸增多。研究人員Damien Charlotin指出，自2023年第二季度至今年5月19日，美國已發現超過1,000起法律案件涉及生成式AI產生的「幻覺」內容，常見問題包括虛假判例、錯誤引文、不實陳述及過時法律建議，占全球同類案件近70%。
生成式AI在法律界的應用，自2023年3月OpenAI推出GPT-4後受到高度關注。當時GPT-4在律師資格考試中的表現超過90%人類考生。國際法律科技協會2025年一項涵蓋全球580家律所、逾15.2萬名律師的調查也顯示，88%受訪者認為，未來三至五年內，AI將對法律科技專業帶來重大改變。
不過，法律界人士警告，AI雖可提高效率，但若未經查證便用於法院文件，恐損害司法公信力。
太平洋司法研究所（Pacific Justice Institute）首席法律顧問Kevin Snider透過電子郵件告訴《大紀元時報》，AI在法律領域的使用已成為反覆出現的問題。他表示，AI可能提供不存在的案例，也可能引用真實案例，卻給出錯誤的法律裁判要旨。
Snider說，若明知AI生成虛假證據仍將其用於法院程序，公眾對司法系統的信心將會崩潰。Snider曾代表六名前BART員工提告，這些員工因拒絕接種COVID-19疫苗遭解雇或被迫退休；2024年10月，他代表當事人勝訴，獲得780萬美元賠償。
加州律師公會表示，該機構已對五名涉嫌不當使用AI的律師提出紀律指控通知，其中兩起案件已獲加州律師公會法院批准，目前等待加州最高法院作出最終裁定。截至目前，加州尚未有律師因提交AI生成內容而受到紀律處分。
加州律師公會首席審判律師George Cardona表示，這些案件凸顯出，律師若未能審查並確認提交文件的準確性，無論使用何種工具生成內容，都可能造成實際傷害，並損害司法行政。
AI幻覺（Hallucination）是指人工智慧模型產生虛假、錯誤或不符合事實的資訊，卻以看似合理的方式呈現。這是大型語言模型可能出現的風險之一。
