近日，美國懷俄明州地方法院法官凱利?蘭金下令，要求一律師事務(wù)所的律師解釋為何在法庭文件中引用虛假案例，并說明為何不應(yīng)受到制裁或紀(jì)律處分。這已是2023年以來第三起AI生成（捏造）法律文件引發(fā)爭議的公開案件——司法系統(tǒng)的權(quán)威性正遭遇AI技術(shù)浪潮的沖擊。

AI幻覺制造虛假案例，律師事務(wù)所陷入尷尬

案件起源于2023年，涉及沃爾瑪和捷森電子自行車公司（Jetson Electronic Bikes）。原告是一名女子、她的丈夫及四名未成年子女，他們指控捷森公司生產(chǎn)的一款懸浮滑板的鋰離子電池發(fā)生故障并起火，導(dǎo)致他們的住宅被燒毀，多名家庭成員嚴(yán)重受傷。

在今年1月，原告方律師向法院提交了一份“排除動(dòng)議”，請求法院排除某些證據(jù)或論點(diǎn)。然而，法官蘭金發(fā)現(xiàn)，該文件引用的多個(gè)案例根本不存在。“這些案例無法通過Westlaw的編號識別，法院也無法在懷俄明州地方法院的電子檔案系統(tǒng)中找到這些案例。”蘭金在判決書中寫道，并要求所有涉及的律師“詳細(xì)解釋該動(dòng)議及虛假案例的生成方式”，以及他們在起草或監(jiān)督該動(dòng)議時(shí)的具體角色。

四天后，涉事律師事務(wù)所作出回應(yīng)，稱：“我們內(nèi)部的人工智能平臺(tái)在協(xié)助律師起草動(dòng)議時(shí)‘幻覺’生成了這些案例。”該律師事務(wù)所表示，此事件讓他們深感尷尬，并已引發(fā)關(guān)于人工智能安全培訓(xùn)、實(shí)施及未來使用的討論和行動(dòng)。“這件事對我們事務(wù)所及整個(gè)行業(yè)而言都是一個(gè)警示，提醒大家在邁入人工智能新時(shí)代時(shí)，應(yīng)更加謹(jǐn)慎。”

特朗普也是AI律師“幻覺”的受害者

近年來，律師越來越多地使用AI工具進(jìn)行法律研究和文件分析。然而，AI在法律工作中的誤用并非首次引發(fā)爭議。

2022年，一名男子起訴阿維安卡航空公司，稱自己在一次航班上被金屬餐車撞傷。其律師提交的法律文件引用了多個(gè)AI編造的案例。然而，在法庭質(zhì)疑這些案例的真實(shí)性后，該律師不僅沒有立即承認(rèn)錯(cuò)誤，反而試圖狡辯。最終，法院對其處以5000美元罰款。

2024年，特朗普前私人律師科恩在封口費(fèi)案中，居然提交Google Bard生成的虛假判例，再次引發(fā)關(guān)注。盡管法院最終未對涉事律師進(jìn)行處罰，但這種法官口中“極度不專業(yè)”的行為，導(dǎo)致了特朗普的辯護(hù)策略全面受挫。

“這不是技術(shù)故障，而是職業(yè)倫理的潰堤。”紐約大學(xué)法律倫理教授Rebecca Roiphe向虎嗅指出，“當(dāng)律師把事實(shí)核查權(quán)交給算法，等于放棄了法律人的核心職責(zé)。”

AI在法律行業(yè)的未來：機(jī)遇與風(fēng)險(xiǎn)并存

盡管事故頻發(fā)，AI法律工具的市場仍在狂飆。全球法律科技融資額從2020年的12億美元增至2023年的43億美元，AI法律應(yīng)用的支持者拋出了效率、成本和技術(shù)進(jìn)化論三大論點(diǎn)：

1.效率革命

文檔處理：HarveyAI可在12分鐘內(nèi)完成合同審查（人工需4小時(shí)）；

案情預(yù)測：Lex Machina通過分析歷史判例，給出勝訴率評估（準(zhǔn)確度約78%）。

2.成本殺手

• 英國Allen & Overy律所引入GPT-4后，合同起草成本下降70%；
• 美國LegalZoom利用AI將商標(biāo)申請服務(wù)價(jià)格壓至199美元（行業(yè)平均800美元）。

3.技術(shù)進(jìn)化論

“AI幻覺是技術(shù)早期階段的必然代價(jià)。”法律科技公司ROSS Intelligence創(chuàng)始人Andrew Arruda辯稱，“就像自動(dòng)駕駛需要累積事故數(shù)據(jù)改進(jìn)算法，法律AI也需要判例反饋迭代。”

反對者則認(rèn)為，目前人工智能技術(shù)在法律行業(yè)的應(yīng)用仍在探索階段，雖然其能夠提高效率，但若不加審查，其“幻覺”生成的錯(cuò)誤信息可能對律師及其客戶造成嚴(yán)重后果。

“年輕律師正在喪失基礎(chǔ)法律檢索能力。”達(dá)維律師事務(wù)所合伙人Sarah Reynolds觀察發(fā)現(xiàn)，“他們更擅長調(diào)試AI提示詞，卻看不懂《聯(lián)邦證據(jù)規(guī)則》的條文邏輯。”