IT之家 2 月 19 日消息，據路透社今日報道，美國知名個人傷害律師事務所 Morgan & Morgan 向其 1000 多名律師發送了一封緊急郵件，警告他們：AI 能夠編造虛假的判例信息，若在法庭文件中使用虛構的內容，可能會被解雇。

此前，懷俄明州的一名聯邦法官威脅要對該事務所的兩名律師進行制裁，因為他們在一起針對沃爾瑪的訴訟中引用了虛假的判例。

其中一名律師在法庭文件中承認，他使用了一個“創造”案件的 AI 程序，并為此無意中犯下的錯誤道歉。AI 在法律文件中生成虛假信息的趨勢，已使全美多個法院在過去兩年內對至少七起案件中的律師進行過質疑或紀律處分，給訴訟雙方和法官帶來了新技術帶來的困擾，路透社的調查發現。

生成式 AI 技術的進步有助于減少律師的研究和撰寫時間，因此許多律師事務所選擇與 AI 供應商合作，或開發自己的 AI 工具。湯森路透的調查顯示，去年 63% 的律師表示曾在工作中使用 AI，其中 12% 的律師表示會定期使用。

然而，生成式 AI 以“自信地編造事實”而著稱，法律專家提醒，律師在使用 AI 時必須格外小心。據IT之家了解，AI 有時會“幻覺”般地生成虛假信息，這是因為它們基于從大量數據中學到的統計模式進行生成，而非驗證事實的準確性。

律師道德規范要求律師對其提交的法庭文件負責，并予以核實，否則將面臨紀律處分。美國律師協會去年告知全體會員，甚至是通過 AI 生成的“無意錯誤”也必須遵守這一義務。

“即便法律研究工具發生了變化，后果也沒有改變，”薩?？舜髮W法學院院長 Andrew Perlman 說道。同時，他也是倡導利用 AI 提升法律工作效率的專家。

“當律師在沒有核實的情況下使用 ChatGPT 或任何生成式 AI 工具來編造引用時，這就是不稱職，簡單來說就是這樣。”