法治在線丨律師用AI生成虛假案例被法院發(fā)現(xiàn) 將承擔(dān)何種責(zé)任
大家有沒有這樣的經(jīng)歷，當你向人工智能模型提問的時候，有時會生成一些看似合理連貫，但實際上是錯誤捏造的內(nèi)容。這一現(xiàn)象也被稱為AI幻覺，說白了就是虛構(gòu)事實，無中生有。但是這種AI幻覺生成的內(nèi)容，如果用到法庭上，它的后果可難以想象。北京市通州區(qū)人民法院的法官，在審理一起民事糾紛的案件時，就遇到了這樣的陷阱。
“AI幻覺”干擾司法秩序
這是一起由代持股引發(fā)的民事糾紛案件，由于原告的訴訟請求在司法審判中并不常見，因此法官鄭吉喆提出，原告律師可以在庭審后，提交補充代理意見。
北京市通州區(qū)人民法院法官 鄭吉喆：我們也是出于慎重，因為畢竟這個訴求不是一個很常見的訴求，我們當時也提到說你對這部分的訴訟請求，你們回去可以向法院提交書面的補充的意見以及相應(yīng)的這種案例，這樣的話供法院裁判時參考。
很快，法官收到了原告代理律師郵寄過來的代理意見，意見書里還附帶名為最高人民法院與上海一中院的兩個參考案例。
北京市通州區(qū)人民法院法官 鄭吉喆：當時法官助理先做了一個審核，還是挺震驚的，跟我們這個案子好像描述的觀點，包括描述的內(nèi)容、情形都特別像，完美地還原這個案例目前的事實情況，裁判觀點是完美支持了他的訴請。
那么原告代理律師提交的這份書面代理意見，以及參考案例，在案件的審判中，會產(chǎn)生什么樣的影響呢？
北京市通州區(qū)人民法院法官 鄭吉喆：對于不太常見的這種訴求，我們也希望律師能夠提供相應(yīng)的判例，如果確實說有道理，那么我們該依法支持，就應(yīng)該依法支持。這也是在一個轄區(qū)之內(nèi)，那么統(tǒng)一裁判尺度的必要的一個手段。
兩個參考案例的事實細節(jié)、法律爭議與裁判邏輯，與審理中的案件高度契合，完美佐證了原告代理人的主張觀點，初看之下極具參考價值。但很快，法官發(fā)現(xiàn)了案例中一些不尋常的地方。
北京市通州區(qū)人民法院法官 鄭吉喆：我看到感覺是這個案子是AI生成的，這個格式像早年的AI生成的，左邊都帶一個實心點，包括當事人的這種模糊性。
參考案例格式異常
AI生成特征被識穿
參考案例格式異常，這引起了法官的注意。出于職業(yè)敏感，法官對這兩起案件進行查詢，發(fā)現(xiàn)兩起案件雖然存在，但真實的裁判文書與原告代理律師提交的內(nèi)容，完全不同。
北京市通州區(qū)人民法院法官 鄭吉喆：特別是當時她援引了上海一中院的2022滬01民終12345號，這是一個民間借貸的案件，這個跟現(xiàn)在原告代理人向我們提交的股權(quán)代持是一點關(guān)系都沒有，可以說叫風(fēng)馬牛不相及。
AI生成虛假案例
律師未經(jīng)核實就提交
在承辦法官的質(zhì)詢下，原告代理律師終于承認，參考案例是他提煉本案的事實情節(jié)，然后反復(fù)向某AI大模型軟件提問，由軟件生成的參考案例。
北京市通州區(qū)人民法院法官 鄭吉喆：AI給她生成了這兩個案例，她覺得看著跟這個要求是一樣的，就忽視了這部分核實的過程，就直接把這個案例復(fù)制粘貼整合到了書面意見，就向法院進行了提交。
使用虛假意見材料
涉案律師承擔(dān)何種責(zé)任
事實雖已查清，一個新的問題又擺在了法官的面前，該如何判定律師的這一行為呢？因為代理意見與訴訟中的證據(jù)，在法律性質(zhì)上，還是有著明顯的區(qū)別。
北京市通州區(qū)人民法院法官 鄭吉喆：這個證據(jù)我們說要對真實性、合法性、關(guān)聯(lián)性、證明目的來進行審核。像這種書面意見不需要這些，它更多的是通過梳理之后，有沒有類似的觀點，有沒有值得借鑒的，或者更多的是一種審判輔助性的行為，所以應(yīng)該說還是有比較大的差別。
根據(jù)民事訴訟法的規(guī)定：訴訟參與人偽造、毀滅重要證據(jù)，妨礙人民法院審理案件的，人民法院可以根據(jù)情節(jié)輕重予以罰款、拘留；構(gòu)成犯罪的，依法追究刑事責(zé)任。
北京市通州區(qū)人民法院法官 鄭吉喆：民事訴訟法明確規(guī)定是對于偽造重要證據(jù)的，明顯妨礙民事訴訟行為的，最嚴重的法院可以處以罰款或者拘留。但是對于其他的相當于意見，特別是這種書面材料，確實現(xiàn)行法律是沒有對這個問題的規(guī)定。
考慮到這一行為在法律上沒有明確的規(guī)定，且律師無明顯惡意，情節(jié)輕微，沒有造成嚴重后果，法院將這一情節(jié)寫進了案件的判決書，予以批評?！跋Ｍ娲砣艘詾榻?，在向法院提交參考案例、法條時，應(yīng)當進行檢查和核驗，確保內(nèi)容的真實性和準確性，不得放任人工智能模型生成或者編造虛假信息擾亂司法秩序?！狈ü僖罁?jù)查明的事實，依法對案件作出裁判，對原告的部分請求不予采納。一審判決后，雙方均未提出上訴，判決已經(jīng)生效。
使用虛假參考案例
浪費司法資源
AI幻覺為了契合預(yù)設(shè)結(jié)果，編造法律依據(jù)或案情，這是技術(shù)工具的局限性帶來的結(jié)果。而部分當事人或者法律從業(yè)者，對AI過度依賴和盲目信任，反而忽視對信息真實性的核驗義務(wù)。近一段時期，AI生成的“證據(jù)”與“案例”入侵法庭，已并非個例，面對這一沖擊，除了依靠法官的慧眼，法律和相關(guān)的訴訟主體，也應(yīng)當劃定紅線，守護不容模糊的法律邊界。
使用虛假參考案例
浪費司法資源
在通州法院的這起案例中，律師為滿足自身訴求，反復(fù)向AI提問，最終生成虛假參考案例。有專家認為，這樣的行為，不僅違反了律師的職業(yè)準則，也浪費了司法資源。
中國社會科學(xué)院法學(xué)研究所研究員 謝鴻飛：對律師來說他違反了律師職業(yè)的謹慎勤勉的義務(wù)，即便法院最后沒有參考這樣一個虛假的案例，但是也確實浪費了司法資源，所以我想就這樣的一種行為，它主要對司法的一個公信力以及司法資源的損傷可能最大的。
利用AI偽造證據(jù)
受到訓(xùn)誡
比生成參考案例更嚴峻的是，利用人工智能偽造證據(jù)、虛構(gòu)事實的情況已經(jīng)出現(xiàn)。在湖北孝感大悟縣人民法院審理的一起房屋租賃合同糾紛案中，原告作為證據(jù)提交的水電表照片，帶有“AI生成”的水?。辉诜ü俚馁|(zhì)詢下，原告最終承認，自己利用AI技術(shù)偽造證據(jù)，受到了訓(xùn)誡。
中國政法大學(xué)教授 譚秋桂：他要給法庭提交了AI生成的這種圖片，他一定是給了機器一個指令要生成什么圖片，它就生成了。如果說他是當事人或者訴訟代理人向法院法庭提交了，明顯是通過AI生成的圖片的話，那是非常嚴重的妨害民事訴訟的行為了。
人工智能引發(fā)風(fēng)險
亟須明確審判規(guī)則
面對這一由人工智能帶來的新問題，在司法實踐中，也亟須明確審判規(guī)則。
2025年12月，北京市通州區(qū)人民法院的這起案例入選人民法院案例庫。裁判要旨中寫明：
訴訟參與人在民事訴訟活動中應(yīng)當遵循誠信原則。
訴訟參與人提交通過人工智能技術(shù)獲取且未經(jīng)甄別核實的虛假案例的，應(yīng)當承擔(dān)相應(yīng)的法律后果。
情節(jié)輕微的，人民法院可以對其進行批評教育；情節(jié)較重的，可以參照民事訴訟法第一百一十四條第一款的規(guī)定處理。
中國政法大學(xué)教授 譚秋桂：通過AI搜索到的材料，它的真實性，它是屬于民訴法規(guī)定的誠信原則的調(diào)整范圍，來源要講清楚，你不能說本來是自己用AI生成的，你說是自己調(diào)取的。對于案件甄別和核實的責(zé)任，在于訴訟參與人自己，如果不真實，有虛假成分或者是虛假的，相應(yīng)的主體，就是提供者，還要承擔(dān)相應(yīng)的法律責(zé)任。
除了在法律上明晰此類問題的審判原則和法律依據(jù)，也有專家建議，司法機關(guān)與各法律主體都需探索建立相應(yīng)規(guī)則，劃定邊界，應(yīng)對人工智能帶來的風(fēng)險和挑戰(zhàn)。
北京航空航天大學(xué)法學(xué)院副教授 趙精武：人民法院等司法機關(guān)應(yīng)當更加謹慎客觀地評估證據(jù)的法律效力，司法行政部門應(yīng)當適時規(guī)范律師的從業(yè)行為，并不是直接禁止其使用AI工具，而是禁止其在司法活動中非法使用AI合成內(nèi)容。訴訟當事人、律師等法律主體應(yīng)當嚴格遵守法律法規(guī)，尊重司法權(quán)威，不得利用AI工具從事偽造證據(jù)等違法犯罪活動。
技術(shù)可以“幻想”，證據(jù)必須真實！
AI生成的虛假參考案例被法官識破，因其典型性，而作為“反面教材”真實入選人民法院案例庫。這種對不準確信息來源的依賴，削弱了法律規(guī)范的權(quán)威性，損害司法公信力。更需警惕的是，這項技術(shù)可能被刻意用于炮制虛假證據(jù)，從無心之失升級為主動欺詐。法庭的莊嚴與法律的權(quán)威，永遠建立在無可撼動的真實之上。無論是疏忽還是故意，都是對司法紅線的觸碰。在法庭之上，每份材料都關(guān)乎公正，心存敬畏、堅守真實，是對誠信原則的踐行，更是對司法尊嚴的捍衛(wèi)。面對“AI幻覺”的沖擊，司法機關(guān)已在積極行動，也需探索一套完善的治理機制。?
編輯：遲明緒
京公網(wǎng)安備 11010502000576號