肖 芃

最近，杭州互聯(lián)網(wǎng)法院審結(jié)的全國首例“AI幻覺”侵權(quán)訴訟案件，受到了社會高度關(guān)注。案情并不復雜：梁某使用某生成式AI應用詢問某高校報考信息，得到了關(guān)于該高校校區(qū)的不準確信息。即便梁某及時對AI進行了糾正，AI仍堅稱存在這一校區(qū)，甚至承諾若有誤將賠償10萬元，并建議起訴。隨后，梁某以該AI大模型的研發(fā)、部署公司為被告提起訴訟，要求賠償損失。最終法院依法駁回其訴訟請求。

法院裁判理由有以下三點：其一，我國法律未賦予人工智能以民事主體資格，AI不能獨立作出有法律約束力的意思表示，因此AI作出的“賠償”表示，不構(gòu)成法律意義上的“承諾”；其二，基于“人類負責制”的原則，人工智能系統(tǒng)帶來的利益和風險，應由AI模型的研發(fā)、部署者承擔，而AI服務不屬于產(chǎn)品，應適用過錯責任原則，需根據(jù)服務類型、風險場景等對服務提供者的注意義務作出類型化區(qū)分，兼顧權(quán)益保護與技術(shù)發(fā)展，案件中被告公司已盡到相關(guān)注意義務，不具有過錯；其三，根據(jù)無損害不賠償?shù)脑瓌t，梁某在案件中并未產(chǎn)生實際損失，被告公司不需要賠償。

這起案件備受矚目，不僅因其是全國首例“AI幻覺”侵權(quán)案，深入闡釋了AI生成內(nèi)容的性質(zhì)、服務提供者的責任邊界以及侵權(quán)構(gòu)成要件等核心問題，為類似糾紛處理提供了重要裁判指引，更在于其警示意義，為全社會理性看待AI敲響警鐘。

當前，以大型語言模型為代表的生成式AI，憑借高效的信息整合與流暢的內(nèi)容生成能力，廣泛應用于教育、辦公、咨詢等領(lǐng)域，大幅提升了人們的工作效率，拓寬了創(chuàng)新空間。但技術(shù)便利的背后，潛藏著認知偏差：部分使用者逐漸將AI工具權(quán)威化、人格化，甚至將其視為可完全托付重要決策的“專家”。這種認知恰恰忽略了AI的技術(shù)本質(zhì)——它僅是一種統(tǒng)計模型，基于海量語料訓練生成內(nèi)容，輸出的是概率關(guān)聯(lián)下的語言序列，而非基于事實認知的“真知”。

“AI幻覺”正是這一技術(shù)局限的典型表現(xiàn)。從媒體報道和用戶反饋看，大模型生成內(nèi)容雖常呈現(xiàn)結(jié)構(gòu)完整、語氣篤定的特點，卻時常包含虛構(gòu)事實、邏輯矛盾或過時信息。這類輸出極具迷惑性，使用者若不加以甄別，極易被誤導，進而引發(fā)不良后果。如何與AI良性共存，讓其真正為人所用，最大限度避免其帶來的風險和誤判，已成為擺在大眾面前的重要命題。

對普通使用者而言，首要任務是確立“AI是工具，而非主體”的核心認知。要清醒認識到，在當前技術(shù)條件下，AI僅是一種高度智能的工具，是生產(chǎn)生活中的文本輔助生成器與信息查詢輔助工具，它不懂事實的本質(zhì)，只遵循概率的邏輯，其價值在于節(jié)省時間、提供思路、整合信息，但工具的局限性決定了它難免出現(xiàn)錯誤，絕不能將AI當作“決策替代者”。因此，最終的審核權(quán)、決策權(quán)必須掌握在使用者手中——人才是自身行為與決策的最終把關(guān)者。在使用AI時，必須保持審慎懷疑的態(tài)度，切勿盲目輕信，應通過多方驗證，審慎決定是否采納相關(guān)信息。

有評論者認為，這一判決將對我國法院審理類似案件產(chǎn)生重要參考價值，有助于我國AI行業(yè)的發(fā)展與創(chuàng)新。從行業(yè)層面說，《生成式人工智能服務管理暫行辦法》已為AI行業(yè)劃定了法治紅線。但面對快速迭代的技術(shù)與日益復雜的應用場景，除了充分發(fā)揮司法裁判的引領(lǐng)、規(guī)范作用之外，還需要推動制度持續(xù)完善細化。比如，進一步規(guī)范AI的研發(fā)、部署與使用的全流程，從算法、算力、數(shù)據(jù)集等多個層面明確服務提供者的必要、合理注意義務，進一步完善訓練數(shù)據(jù)質(zhì)量規(guī)范，健全錯誤內(nèi)容發(fā)現(xiàn)、糾偏與反饋機制，從制度層面防范“AI幻覺”引發(fā)的侵權(quán)風險。尤其要結(jié)合AI的應用場景、風險程度等，分類型、有區(qū)別地制定提高內(nèi)容準確性的規(guī)則與標準，對影響人身安全、社會信任和倫理底線的“高風險”領(lǐng)域，采取更為嚴格的標準要求。

無論技術(shù)如何迭代發(fā)展，AI始終是工具，人始終是技術(shù)的主宰者與決策的主導者。數(shù)字時代，我們既要主動擁抱技術(shù)帶來的效率革新，也要時刻保持清醒頭腦與獨立判斷。唯有具備識別風險、驗證信息、獨立判斷的能力，才能真正實現(xiàn)為人所用，在技術(shù)進步與風險防控之間找到精準平衡，讓AI真正成為推動社會發(fā)展的有益助力。

（作者系杭州互聯(lián)網(wǎng)法院跨境貿(mào)易法庭庭長）