肖 芃

最近，杭州互聯(lián)網(wǎng)法院審結(jié)的全國(guó)首例“AI幻覺(jué)”侵權(quán)訴訟案件，受到了社會(huì)高度關(guān)注。案情并不復(fù)雜：梁某使用某生成式AI應(yīng)用詢問(wèn)某高校報(bào)考信息，得到了關(guān)于該高校校區(qū)的不準(zhǔn)確信息。即便梁某及時(shí)對(duì)AI進(jìn)行了糾正，AI仍堅(jiān)稱存在這一校區(qū)，甚至承諾若有誤將賠償10萬(wàn)元，并建議起訴。隨后，梁某以該AI大模型的研發(fā)、部署公司為被告提起訴訟，要求賠償損失。最終法院依法駁回其訴訟請(qǐng)求。

法院裁判理由有以下三點(diǎn)：其一，我國(guó)法律未賦予人工智能以民事主體資格，AI不能獨(dú)立作出有法律約束力的意思表示，因此AI作出的“賠償”表示，不構(gòu)成法律意義上的“承諾”；其二，基于“人類負(fù)責(zé)制”的原則，人工智能系統(tǒng)帶來(lái)的利益和風(fēng)險(xiǎn)，應(yīng)由AI模型的研發(fā)、部署者承擔(dān)，而AI服務(wù)不屬于產(chǎn)品，應(yīng)適用過(guò)錯(cuò)責(zé)任原則，需根據(jù)服務(wù)類型、風(fēng)險(xiǎn)場(chǎng)景等對(duì)服務(wù)提供者的注意義務(wù)作出類型化區(qū)分，兼顧權(quán)益保護(hù)與技術(shù)發(fā)展，案件中被告公司已盡到相關(guān)注意義務(wù)，不具有過(guò)錯(cuò)；其三，根據(jù)無(wú)損害不賠償?shù)脑瓌t，梁某在案件中并未產(chǎn)生實(shí)際損失，被告公司不需要賠償。

這起案件備受矚目，不僅因其是全國(guó)首例“AI幻覺(jué)”侵權(quán)案，深入闡釋了AI生成內(nèi)容的性質(zhì)、服務(wù)提供者的責(zé)任邊界以及侵權(quán)構(gòu)成要件等核心問(wèn)題，為類似糾紛處理提供了重要裁判指引，更在于其警示意義，為全社會(huì)理性看待AI敲響警鐘。

當(dāng)前，以大型語(yǔ)言模型為代表的生成式AI，憑借高效的信息整合與流暢的內(nèi)容生成能力，廣泛應(yīng)用于教育、辦公、咨詢等領(lǐng)域，大幅提升了人們的工作效率，拓寬了創(chuàng)新空間。但技術(shù)便利的背后，潛藏著認(rèn)知偏差：部分使用者逐漸將AI工具權(quán)威化、人格化，甚至將其視為可完全托付重要決策的“專家”。這種認(rèn)知恰恰忽略了AI的技術(shù)本質(zhì)——它僅是一種統(tǒng)計(jì)模型，基于海量語(yǔ)料訓(xùn)練生成內(nèi)容，輸出的是概率關(guān)聯(lián)下的語(yǔ)言序列，而非基于事實(shí)認(rèn)知的“真知”。

“AI幻覺(jué)”正是這一技術(shù)局限的典型表現(xiàn)。從媒體報(bào)道和用戶反饋看，大模型生成內(nèi)容雖常呈現(xiàn)結(jié)構(gòu)完整、語(yǔ)氣篤定的特點(diǎn)，卻時(shí)常包含虛構(gòu)事實(shí)、邏輯矛盾或過(guò)時(shí)信息。這類輸出極具迷惑性，使用者若不加以甄別，極易被誤導(dǎo)，進(jìn)而引發(fā)不良后果。如何與AI良性共存，讓其真正為人所用，最大限度避免其帶來(lái)的風(fēng)險(xiǎn)和誤判，已成為擺在大眾面前的重要命題。

對(duì)普通使用者而言，首要任務(wù)是確立“AI是工具，而非主體”的核心認(rèn)知。要清醒認(rèn)識(shí)到，在當(dāng)前技術(shù)條件下，AI僅是一種高度智能的工具，是生產(chǎn)生活中的文本輔助生成器與信息查詢輔助工具，它不懂事實(shí)的本質(zhì)，只遵循概率的邏輯，其價(jià)值在于節(jié)省時(shí)間、提供思路、整合信息，但工具的局限性決定了它難免出現(xiàn)錯(cuò)誤，絕不能將AI當(dāng)作“決策替代者”。因此，最終的審核權(quán)、決策權(quán)必須掌握在使用者手中——人才是自身行為與決策的最終把關(guān)者。在使用AI時(shí)，必須保持審慎懷疑的態(tài)度，切勿盲目輕信，應(yīng)通過(guò)多方驗(yàn)證，審慎決定是否采納相關(guān)信息。

有評(píng)論者認(rèn)為，這一判決將對(duì)我國(guó)法院審理類似案件產(chǎn)生重要參考價(jià)值，有助于我國(guó)AI行業(yè)的發(fā)展與創(chuàng)新。從行業(yè)層面說(shuō)，《生成式人工智能服務(wù)管理暫行辦法》已為AI行業(yè)劃定了法治紅線。但面對(duì)快速迭代的技術(shù)與日益復(fù)雜的應(yīng)用場(chǎng)景，除了充分發(fā)揮司法裁判的引領(lǐng)、規(guī)范作用之外，還需要推動(dòng)制度持續(xù)完善細(xì)化。比如，進(jìn)一步規(guī)范AI的研發(fā)、部署與使用的全流程，從算法、算力、數(shù)據(jù)集等多個(gè)層面明確服務(wù)提供者的必要、合理注意義務(wù)，進(jìn)一步完善訓(xùn)練數(shù)據(jù)質(zhì)量規(guī)范，健全錯(cuò)誤內(nèi)容發(fā)現(xiàn)、糾偏與反饋機(jī)制，從制度層面防范“AI幻覺(jué)”引發(fā)的侵權(quán)風(fēng)險(xiǎn)。尤其要結(jié)合AI的應(yīng)用場(chǎng)景、風(fēng)險(xiǎn)程度等，分類型、有區(qū)別地制定提高內(nèi)容準(zhǔn)確性的規(guī)則與標(biāo)準(zhǔn)，對(duì)影響人身安全、社會(huì)信任和倫理底線的“高風(fēng)險(xiǎn)”領(lǐng)域，采取更為嚴(yán)格的標(biāo)準(zhǔn)要求。

無(wú)論技術(shù)如何迭代發(fā)展，AI始終是工具，人始終是技術(shù)的主宰者與決策的主導(dǎo)者。數(shù)字時(shí)代，我們既要主動(dòng)擁抱技術(shù)帶來(lái)的效率革新，也要時(shí)刻保持清醒頭腦與獨(dú)立判斷。唯有具備識(shí)別風(fēng)險(xiǎn)、驗(yàn)證信息、獨(dú)立判斷的能力，才能真正實(shí)現(xiàn)為人所用，在技術(shù)進(jìn)步與風(fēng)險(xiǎn)防控之間找到精準(zhǔn)平衡，讓AI真正成為推動(dòng)社會(huì)發(fā)展的有益助力。

（作者系杭州互聯(lián)網(wǎng)法院跨境貿(mào)易法庭庭長(zhǎng)）