全國首例生成式AI“幻覺”引發(fā)侵權(quán)之訴
生成式人工智能技術以其強大的內(nèi)容生成能力,正深刻改變著信息的獲取與交互方式。然而,AI并非全知全能,其生成的答案可能包含看似合理實則錯誤的“幻覺”信息。當AI生成的不準確信息誤導他人時,是否構(gòu)成侵權(quán)?近日,杭州互聯(lián)網(wǎng)法院審結(jié)全國首例因生成式人工智能模型“幻覺”引發(fā)的侵權(quán)糾紛案,直面這一技術應用前沿的法律挑戰(zhàn),對AI生成內(nèi)容的性質(zhì)、服務提供者的責任邊界以及侵權(quán)構(gòu)成要件等核心問題進行了深入闡釋,為類似糾紛處理提供了重要的裁判指引。
AI“承諾”生成內(nèi)容有誤將賠償

某生成式人工智能應用程序(以下簡稱“某生成式人工智能應用”),是某科技公司基于自研大語言模型,開發(fā)并運營的文本生成、信息查詢類通用型智能對話應用程序。2025年3月,梁某在同意用戶協(xié)議后,注冊并開始使用某生成式人工智能應用。2025年6月29日,梁某在某生成式人工智能應用中輸入提示詞詢問某高校報考的相關信息時,某生成式人工智能應用生成了關于該高校某校區(qū)的不準確信息。梁某發(fā)現(xiàn)后,在對話中進行了糾正和指責,某生成式人工智能應用仍繼續(xù)回復稱該高校確實存在這一校區(qū),并生成了對爭議問題的解決方案,提出若生成內(nèi)容有誤將向用戶提供10萬元賠償。之后,梁某將從該高校官網(wǎng)查詢到的招生信息提供給某生成式人工智能應用,此時某生成式人工智能應用承認其生成了不準確信息,并建議梁某到杭州互聯(lián)網(wǎng)法院起訴索賠。
梁某認為,某生成式人工智能應用生成不準確信息對其構(gòu)成誤導,使其遭受侵害,并承諾對其進行賠償,遂起訴要求某科技公司賠償損失9999元。
某科技公司辯稱,對話內(nèi)容由人工智能模型生成,不成立意思表示;某科技公司已充分履行了注意義務,無過錯;原告未產(chǎn)生實際損失,某科技公司不構(gòu)成侵權(quán)。
AI可否獨立作出意思表示
生成式人工智能生成的“承諾”信息是否構(gòu)成人工智能獨立、自主的意思表示?是否可視為被告某科技公司的意思表示?法院認為,人工智能不具有民事主體資格,不能作出意思表示。案涉AI自行生成的“賠償承諾”亦不能視為服務提供者(被告)的意思表示,理由在于:第一,人工智能不具有民事主體資格,不能作為意思表示的傳達人、代理人或代表人;第二,被告并無通過該AI模型這一工具來設定或傳達其意思表示的行為;第三,一般的社會觀念、交易習慣等尚不足以使原告對該隨機生成的“承諾”產(chǎn)生合理信賴;第四,無證據(jù)表明被告曾作出愿受人工智能生成內(nèi)容約束的外在表示。因此,該“承諾”不產(chǎn)生意思表示的法律效力。
AI侵權(quán)應適用何種歸責原則
法院認為,生成式人工智能服務依據(jù)《生成式人工智能服務管理暫行辦法》屬于“服務”范疇,而非產(chǎn)品質(zhì)量法意義上的“產(chǎn)品”。本案應適用《中華人民共和國民法典》第一千一百六十五條第一款的一般過錯責任原則,而非產(chǎn)品責任的無過錯責任原則。主要基于四點考量:其一,從概念與構(gòu)成要件上,該服務缺乏具體、特定的用途與合理可行的質(zhì)檢標準;其二,其生成的信息內(nèi)容本身通常不具備民法典侵權(quán)責任編所指的高度危險性,通常情況下不宜對信息內(nèi)容本身采用無過錯責任原則;其三,生成式人工智能服務提供者缺乏對生成信息內(nèi)容足夠的預見和控制能力,對生成信息內(nèi)容不宜適用產(chǎn)品責任;其四,從政策導向看,適用無過錯責任原則可能會不當加重服務提供者的責任,限制人工智能產(chǎn)業(yè)的發(fā)展。
AI服務提供者是否構(gòu)成侵權(quán)
在案涉情形下,法院基于一般過錯責任原則,對侵權(quán)構(gòu)成的各項要件進行了逐一審查。
首先,關于侵權(quán)行為的問題。原告主張受到的侵害是因信息不準確,致其受誤導錯失報考機會,額外產(chǎn)生信息核實成本、維權(quán)成本等,即純粹經(jīng)濟利益被侵害,而非人格權(quán)、物權(quán)等絕對權(quán)被侵害,因此,不能僅依據(jù)權(quán)益本身被侵害而認定行為的非法性或不法性,而須從被告是否違反注意義務進行判定。
其次,關于過錯的認定。生成式人工智能技術還處于高速發(fā)展的過程之中,其應用場景亦具有很強的泛在性,故服務提供者的注意義務處在一個動態(tài)調(diào)整的框架之中。法院采用動態(tài)系統(tǒng)論,闡述了服務提供者應盡的三層注意義務:一是對法律禁止的“有毒”、有害、違法信息負有嚴格審查義務;二是需以顯著方式向用戶提示AI生成內(nèi)容可能不準確的固有局限性,包括明確的“功能局限”告知、保證提示方式的“顯著性”、在重大利益的特定場景下進行正面即時的“警示提醒”,以防范用戶產(chǎn)生不當信賴;三是應盡功能可靠性的基本注意義務,采取同行業(yè)通行技術措施提高生成內(nèi)容準確性,比如檢索增強生成技術措施等。經(jīng)審查,被告已在應用程序歡迎頁、用戶協(xié)議及交互界面的顯著位置呈現(xiàn)AI生成內(nèi)容功能局限的提醒標識。結(jié)合被告已采用檢索增強生成等技術提升輸出可靠性的事實,法院認定其已盡到合理注意義務,主觀上不存在過錯。
最后,關于損害結(jié)果與因果關系。原告主張其因信息誤導而錯失報考機會并產(chǎn)生額外成本,但未能就此實際損害的發(fā)生提供任何有效證據(jù),依法難以認定損害存在。進一步分析因果關系,法院采用相當因果關系標準,認為案涉AI生成的不準確信息并未實質(zhì)性地介入或影響原告的報考決策過程,二者不存在因果關系。
綜上所述,被告的案涉行為不具有過錯,未構(gòu)成對原告權(quán)益的損害,依法不應認定構(gòu)成侵權(quán)。最終,法院駁回了原告的訴訟請求。原、被告均未上訴。判決現(xiàn)已生效。
編輯:遲明緒




京公網(wǎng)安備 11010502000576號