2026年“央視3·15晚會”曝光了AI“投毒”黑產，即通過GEO（生成式引擎優(yōu)化）軟件定向對AI大模型投喂虛假信息，實現(xiàn)對AI回答結果的操控，甚至讓虛構產品成為AI推薦的“優(yōu)品”。當前，用戶對AI的信任度不斷提升，但AI風險卻以更隱蔽、更具破壞性的方式出現(xiàn)，不僅侵害消費者權益，更阻礙AI產業(yè)的健康發(fā)展。輿論認為，亟須優(yōu)化立法、完善監(jiān)管，構建多元共治體系，推動AI向善生長。

（來源：《經濟觀察報》）

惡意投喂AI大模型行為已構成違法，相關亂象也體現(xiàn)出當前技術發(fā)展與倫理治理、監(jiān)管體系的失衡。北京市京師（武漢）律師事務所律師歐燦輝指出，通過GEO系統(tǒng)惡意投喂數(shù)據(jù)操縱AI推薦并以此牟利的行為，具有典型的違法屬性：一是通過技術手段向AI大模型惡意投喂虛假信息，本質屬于對人工智能模型的數(shù)據(jù)“投毒”。二是通過虛構產品信息、編造產品優(yōu)勢，將商業(yè)推廣偽裝成AI生成的客觀答案，刻意隱瞞廣告屬性，直接誤導消費者決策。三是已形成軟件提供、批量發(fā)稿、數(shù)據(jù)投喂、排名操控的完整違法產業(yè)鏈，以不正當方式攫取商業(yè)利益。法律監(jiān)管與技術發(fā)展的暫時脫節(jié)，使得AI“投毒”亂象的滋生蔓延?！蹲C券時報》文章指出，一方面，一些AI公司奉行“速度優(yōu)先”忽視“安全優(yōu)先”，在技術狂飆之際給不法分子留下了操作空間。如AI大模型訓練數(shù)據(jù)的來源與審核機制不透明，給“投毒”留下可乘之機。另一方面，現(xiàn)有監(jiān)管規(guī)則更多聚焦于AI服務提供者的主體責任，針對GEO灰產的投放行為、中介服務的定性和處罰標準尚未明確。傳統(tǒng)監(jiān)管模式滯后于技術迭代，往往在風險顯現(xiàn)后才被動應對，形成“能力已到、治理未到”的真空期。

輿論認為，立法、監(jiān)管要跟上技術飛躍的速度，系統(tǒng)有效治理AI“投毒”黑產。一是完善法律供給。中國電子信息產業(yè)發(fā)展研究院信息化與軟件產業(yè)研究所副主任黃文鴻建議，將“針對AI系統(tǒng)的惡意信息投喂操縱行為”明確納入反不正當競爭法規(guī)制范疇，打通從GEO服務商到委托商家的全鏈條追責路徑?！督洕^察報》文章建議，立法層面應明確AI開發(fā)者、數(shù)據(jù)提供方與平臺運營者的連帶責任，要求其對訓練數(shù)據(jù)的合法性與代表性承擔舉證義務?？煽紤]在網絡安全法、數(shù)據(jù)安全法基礎上出臺專項指引，將“數(shù)據(jù)投毒”納入網絡攻擊范疇，賦予網信、公安、市場監(jiān)管等多部門聯(lián)合執(zhí)法權限。

二是壓實AI大模型平臺責任。《法治日報》文章認為，AI運營者要切實履行主體責任，嚴格核查語料來源，建立可追溯機制，筑牢防范虛假信息的第一道防線。北京大學匯豐商學院副教授葉韋明指出，AI大模型平臺應當承擔反數(shù)據(jù)“投毒”的主體責任，建立更高維度的“可信信息源知識圖譜”，而不是無差別地抓取全網數(shù)據(jù)。平臺可在界面上明確區(qū)分“有機生成內容”與“商業(yè)贊助回答”，如引入“AI溯源水印”或顯式的“引用信源商業(yè)化預警”，通過建立可溯源性與解釋力機制，杜絕隱性污染。

三是加強全鏈條監(jiān)管。第一財經評論指出，AI“投毒”涉及技術提供、內容生產、渠道發(fā)布等多個環(huán)節(jié)，監(jiān)管必須覆蓋整個產業(yè)鏈。網信、市場監(jiān)管、工信等相關部門應形成監(jiān)管合力，開展專項治理行動。要重點監(jiān)測和打擊提供“GEO投毒”軟件和技術服務的公司，斬斷技術黑產的上游。要對從事批量發(fā)布虛假軟文的公司和平臺進行查處，追究其法律責任。同時，應督促和指導AI模型研發(fā)企業(yè)，加強數(shù)據(jù)源的治理，建立更加嚴格、透明的信息抓取和過濾機制，增強對“毒信息”的“免疫力”。

參考資料：

1.像打擊非法排污那樣打擊AI“投毒”

2.六問AI被“投毒”灰產

3.“3·15”晚會曝光AI大模型遭“投毒”，律師：相關主體或面臨多層法律責任

4.依法斬斷AI“投毒”產業(yè)鏈

5、AI被“投毒”，如何避免上當受騙

6.從源頭防范“投毒” 筑牢AI發(fā)展根基

來源：法治網輿情中心（ID：fzwyqzx）

策劃統(tǒng)籌：付萌

分析師：趙鴿

新媒體編輯：劉思源