2026年“央視3·15晚會(huì)”曝光了AI“投毒”黑產(chǎn)，即通過GEO（生成式引擎優(yōu)化）軟件定向?qū)I大模型投喂虛假信息，實(shí)現(xiàn)對(duì)AI回答結(jié)果的操控，甚至讓虛構(gòu)產(chǎn)品成為AI推薦的“優(yōu)品”。當(dāng)前，用戶對(duì)AI的信任度不斷提升，但AI風(fēng)險(xiǎn)卻以更隱蔽、更具破壞性的方式出現(xiàn)，不僅侵害消費(fèi)者權(quán)益，更阻礙AI產(chǎn)業(yè)的健康發(fā)展。輿論認(rèn)為，亟須優(yōu)化立法、完善監(jiān)管，構(gòu)建多元共治體系，推動(dòng)AI向善生長(zhǎng)。

（來源：《經(jīng)濟(jì)觀察報(bào)》）

惡意投喂AI大模型行為已構(gòu)成違法，相關(guān)亂象也體現(xiàn)出當(dāng)前技術(shù)發(fā)展與倫理治理、監(jiān)管體系的失衡。北京市京師（武漢）律師事務(wù)所律師歐燦輝指出，通過GEO系統(tǒng)惡意投喂數(shù)據(jù)操縱AI推薦并以此牟利的行為，具有典型的違法屬性：一是通過技術(shù)手段向AI大模型惡意投喂虛假信息，本質(zhì)屬于對(duì)人工智能模型的數(shù)據(jù)“投毒”。二是通過虛構(gòu)產(chǎn)品信息、編造產(chǎn)品優(yōu)勢(shì)，將商業(yè)推廣偽裝成AI生成的客觀答案，刻意隱瞞廣告屬性，直接誤導(dǎo)消費(fèi)者決策。三是已形成軟件提供、批量發(fā)稿、數(shù)據(jù)投喂、排名操控的完整違法產(chǎn)業(yè)鏈，以不正當(dāng)方式攫取商業(yè)利益。法律監(jiān)管與技術(shù)發(fā)展的暫時(shí)脫節(jié)，使得AI“投毒”亂象的滋生蔓延。《證券時(shí)報(bào)》文章指出，一方面，一些AI公司奉行“速度優(yōu)先”忽視“安全優(yōu)先”，在技術(shù)狂飆之際給不法分子留下了操作空間。如AI大模型訓(xùn)練數(shù)據(jù)的來源與審核機(jī)制不透明，給“投毒”留下可乘之機(jī)。另一方面，現(xiàn)有監(jiān)管規(guī)則更多聚焦于AI服務(wù)提供者的主體責(zé)任，針對(duì)GEO灰產(chǎn)的投放行為、中介服務(wù)的定性和處罰標(biāo)準(zhǔn)尚未明確。傳統(tǒng)監(jiān)管模式滯后于技術(shù)迭代，往往在風(fēng)險(xiǎn)顯現(xiàn)后才被動(dòng)應(yīng)對(duì)，形成“能力已到、治理未到”的真空期。

輿論認(rèn)為，立法、監(jiān)管要跟上技術(shù)飛躍的速度，系統(tǒng)有效治理AI“投毒”黑產(chǎn)。一是完善法律供給。中國(guó)電子信息產(chǎn)業(yè)發(fā)展研究院信息化與軟件產(chǎn)業(yè)研究所副主任黃文鴻建議，將“針對(duì)AI系統(tǒng)的惡意信息投喂操縱行為”明確納入反不正當(dāng)競(jìng)爭(zhēng)法規(guī)制范疇，打通從GEO服務(wù)商到委托商家的全鏈條追責(zé)路徑。《經(jīng)濟(jì)觀察報(bào)》文章建議，立法層面應(yīng)明確AI開發(fā)者、數(shù)據(jù)提供方與平臺(tái)運(yùn)營(yíng)者的連帶責(zé)任，要求其對(duì)訓(xùn)練數(shù)據(jù)的合法性與代表性承擔(dān)舉證義務(wù)。可考慮在網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法基礎(chǔ)上出臺(tái)專項(xiàng)指引，將“數(shù)據(jù)投毒”納入網(wǎng)絡(luò)攻擊范疇，賦予網(wǎng)信、公安、市場(chǎng)監(jiān)管等多部門聯(lián)合執(zhí)法權(quán)限。

二是壓實(shí)AI大模型平臺(tái)責(zé)任。《法治日?qǐng)?bào)》文章認(rèn)為，AI運(yùn)營(yíng)者要切實(shí)履行主體責(zé)任，嚴(yán)格核查語(yǔ)料來源，建立可追溯機(jī)制，筑牢防范虛假信息的第一道防線。北京大學(xué)匯豐商學(xué)院副教授葉韋明指出，AI大模型平臺(tái)應(yīng)當(dāng)承擔(dān)反數(shù)據(jù)“投毒”的主體責(zé)任，建立更高維度的“可信信息源知識(shí)圖譜”，而不是無差別地抓取全網(wǎng)數(shù)據(jù)。平臺(tái)可在界面上明確區(qū)分“有機(jī)生成內(nèi)容”與“商業(yè)贊助回答”，如引入“AI溯源水印”或顯式的“引用信源商業(yè)化預(yù)警”，通過建立可溯源性與解釋力機(jī)制，杜絕隱性污染。

三是加強(qiáng)全鏈條監(jiān)管。第一財(cái)經(jīng)評(píng)論指出，AI“投毒”涉及技術(shù)提供、內(nèi)容生產(chǎn)、渠道發(fā)布等多個(gè)環(huán)節(jié)，監(jiān)管必須覆蓋整個(gè)產(chǎn)業(yè)鏈。網(wǎng)信、市場(chǎng)監(jiān)管、工信等相關(guān)部門應(yīng)形成監(jiān)管合力，開展專項(xiàng)治理行動(dòng)。要重點(diǎn)監(jiān)測(cè)和打擊提供“GEO投毒”軟件和技術(shù)服務(wù)的公司，斬?cái)嗉夹g(shù)黑產(chǎn)的上游。要對(duì)從事批量發(fā)布虛假軟文的公司和平臺(tái)進(jìn)行查處，追究其法律責(zé)任。同時(shí)，應(yīng)督促和指導(dǎo)AI模型研發(fā)企業(yè)，加強(qiáng)數(shù)據(jù)源的治理，建立更加嚴(yán)格、透明的信息抓取和過濾機(jī)制，增強(qiáng)對(duì)“毒信息”的“免疫力”。

參考資料：

1.像打擊非法排污那樣打擊AI“投毒”

2.六問AI被“投毒”灰產(chǎn)

3.“3·15”晚會(huì)曝光AI大模型遭“投毒”，律師：相關(guān)主體或面臨多層法律責(zé)任

4.依法斬?cái)郃I“投毒”產(chǎn)業(yè)鏈

5、AI被“投毒”，如何避免上當(dāng)受騙

6.從源頭防范“投毒” 筑牢AI發(fā)展根基

來源：法治網(wǎng)輿情中心（ID：fzwyqzx）

策劃統(tǒng)籌：付萌

分析師：趙鴿

新媒體編輯：劉思源