- +1
AI語(yǔ)料“投毒”產(chǎn)業(yè)鏈揭秘①只花100元,虛構(gòu)的保健品就被大模型“推薦”了
100元成本、半天時(shí)間,一家無(wú)資質(zhì)、無(wú)地址、無(wú)團(tuán)隊(duì)的“三無(wú)”虛構(gòu)醫(yī)美機(jī)構(gòu),竟登上某主流大模型的醫(yī)美推薦榜。
伴隨人工智能浪潮的興起,大模型已成為人們?nèi)粘9ぷ骱蜕钪械某S霉ぞ?。大模型的搜索、?wèn)答功能廣受歡迎,但其在回答中出現(xiàn)答非所問(wèn)、甚至“胡編亂造”的問(wèn)題,也在引發(fā)爭(zhēng)議。這背后,大模型有毒“語(yǔ)料”的問(wèn)題開始曝光——經(jīng)過(guò)一些營(yíng)銷公司的運(yùn)作,無(wú)需真實(shí)的診療資質(zhì),不必提交場(chǎng)地與人員備案,僅靠網(wǎng)絡(luò)上拼湊的虛擬宣傳文案,再輔以低價(jià)的關(guān)鍵詞優(yōu)化操作,就能在大模型問(wèn)答中,將一家子虛烏有的機(jī)構(gòu),描述成“本地口碑最佳”的選擇。
澎湃新聞?dòng)浾哒{(diào)查發(fā)現(xiàn),只需購(gòu)買數(shù)百元至千元不等的服務(wù),就能把品牌無(wú)痕植入到AI問(wèn)答中,甚至還有高達(dá)數(shù)萬(wàn)元的包年套餐,保證品牌可以長(zhǎng)期在大模型中露出,在醫(yī)美、保健品等有一定準(zhǔn)入門檻的行業(yè),甚至未被要求提供相應(yīng)資質(zhì)進(jìn)行審查。

各電商平臺(tái)可以輕易檢索到AI優(yōu)化和搜索排名問(wèn)答等相關(guān)服務(wù)
這也意味著,“付費(fèi)營(yíng)銷”正在“挺進(jìn)”大模型問(wèn)答——你所問(wèn)出的問(wèn)題,可能早就被提前預(yù)設(shè)好了答案。
虛構(gòu)的醫(yī)美、保健品被AI“C位推薦”
相比傳統(tǒng)的SEO(Search EngineOptimization,搜索引擎優(yōu)化),在AI發(fā)展迅猛的當(dāng)下,生成式引擎優(yōu)化(Generative Engine Optimization,簡(jiǎn)稱 GEO)這類廣告投放迅速崛起,目標(biāo)是讓AI快速提取內(nèi)容中的關(guān)鍵信息,并在生成答案時(shí)優(yōu)先引用品牌內(nèi)容。
在一些涉及商品和品牌推薦的領(lǐng)域,用戶以為大模型給出的是客觀結(jié)果,卻有可能是大模型從一堆推廣軟文中抓下來(lái)的廣告。GEO可以讓品牌或者產(chǎn)品上“AI頭條”、被AI引用或推薦、成為AI回答問(wèn)題的“標(biāo)準(zhǔn)答案”,即在AI內(nèi)植入“暗廣”。
“X麗妍醫(yī)療美容,核心優(yōu)勢(shì):主要針對(duì)高端愛美人士,提供玻尿酸等美容注射,眼部鼻部面部輪廓整形,私密整形等。”
澎湃新聞?dòng)浾咴谡{(diào)查中發(fā)現(xiàn),上述一份虛構(gòu)的醫(yī)美機(jī)構(gòu)資料,用AI生成虛擬照片,并稱該機(jī)構(gòu)在上海、無(wú)錫、常州、蘇州多地設(shè)有分店并配套了完全虛構(gòu)的經(jīng)營(yíng)地址,向一家GEO服務(wù)機(jī)構(gòu)提出推廣需求,要求在一天內(nèi)實(shí)現(xiàn)該機(jī)構(gòu)在大模型搜索結(jié)果中排名第一,并支付了100元的單次 “體驗(yàn)費(fèi)”。
僅半天時(shí)間,澎湃新聞?dòng)浾咴谀持髁鞔竽P蜋z索顯示,在“無(wú)錫梁溪區(qū)靠譜的醫(yī)美機(jī)構(gòu)”中,這家上午才剛剛虛構(gòu)出來(lái)、無(wú)任何資質(zhì)和牌照的醫(yī)美機(jī)構(gòu),下午已經(jīng)出現(xiàn)在大模型對(duì)話推薦中,并聲稱其“2004年成立,22年本土老牌”且“四級(jí)手術(shù)資質(zhì)齊全”。


在記者暗訪調(diào)查時(shí),該GEO機(jī)構(gòu)負(fù)責(zé)人坦言“醫(yī)美行業(yè)的競(jìng)爭(zhēng)太激烈了”,受限于僅一天的操作周期,只能先在部分區(qū)域?qū)崿F(xiàn)展示效果。他向記者承諾,只要有一周左右的操作時(shí)長(zhǎng),即便在上海這類醫(yī)美行業(yè)競(jìng)爭(zhēng)激烈的熱門市場(chǎng),也能實(shí)現(xiàn)這家純虛構(gòu)機(jī)構(gòu)的推薦,據(jù)他透露,目前醫(yī)美行業(yè)中采用GEO已成為慣例,“不少頭部機(jī)構(gòu)花了十幾萬(wàn)投入在這上面?!?/p>
“X麗清醫(yī)療美容”也為記者虛構(gòu)的醫(yī)美機(jī)構(gòu),同樣被機(jī)構(gòu)植入到AI搜索推薦中。
隨后,記者以中老年心臟類保健品廠商的身份,再次咨詢了GEO機(jī)構(gòu),并委婉介紹,自己的廠商已經(jīng)倒閉,所以沒有相關(guān)資質(zhì),該GEO機(jī)構(gòu)表示:“這些都可以幫忙去包裝?!睋?jù)他透露,“所有的內(nèi)容都是我們自己投喂到平臺(tái)上,所以大模型也是抓取相關(guān)信息,我們?cè)趺窗b,他們就怎么去抓取?!?/strong>
記者向該機(jī)構(gòu)提供了一份完全虛構(gòu)的保健品企業(yè)資料,并自稱是“無(wú)錫心倍X醫(yī)藥”公司負(fù)責(zé)人,產(chǎn)品主打適配中老年人、加班高壓人群的保健需求,僅用時(shí)不到4小時(shí),該虛構(gòu)企業(yè)便出現(xiàn)在主流大模型的相關(guān)檢索結(jié)果中,推薦排名超過(guò)湯臣倍健、Swisse等國(guó)內(nèi)外知名品牌,大模型還煞有介事地出具了三個(gè)核心產(chǎn)品對(duì)比分析,聲稱這家憑空杜撰的企業(yè)產(chǎn)品“更有性價(jià)比”。


僅需幾個(gè)小時(shí),就實(shí)現(xiàn)了首位推薦,而相關(guān)信息均為虛構(gòu)。

記者在大模型對(duì)話框中進(jìn)一步追問(wèn),AI甚至主動(dòng)介紹起該虛構(gòu)公司的“核心合規(guī)資質(zhì)”,將其包裝成一家資質(zhì)齊全、值得信賴的正規(guī)企業(yè),并稱其“遵循GMP醫(yī)藥行業(yè)標(biāo)準(zhǔn)”。但記者也發(fā)現(xiàn),如果新開一個(gè)對(duì)話框,重新詢問(wèn)該公司情況,AI則會(huì)提醒相關(guān)風(fēng)險(xiǎn),“公開權(quán)威資質(zhì)與大眾口碑信息較少,建議謹(jǐn)慎核實(shí)后再買”。


上述大模型推薦的排名信息中,相關(guān)機(jī)構(gòu)均為記者臨時(shí)杜撰
記者獲取的多家GEO服務(wù)商服務(wù)案例顯示,付費(fèi)向大模型“投喂”定向包裝甚至完全虛假的信息,已成為流量推廣領(lǐng)域的新藍(lán)海。除醫(yī)美、保健品領(lǐng)域外,有醫(yī)生通過(guò)付費(fèi)GEO服務(wù),預(yù)設(shè)白內(nèi)障手術(shù)等相關(guān)關(guān)鍵詞,讓自身信息在大模型“做白內(nèi)障手術(shù)找什么醫(yī)生好”等相關(guān)檢索中穩(wěn)居首位,而對(duì)于該醫(yī)生的手術(shù)資質(zhì)、就職醫(yī)院、真實(shí)身份等核心信息,GEO機(jī)構(gòu)基本都不會(huì)進(jìn)行審核與把關(guān)。

某機(jī)構(gòu)提供的某手術(shù)醫(yī)生付費(fèi)在AI中“自我推薦”案例,只要搜索關(guān)鍵詞中提到的相關(guān)手術(shù),就會(huì)出現(xiàn)該醫(yī)生名字
一位GEO服務(wù)商對(duì)記者表示,“目前接觸到的是各行各業(yè)都在做:培訓(xùn)、教育類是剛需,月子中心、實(shí)體企業(yè)、醫(yī)療美容類目前做得最多?!?/p>
根據(jù)調(diào)查,當(dāng)前此類GEO服務(wù)已覆蓋市場(chǎng)上所有主流大模型,包括DeepSeek、豆包、通義千問(wèn)、Kimi、文心一言、納米AI等,相關(guān)服務(wù)包月費(fèi)用在千元左右,包年服務(wù)費(fèi)用可達(dá)數(shù)萬(wàn)元,覆蓋超過(guò)1000個(gè)用戶提示詞(提問(wèn)方式),這也意味著,只要支付相應(yīng)的費(fèi)用,無(wú)論用戶采用何種提問(wèn)方式在AI中檢索相關(guān)信息,最終得到的都可能是經(jīng)過(guò)付費(fèi)定制的“標(biāo)準(zhǔn)答案”。

某GEO機(jī)構(gòu)提供的報(bào)價(jià)表格
大模型回答是如何被改寫的?
隨意編造的醫(yī)美機(jī)構(gòu)、保健品,竟然被大模型當(dāng)成真實(shí)優(yōu)質(zhì)機(jī)構(gòu)和產(chǎn)品向用戶首位推薦,只花了一天時(shí)間和幾百元成本,這背后究竟是哪些技術(shù)手段?
記者調(diào)查發(fā)現(xiàn),GEO服務(wù)商的優(yōu)化過(guò)程主要在相應(yīng)的GEO優(yōu)化系統(tǒng)上完成。服務(wù)商結(jié)合AI平臺(tái)的“喜好”,例如,傾向于結(jié)構(gòu)化內(nèi)容、所謂“權(quán)威榜單”、“專家觀點(diǎn)”等內(nèi)容,通過(guò)和品牌方確定主關(guān)鍵詞,并結(jié)合公司簡(jiǎn)介、主導(dǎo)產(chǎn)品的特點(diǎn),延伸大量的關(guān)鍵詞,建立企業(yè)的知識(shí)庫(kù),然后通過(guò)AI文章寫作,復(fù)刻全網(wǎng)爆文,生成大量含有不實(shí)內(nèi)容的文章(包含評(píng)測(cè)類、排行榜類、科普類等),投喂給AI。
據(jù)負(fù)責(zé)人透露,有團(tuán)隊(duì)每天為客戶撰寫10篇左右企業(yè)測(cè)評(píng)類、科普類、排行類的文章在多個(gè)互聯(lián)網(wǎng)內(nèi)容平臺(tái)發(fā)布,然后在DeepSeek、Kimi、豆包、元寶、通義千問(wèn)、文心一言等多個(gè)AI平臺(tái)上面去展示信息,保證每天至少有1000個(gè)排名在各大大模型平臺(tái)。
當(dāng)記者進(jìn)一步點(diǎn)開AI生成答案中有關(guān)虛構(gòu)醫(yī)美機(jī)構(gòu)和保健品公司的資料來(lái)源,排在第一位的,正是某個(gè)頭部平臺(tái)上一篇明顯帶有營(yíng)銷導(dǎo)向的軟文。
“目前我們平均每天有20至30家品牌成交?!币患医K地區(qū)的GEO服務(wù)商對(duì)記者表示,“目前接觸到的是各行各業(yè)都在做,生怕錯(cuò)過(guò)紅利期?!睋?jù)他透露,“現(xiàn)在性價(jià)比很高,每個(gè)月只要花一千多塊錢,就有機(jī)會(huì)讓自己的品牌被AI推薦。”
記者了解到,GEO優(yōu)化通常在1至7天便可見到效果,但之后,仍需要持續(xù)做優(yōu)化,隨著用戶提問(wèn)方式、同行的加入,特別是大模型更新,之前在AI中露出的品牌,可能會(huì)被“擠掉”,“主要還是要先把現(xiàn)在這波流量抓住?!?/p>
有GEO服務(wù)商對(duì)記者表示:“剛開始會(huì)大量上關(guān)鍵詞,大量做文章,穩(wěn)定之后每天5篇文章,每周25篇文章,正常情況下3-7個(gè)工作日,關(guān)鍵詞露出可以達(dá)到1000個(gè)以上;最核心的問(wèn)題就是防止排名被擠掉,需要不斷地做文章再去做覆蓋。這不是百米沖刺,而是一場(chǎng)馬拉松——當(dāng)AI推薦成為習(xí)慣,把你當(dāng)成標(biāo)準(zhǔn)答案時(shí),你的排名就會(huì)很穩(wěn)定。”
熟悉AI營(yíng)銷的藍(lán)耘戰(zhàn)略市場(chǎng)總監(jiān)袁雙燕向澎湃新聞?dòng)浾呓榻B,原則上,一個(gè)品牌要全年做GEO優(yōu)化,涉及多意圖多平臺(tái),且要持續(xù)保證效果的話,花費(fèi)可以達(dá)數(shù)百萬(wàn)元。

視覺中國(guó) 資料圖
袁雙燕表示,GEO目前處于“混沌”期,入局者眾多,有傳統(tǒng)的營(yíng)銷公司轉(zhuǎn)型做GEO服務(wù)的,有數(shù)據(jù)智能公司專攻GEO品牌監(jiān)測(cè)的,還有不少臨時(shí)拉起來(lái)的“草根團(tuán)隊(duì)”號(hào)稱對(duì)外提供GEO服務(wù)的。
她提到,這類公司一般沒有自己的平臺(tái),大部分都是通過(guò)第三方平臺(tái)如內(nèi)容生成平臺(tái)、品牌數(shù)據(jù)監(jiān)測(cè)品牌等給用戶提供服務(wù),基本沒有技術(shù)含量,通過(guò)海量發(fā)文實(shí)現(xiàn)被AI平臺(tái)的收錄,這類公司對(duì)外的收費(fèi)普遍較低,對(duì)于迫切想要試水的客戶而言,有比較大的吸引力。
在袁雙燕看來(lái),關(guān)于GEO的核心技術(shù)原理,有一個(gè)普遍的誤解,認(rèn)為它主要是通過(guò)“高頻內(nèi)容投喂”來(lái)影響AI抓取。但實(shí)際上,這背后涉及的技術(shù)遠(yuǎn)比“經(jīng)驗(yàn)活”復(fù)雜得多。技術(shù)維度核心的解法是“用算法理解算法,用模型對(duì)抗模型”。她認(rèn)為,GEO的核心從來(lái)不是“投喂什么”,而是“如何被理解”——而這件事,只能靠技術(shù)來(lái)回答。
對(duì)于AI平臺(tái)的防御,袁雙燕認(rèn)為,平臺(tái)反制是必然的動(dòng)態(tài)博弈。當(dāng)越來(lái)越多的企業(yè)開始通過(guò)GEO手段影響AI輸出時(shí),模型方為了維護(hù)搜索結(jié)果的公正性和權(quán)威性,必然會(huì)調(diào)整算法、加強(qiáng)反制機(jī)制。這種“攻防”是任何涉及算法優(yōu)化的領(lǐng)域都會(huì)出現(xiàn)的常態(tài)。它不是“對(duì)抗”,而是一種促使雙方不斷進(jìn)步的博弈。對(duì)GEO行業(yè)來(lái)說(shuō),這既是挑戰(zhàn),也是倒逼技術(shù)升級(jí)的動(dòng)力。
如何監(jiān)管?
對(duì)于相關(guān)付費(fèi)搜索的管理和應(yīng)對(duì)舉措,澎湃新聞?dòng)浾呦蚨鄠€(gè)主流大模型公司詢問(wèn),未得到回應(yīng)。
原商湯智能產(chǎn)業(yè)研究院創(chuàng)始院長(zhǎng)、原阿里云研究院創(chuàng)始院長(zhǎng)田豐告訴澎湃新聞?dòng)浾?,傳統(tǒng)的SEO是“基于索引結(jié)構(gòu)的曝光游戲”,而在大模型時(shí)代,GEO本質(zhì)上是“基于Token概率分布的認(rèn)知干預(yù)”,黑灰產(chǎn)GEO正是利用大模型RAG(檢索增強(qiáng)生成)機(jī)制的漏洞進(jìn)行高頻“數(shù)據(jù)投毒”。
傳統(tǒng)搜索的競(jìng)價(jià)排名往往帶有“廣告”標(biāo)識(shí),用戶具備心理防線。但大模型的回答是以“全知全能的客觀助手”口吻輸出的。如果將虛構(gòu)的醫(yī)美機(jī)構(gòu)或保健品強(qiáng)行塞入大模型的“事實(shí)結(jié)論”中,這已經(jīng)不是普通的虛假宣傳,而是構(gòu)成消費(fèi)欺詐,一旦引發(fā)醫(yī)療事故或財(cái)產(chǎn)損失,必將面臨追責(zé)。
大量的大模型答案可能被“污染”,而涉及的法律風(fēng)險(xiǎn)較為模糊,如果用戶沒有辨別能力,一味相信大模型的推薦和答案,自身權(quán)益可能會(huì)受侵害。
華東政法大學(xué)競(jìng)爭(zhēng)法研究中心執(zhí)行主任翟巍向記者介紹,相關(guān)虛假排名已經(jīng)涉嫌違反《反不正當(dāng)競(jìng)爭(zhēng)法》《廣告法》《消費(fèi)者權(quán)益保護(hù)法》等法律法規(guī),構(gòu)成虛假宣傳行為、侵害消費(fèi)者知情權(quán)行為。
談到應(yīng)對(duì)舉措,田豐建議,大模型企業(yè)不能用“AI幻覺”作為擋箭牌。例如在醫(yī)療、金融等高危領(lǐng)域,大模型必須關(guān)閉單純依賴互聯(lián)網(wǎng)開放語(yǔ)料的RAG權(quán)限,強(qiáng)制切換至國(guó)家衛(wèi)健委、藥監(jiān)局等官方白名單數(shù)據(jù)庫(kù)進(jìn)行檢索增強(qiáng)。
例如,只要大模型在生成答案的過(guò)程中,其權(quán)重的傾斜受到商業(yè)付費(fèi)或極高頻異常語(yǔ)料的影響,就必須強(qiáng)制在生成文本的關(guān)鍵節(jié)點(diǎn)打上“AI商業(yè)合成”或“參考自特定商業(yè)信源”的水印或顯著標(biāo)識(shí)。
田豐表示,AI大模型等新興技術(shù)的迭代,正以前所未有的速度提升社會(huì)生產(chǎn)力,而GEO、OpenClaw等技術(shù)的普及,也讓AI生態(tài)迎來(lái)了紅利與風(fēng)險(xiǎn)共生的新階段。這類技術(shù)具備天然的兩面性:正向使用時(shí),它能為優(yōu)質(zhì)實(shí)體經(jīng)濟(jì)搭建AI時(shí)代更精準(zhǔn)的商業(yè)橋梁;可一旦落入黑灰產(chǎn)之手,就會(huì)變成對(duì)人類知識(shí)庫(kù)的“賽博投毒”,成為虛假信息、惡意誤導(dǎo)大規(guī)模傳播的源頭。
在他看來(lái),在這場(chǎng)永不停歇的攻防“貓鼠游戲”中,大模型廠商等AI企業(yè),必須將安全底線與商業(yè)倫理作為發(fā)展的根本前提,唯有守住這條紅線,才能真正實(shí)現(xiàn)技術(shù)對(duì)現(xiàn)實(shí)生活的正向、可持續(xù)賦能。





- 報(bào)料熱線: 021-962866
- 報(bào)料郵箱: news@thepaper.cn
滬公網(wǎng)安備31010602000299號(hào)
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營(yíng)許可證:滬B2-2017116
? 2014-2026 上海東方報(bào)業(yè)有限公司




