同樣一套技術(shù)，一邊是讓用戶抓狂的“人工智障”，另一邊卻是精準(zhǔn)高效的“作惡利器”。這不僅是技術(shù)能力的差距，更是一條由資本逐利驅(qū)動的善惡產(chǎn)業(yè)鏈。

內(nèi)容/劉平

編輯/詠鵝

校對/莽夫

最近，美國知名AI公司Anthropic發(fā)布了一份研究報告，列出了“最容易被AI取代的職業(yè)”，排在第二位的是客服代表。

這個結(jié)論在普通消費者看來，多少有些黑色幽默。畢竟，如果你想快速激怒一個人，途徑之一就是讓他去和AI客服溝通復(fù)雜問題。

車轱轆話來回說、無法共情情緒、死活找不到“轉(zhuǎn)人工”入口……這些被稱為“人工智障”的AI客服，算得上是當(dāng)代消費者維權(quán)路上的一堵嘆息之墻。

但AI真的這么蠢嗎？并不是。

剛剛過去的央視“3·15”晚會上，曝光了利用AI大模型進(jìn)行GEO（生成式引擎優(yōu)化）投毒的灰色產(chǎn)業(yè)鏈。一款不存在的產(chǎn)品，在AI的批量造假下，幾個小時就能排進(jìn)大模型推薦榜單前三。

這并非AI技術(shù)首次在商業(yè)應(yīng)用中走歪。在去年的“3·15”中，一臺一年使用成本一萬元左右、一天能撥打上千個營銷電話的AI外呼機器人早已被曝光。時隔一年，這些毫無感情、不知疲倦的“硅基員工”依然在高效運轉(zhuǎn)。

服務(wù)你的AI像個“智障”，騷擾你的AI卻像個“人精”。這不是技術(shù)本身的局限，而是一場關(guān)于資本逐利、技術(shù)異化與話語權(quán)爭奪的殘酷折疊。

AI落地商業(yè)場景呈現(xiàn)出的AB面，向我們揭示了一個冷酷的商業(yè)真相，技術(shù)的流向，永遠(yuǎn)臣服于買單者的真實意圖。

Part.1

降本的邏輯

“人工智障”的必然誕生

從商業(yè)邏輯看，客服確實是AI落地的理想地。退貨退款、密碼重置、訂單查詢……這些高頻、重復(fù)、流程化的需求，完美契合AI標(biāo)準(zhǔn)化、規(guī)?；幚淼膬?yōu)勢。

但消費者的體感卻截然相反。面對無法理解語境、感受不了情緒變動、只會匹配標(biāo)準(zhǔn)話術(shù)的AI客服，用戶的怒氣值往往越聊越高，最終依然要狂吼著“轉(zhuǎn)人工”。

但企業(yè)算得清這筆賬，一個AI客服的邊際成本，與一個人工客服的固定開銷相比，孰多孰少。

現(xiàn)實是，企業(yè)部署AI客服的首要目的，從來不是為了提升我們的體驗，而是為了降低自己的成本。

目前企業(yè)級AI客服的價格跨度極大，從一年幾千塊的SaaS基礎(chǔ)版，到幾十萬、上百萬的私有化部署皆有，核心區(qū)別在于AI是只會識別關(guān)鍵詞的復(fù)讀機，還是能理解復(fù)雜意圖、具備情緒感知能力、進(jìn)行擬人對話的“智能體”。

在降本增效的大環(huán)境下，面對這道選擇題，絕大多數(shù)企業(yè)選擇了低價模型。畢竟，在確定性的成本數(shù)字面前，“用戶滿意度”“品牌忠誠度”這類難以量化的軟性指標(biāo)，被毫不留情地邊緣化了。

于是，我們看到了一個“技術(shù)越進(jìn)步，體驗卻越糟糕”的悖論。大模型理解語言的能力日新月異，但它與“理解人”之間，始終橫亙著一道鴻溝。

這道鴻溝的深淺，不取決于技術(shù)本身，而取決于企業(yè)在為“理解人”這件事上，究竟愿意付多少錢。

不少企業(yè)甚至為了進(jìn)一步控制人工成本，層層隱藏人工客服的入口，用迷宮般的AI話術(shù)消耗消費者的耐心。這種技術(shù)層面的敷衍，本質(zhì)上是企業(yè)在利用技術(shù)壁壘，單方面提高消費者的維權(quán)門檻。

當(dāng)我們對著屏幕無能狂怒時，企業(yè)后臺的數(shù)據(jù)表上，或許僅僅是多了一條“AI客服已處理X條客訴”的亮眼KPI。 

Part.2

技術(shù)的暗面

從降本到“作惡”

如果“人工智障”只是讓用戶體驗變差，那么當(dāng)AI技術(shù)被注入另一種商業(yè)目的時，就完成了從無能到無良的質(zhì)變。

2025年“3·15”曝光的上海智優(yōu)擎、飛鴿傳書、淘金你我、合眾易聯(lián)等企業(yè)，扯開了AI電銷灰產(chǎn)的一角。一臺一年成本僅一萬元的外呼機器人，單日撥打量是人工的百倍。

而當(dāng)這種高效的“技術(shù)暴力”與金融催收暴利行業(yè)結(jié)合，破壞力則呈指數(shù)級放大，同時衍生出了更隱晦的資本嵌套游戲。

近日，馬上消費金融股份有限公司撤回輔導(dǎo)備案，結(jié)束了長達(dá)5年的IPO長跑。上市折戟的背后，與公司治理層面的結(jié)構(gòu)性短板脫不開關(guān)系。2025年1月負(fù)責(zé)輔導(dǎo)的中金公司與中信建投在報告中指出，馬上消費的董事會中獨立董事占比低于監(jiān)管規(guī)定的三分之一。

但比治理短板更引人深思的，是馬上消費背后那張環(huán)環(huán)相扣、層層嵌套的利益關(guān)聯(lián)網(wǎng)。

公開資料顯示，馬上消費的第一大股東為重慶百貨大樓，持股達(dá)31.1%；北京中關(guān)村科金技術(shù)有限公司（以下簡稱“中關(guān)村科金”）緊隨其后，持股29.5%。

馬上消費的董事長趙國慶，同時擔(dān)任著第二大股東“中關(guān)村科金”的董事長，其同時還是中關(guān)村科金的控股股東——寧波高達(dá)致晟科技有限公司的實際控制人。

這套層層嵌套的股權(quán)設(shè)計，讓兩家名義上獨立的公司，在核心利益深度綁定。而這張利益網(wǎng)絡(luò)的下游，還有中關(guān)村科金的全資子公司“重慶信盟科技發(fā)展有限公司”（以下簡稱“信盟科技”）。

信盟科技于2024年8月因非法暴力催收被浙江警方查處，200余名員工被帶走調(diào)查。

經(jīng)查，該公司員工采用“短信轟炸、虛構(gòu)導(dǎo)航、叫貨拉拉上門騷擾”等手段催收，導(dǎo)致寧波市公安局北侖分局巡特警大隊等單位無法正常工作，最終數(shù)十名催收員因?qū)め呑淌伦锉慌行獭?/strong>

但暴力催收的刑事案底，沒有切斷信盟科技與馬上消費金融的業(yè)務(wù)往來，信盟科技至今仍是馬上消費金融的合作催收機構(gòu)名單中，且雙方“每年合作金額達(dá)數(shù)億元”。

這種關(guān)聯(lián)交易引發(fā)外界質(zhì)疑，被戲稱為“左手放貸，右手催收”的產(chǎn)業(yè)閉環(huán)。

而中關(guān)村科金在其中扮演的角色更值得玩味。天眼查顯示，中關(guān)村科金是一家企業(yè)級大模型技術(shù)與應(yīng)用服務(wù)商，主要產(chǎn)品就包括智能外呼。

“智能外呼”位于其官網(wǎng)產(chǎn)品第一位

這就形成了一個近乎完美的產(chǎn)業(yè)閉環(huán)與責(zé)任隔離。

牌照方-馬上消金負(fù)責(zé)放貸；關(guān)聯(lián)科技公司-中關(guān)村科金提供底層的AI外呼技術(shù)；孫公司-信盟科技在最前端承接催收臟活。

在這個鏈條里，高大上的AI技術(shù)成為了催收員的武器。所謂的技術(shù)公司沒有直接作惡，而是通過股權(quán)關(guān)聯(lián)、業(yè)務(wù)外包、算法輸出等方式，將技術(shù)能力輸送給關(guān)聯(lián)方實施作惡，并在法律層面保持一道若即若離的隔離墻，規(guī)避直接追責(zé)。

這正是當(dāng)下部分投機性科技公司的通病，明面上高舉云計算、大模型的創(chuàng)新大旗，背地里卻在搭建隱秘的灰色產(chǎn)業(yè)鏈，讓技術(shù)創(chuàng)新淪為規(guī)避監(jiān)管、無底線牟利的遮羞布。

這種“技術(shù)作惡”的危害遠(yuǎn)超“人工智障”，因為它不僅有惡意，還極其高效。

Part.3

劣幣驅(qū)逐良幣

被資本圍獵的普通人

2025年“3·15”晚會曝光次日，智優(yōu)擎公司遭到查處，官網(wǎng)已無法打開。天眼查卻顯示，同樣涉事的飛鴿傳書、淘金你我、合眾易聯(lián)等公司仍正常存續(xù)。

這意味著，AI電銷的灰色產(chǎn)業(yè)鏈并未隨曝光而消亡，商業(yè)模式也未絕跡。

一年過去，AI電銷的生意依舊紅火。社交平臺上，AI外呼機器人的廣告鋪天蓋地，用“一年費用不到一個員工月薪，卻干十幾個人的活”之類的話術(shù)，精準(zhǔn)刺激著每一個想降本的老板。

在社交平臺輸入“AI外呼機器人”的關(guān)鍵詞，就會出現(xiàn)大量推銷相關(guān)產(chǎn)品的廣告帖子，以誘人話術(shù)展示AI外呼機器人的種種優(yōu)勢，仿佛擁有其就能“躺賺”。

供給端的熱火朝天，對應(yīng)的是需求端的源源不斷。以催收行業(yè)為例，由于催收風(fēng)險成本越來越高，放貸公司找合作機構(gòu)不容易。AI客服不僅能節(jié)約人力成本，還能鉆治理缺位的空子。

數(shù)據(jù)顯示，馬上消費金融的催收成本居高不下。2020年至2024年，該公司催收費用分別為11.56億元、15.01億元、20.88億元、28.20億元、31.28億元，五年合計高達(dá)106.93億元，2024年催收費用占營收的比例已達(dá)20.65%。

高額的催收投入不僅推高了公司運營成本，也刺激了對更“高效”工具的需求。

而在鏈條的另一端，是無數(shù)被技術(shù)圍獵的普通人。據(jù)媒體報道，近期有市民報料稱，70多歲母親參加保健品會銷免費領(lǐng)取雞蛋后，個人信息疑似泄露，一年間接到300多個騷擾電話。

我們可以看到，服務(wù)于用戶的AI客服，因為企業(yè)不愿投入而淪為“人工智障”；服務(wù)于商業(yè)利益的AI電銷，卻因“剛需”而大行其道。同樣的技術(shù)，一邊是刻意的敷衍，一邊是精準(zhǔn)的侵?jǐn)_。

在商業(yè)世界里，技術(shù)的流向從來都服從于資本的逐利邏輯。當(dāng)“低質(zhì)低價”的AI客服能幫企業(yè)省下真金白銀，而“高效作惡”的AI電銷能幫關(guān)聯(lián)方更快回款時，技術(shù)便啟動了劣幣驅(qū)逐良幣的自我強化機制。

技術(shù)力量的增長，并沒有天然帶來服務(wù)體驗的提升，反而在資本的裹挾下，成了侵?jǐn)_公眾、壓榨用戶的強大武器。

這不是一篇反技術(shù)的檄文。技術(shù)是中性的，但商業(yè)動機是有善惡的。在這條由利益編織的善惡產(chǎn)業(yè)鏈上，最脆弱的，永遠(yuǎn)是那個在電話另一端，對著“人工智障”和暴力催收無能為力的普通人。