- +1
上交大團(tuán)隊(duì)發(fā)布可信版OpenClaw
澎湃科技(www.xinlihui.cn)日前獲悉,針對(duì)OpenClaw 的系統(tǒng)性安全風(fēng)險(xiǎn),上海交通大學(xué)計(jì)算機(jī)學(xué)院(網(wǎng)絡(luò)空間安全學(xué)院)副教授王爍帶領(lǐng) 的LoCCS 實(shí)驗(yàn)室團(tuán)隊(duì)推出了一套面向企業(yè)場(chǎng)景的可信化改造方案。該方案通過能力按需激活、權(quán)限前置治理、風(fēng)險(xiǎn)分級(jí)執(zhí)行、結(jié)構(gòu)化記憶和證據(jù)鏈審計(jì)等機(jī)制,將安全與可信從模型層的軟約束,升級(jí)為系統(tǒng)層的硬能力。

上海交通大學(xué)計(jì)算機(jī)學(xué)院(網(wǎng)絡(luò)空間安全學(xué)院)副教授王爍帶領(lǐng)的LoCCS 實(shí)驗(yàn)室團(tuán)隊(duì)推出了面向B端企業(yè)安心版本的OpenClaw
企業(yè)裝“蝦”,最怕的是安全問題
在王爍看來,過去幾年,大模型驅(qū)動(dòng)的內(nèi)容智能已經(jīng)深刻改變了內(nèi)容創(chuàng)作、搜索推薦、文檔分析等工作方式,但整體上仍停留在“反應(yīng)式 AI”階段——模型可以寫出一份幾乎完美的腳本,卻無法真正自主按下回車鍵。
“這就像一個(gè)坐在副駕駛上的顧問,只能提出建議,卻碰不到方向盤?!蓖鯛q說,“而現(xiàn)在,AI 代理正在向‘主動(dòng)式 AI’演進(jìn)。它直接坐在工位上,握著鼠標(biāo)和鍵盤,擁有系統(tǒng)級(jí)權(quán)限,能夠接管絕大多數(shù)數(shù)字化操作?!?/p>
但OpenClaw 目前還被不少企業(yè)視為“高能力與高風(fēng)險(xiǎn)并存”的工具。王爍表示,當(dāng)前企業(yè)使用 OpenClaw 的最大的顧慮就是安全問題?!八_放了較多接口和調(diào)用通道,這意味著外部工具、插件乃至本地文件系統(tǒng)都可能被接入;它又具備較高權(quán)限,能夠刪除、轉(zhuǎn)發(fā)文件,甚至觸達(dá)更敏感的數(shù)字資產(chǎn)?!?/p>
在他看來,OpenClaw 當(dāng)前面臨的核心風(fēng)險(xiǎn)主要包括三類:其一,間接提示詞注入。攻擊者無需直接攻擊用戶,只需在網(wǎng)頁、插件或外部內(nèi)容中植入肉眼不可見的惡意指令,就可能誘導(dǎo) AI 竊取私鑰文件、敏感文檔等信息;其二,模型幻覺。原本用于“清理臨時(shí)文件”的正常指令,可能在誤判之下演變?yōu)槠茐男圆僮?;其三,默認(rèn)端口暴露與安全配置缺失。尤其在云端部署場(chǎng)景下,如果接口和權(quán)限邊界管理不當(dāng),就相當(dāng)于“把保險(xiǎn)柜搬到大街上,還插著鑰匙”。

不做“花瓶式”防護(hù) 把 OpenClaw 變成“省油版”落地
針對(duì) OpenClaw 的系統(tǒng)性安全風(fēng)險(xiǎn),王爍團(tuán)隊(duì)認(rèn)為,不能用簡單粗暴的“一刀切”方式禁用權(quán)限,也不能把安全完全寄托于模型“自覺”。如果防護(hù)機(jī)制只停留在表面,最終只會(huì)變成“花瓶式”安全:看起來合規(guī),實(shí)際上既擋不住風(fēng)險(xiǎn),也拖慢執(zhí)行效率。
對(duì)此,團(tuán)隊(duì)提出的改造思路是:第一,盡量把安全邊界前置,避免把關(guān)鍵判斷全部交給模型;第二,讓復(fù)雜能力默認(rèn)不常駐,減少上下文膨脹帶來的誤判;第三,關(guān)鍵結(jié)論必須具備證據(jù)鏈,避免產(chǎn)品“看起來會(huì)做”,但結(jié)果無法復(fù)核。
基于這一思路,王爍團(tuán)隊(duì)為 OpenClaw 設(shè)計(jì)了多層加固方案。
首先,是建立更清晰的“自我認(rèn)知”機(jī)制,使系統(tǒng)能夠區(qū)分用戶真實(shí)指令與外部環(huán)境中的潛在惡意指令,從而提升對(duì)提示詞注入攻擊的抵御能力,避免盲目執(zhí)行被污染的命令。
其次,是對(duì)可調(diào)用的 API 與功能模塊進(jìn)行認(rèn)證和分級(jí),明確哪些指令屬于可信調(diào)用,哪些操作屬于高風(fēng)險(xiǎn)范圍;對(duì)于高風(fēng)險(xiǎn)任務(wù),則要求前置審批、隔離執(zhí)行,或在受控環(huán)境中完成。
最后,是引入全流程復(fù)盤與審計(jì)機(jī)制,安排“審計(jì)員”持續(xù)跟蹤每一個(gè)敏感操作。從處理的數(shù)據(jù)、執(zhí)行的動(dòng)作,到生成的結(jié)果、可能帶來的風(fēng)險(xiǎn),系統(tǒng)都會(huì)形成完整審計(jì)鏈條;一旦審計(jì)不通過,任務(wù)流程將被立即中止。
在王爍看來,這套方案的核心,不是簡單“減少能力”,而是把復(fù)雜度留在系統(tǒng)內(nèi)部,把最小必要信息留給模型,在提升安全覆蓋面的同時(shí),提高執(zhí)行確定性和結(jié)果可信度。
除了安全加固,團(tuán)隊(duì)還推進(jìn)“大小模型協(xié)同”的調(diào)度機(jī)制,根據(jù)任務(wù)復(fù)雜度動(dòng)態(tài)分配模型資源:簡單任務(wù)由輕量級(jí)模型處理,復(fù)雜任務(wù)再調(diào)用大模型;同時(shí),針對(duì)具體任務(wù)對(duì)大模型進(jìn)行“瘦身”,裁剪掉冗余能力,只保留完成任務(wù)所必需的功能。
“我們現(xiàn)在用 OpenClaw 去完成一個(gè)很簡單的任務(wù),可能一個(gè)月就要花掉幾千塊。對(duì)初創(chuàng)團(tuán)隊(duì)和中小企業(yè)來說,這樣的成本并不輕?!蓖鯛q表示,團(tuán)隊(duì)希望通過按需調(diào)用、模型裁剪和任務(wù)定制,把它做成一個(gè)更適合落地的“省油版 OpenClaw”。
在他看來,真正阻礙 OpenClaw 企業(yè)落地的,不只是“能不能用”,而是“能不能安全地用、低成本地用、持續(xù)地用”。
從“最后一公里”到“最后100米”
王爍認(rèn)為,如果 OpenClaw 的出現(xiàn),打通了 Agent 創(chuàng)業(yè)和落地的“最后一公里”,那么當(dāng)下行業(yè)要解決的,實(shí)際上是更現(xiàn)實(shí)的“最后100米問題”:它到底能不能把工作干好,能不能在真實(shí)業(yè)務(wù)中穩(wěn)定交付結(jié)果。
圍繞這一點(diǎn),王爍表示,團(tuán)隊(duì)接下來將重點(diǎn)攻克三個(gè)方向。
一是測(cè)評(píng)驅(qū)動(dòng)。先對(duì) OpenClaw 進(jìn)行全面測(cè)評(píng),明確其能力邊界、風(fēng)險(xiǎn)邊界和可優(yōu)化空間;
二是能力提升。針對(duì) OpenClaw 做不好的任務(wù),分析問題究竟出在理解、規(guī)劃、執(zhí)行還是工具調(diào)用環(huán)節(jié),并通過定向構(gòu)建高質(zhì)量數(shù)據(jù)進(jìn)行補(bǔ)強(qiáng);
三是持續(xù)優(yōu)化。讓 OpenClaw 在使用中不斷學(xué)習(xí)、反思、迭代,實(shí)現(xiàn)邊用邊改、邊跑邊進(jìn)化?!耙郧盎ヂ?lián)網(wǎng)時(shí)代創(chuàng)業(yè),要找開發(fā)、燒錢、燒人、燒時(shí)間。”王爍說,借助 OpenClaw 這類工具,一個(gè)想法加上一輪驗(yàn)證,短時(shí)間內(nèi)就可能搭出一個(gè)相當(dāng)完整的前端,后端流程也能快速對(duì)接,創(chuàng)業(yè)門檻正在被大幅壓低。
在他看來,企業(yè)利潤的來源也可能隨之發(fā)生變化。過去,軟件公司的收入更多來自訂閱費(fèi);未來,部分產(chǎn)品的商業(yè)模式可能轉(zhuǎn)向“API 調(diào)用費(fèi) × 調(diào)用次數(shù)”。這意味著,軟件業(yè)的底層邏輯正在被重新改寫。
不過,王爍也強(qiáng)調(diào),OpenClaw 所代表的生產(chǎn)力變革并不意味著“單兵作戰(zhàn)”。對(duì)于今天的創(chuàng)業(yè)者來說,首先仍需要供應(yīng)鏈支撐,包括開源平臺(tái)、硬件基礎(chǔ)設(shè)施、垂直領(lǐng)域模型和算力資源;其次,還需要找到明確的場(chǎng)景匹配,用 OpenClaw 去解決具體問題,形成可復(fù)制的微生態(tài);再往后,則是不同 AI 代理企業(yè)之間的協(xié)同,共同完成更復(fù)雜的工作流。
“這本質(zhì)上是一場(chǎng)生產(chǎn)力組織方式的變化?!蓖鯛q表示,當(dāng)越來越多共性需求可以被拆分、共享和協(xié)作完成,算力可以共享,數(shù)據(jù)可以合作,訂單也可以分包與眾包,行業(yè)就會(huì)從過去的供應(yīng)鏈協(xié)同,逐步邁向更大的生態(tài)協(xié)同。





- 報(bào)料熱線: 021-962866
- 報(bào)料郵箱: news@thepaper.cn
滬公網(wǎng)安備31010602000299號(hào)
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營許可證:滬B2-2017116
? 2014-2026 上海東方報(bào)業(yè)有限公司




