欧美成人A片免费|日韩无码一级av|一级黄色大片在线播放|黄片视频在线观看无码|亚洲精品成人无码影视|婷婷五月天视频网站|日韩三级AV在线播放|姓爱av在线婷婷春色五月天|真人全黃色录像免费特黄片|日本无码黄在线观看下载

  • +1

對話螞蟻集團副總裁韋韜:如何讓數(shù)據(jù)流通從主體信任走向技術(shù)信任

澎湃新聞記者 吳天一
2023-07-07 09:17
來源:澎湃新聞
? 未來2% >
聽全文
字號

·企業(yè)以前可能會因為對方是信譽的主體而進行數(shù)據(jù)交易,但這種規(guī)模難以擴展,信任被破壞的風(fēng)險也非常高。但未來,企業(yè)會趨向于因為對方使用了安全可信的技術(shù)而進行數(shù)據(jù)交易。

·天空計算作為伯克利大學(xué)RISE Lab提出的一種新的云計算架構(gòu),其目標(biāo)是實現(xiàn)云之間的互操作性,讓用戶可以跨越不同的云廠商和服務(wù),按需獲取最優(yōu)的計算資源和服務(wù),是一個解決云計算異構(gòu)互聯(lián)相當(dāng)好的思路。因此,數(shù)據(jù)對“密態(tài)”有要求,對“天空”也有要求,就誕生了密態(tài)天空計算。

我們所處的時代已經(jīng)離不開數(shù)據(jù),數(shù)據(jù)喂養(yǎng)誕生了大語言模型,也帶來信息爆炸下的安全合規(guī)等問題。隨著數(shù)字化轉(zhuǎn)型的不斷推進,作為生產(chǎn)要素的數(shù)據(jù)的重要性在各行各業(yè)不斷顯現(xiàn)。數(shù)據(jù)的交易與流轉(zhuǎn)成了有效利用數(shù)據(jù)的重點,但目前仍存在諸多問題,如數(shù)據(jù)泄露、數(shù)據(jù)濫用等。

2022年12月發(fā)布的《中共中央 國務(wù)院關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》(“數(shù)據(jù)二十條”),為數(shù)據(jù)要素市場化帶來了規(guī)范和指引。數(shù)據(jù)如何流通?怎么保障安全?仍是行業(yè)有待探索解決的問題。

2023世界人工智能大會“數(shù)據(jù)要素與隱私計算高峰論壇”期間,螞蟻集團副總裁兼首席技術(shù)安全官韋韜對澎湃科技(www.xinlihui.cn)表示,數(shù)據(jù)流轉(zhuǎn)目前的諸多問題,很大一部分原因是技術(shù)造成的。目前,很多數(shù)據(jù)主體之間的交易流轉(zhuǎn)源于主體信任,即基于互相之間的信任而產(chǎn)生,但“未來數(shù)據(jù)要交易、流通,需要轉(zhuǎn)向基于技術(shù)信任的流轉(zhuǎn)模式,數(shù)據(jù)密態(tài)是實現(xiàn)這種技術(shù)信任的必經(jīng)之路。”

韋韜進一步指出,以前數(shù)據(jù)的流轉(zhuǎn)、交易是以明文形式為主體來做的,拷貝成本非常低,容易造成二次分發(fā)級聯(lián)失控。而加密后的數(shù)據(jù),安全性能夠產(chǎn)生實質(zhì)性提升??尚烹[私計算是實現(xiàn)數(shù)據(jù)密態(tài)的最有前景的技術(shù)之一,可以在數(shù)據(jù)持有權(quán)不失控的前提下,有效實現(xiàn)數(shù)據(jù)使用權(quán)的跨域管控,保障數(shù)據(jù)要素合法合規(guī)流轉(zhuǎn)并有效產(chǎn)生產(chǎn)業(yè)價值。

目前的隱私計算行業(yè)還處于較早期的階段,韋韜表示,“密態(tài)天空計算”或許是該行業(yè)發(fā)展的未來。

“密態(tài)天空計算”是指基于技術(shù)信任的數(shù)據(jù)跨云互聯(lián),提供數(shù)據(jù)的跨云密態(tài)流轉(zhuǎn)和計算服務(wù),其目標(biāo)是允許基于數(shù)據(jù)密態(tài)的應(yīng)用能跨多個云廠商運行。天空計算(Sky Computing)作為伯克利大學(xué)RISE Lab提出的一種新的云計算架構(gòu),其目標(biāo)是實現(xiàn)云之間的互操作性,讓用戶可以跨越不同的云廠商和服務(wù),按需獲取最優(yōu)的計算資源和服務(wù)。 “密態(tài)天空計算”是對跨云的“天空計算”更進一步的發(fā)展。

“數(shù)據(jù)需要安全性、隱私化,所以對密態(tài)計算有要求?!表f韜指出,“數(shù)據(jù)在交易流轉(zhuǎn)的時候,不能限定在一家、兩家,而是在全行業(yè)流通。這就需要異構(gòu)互聯(lián)來解決?!?/p>

“未來的數(shù)據(jù)一定是以密態(tài)方式流轉(zhuǎn)”

澎湃科技:目前的數(shù)據(jù)市場為什么數(shù)據(jù)流通性較差?

韋韜:此前,數(shù)據(jù)的流轉(zhuǎn)、數(shù)據(jù)的交易是以明文形式為主體來做的,而明文數(shù)據(jù)的持有和使用其實是失控的,在流轉(zhuǎn)和交易時,容易導(dǎo)致二次分發(fā)和失控,一旦失控,就會導(dǎo)致數(shù)據(jù)“你有我有大家有”的狀況,數(shù)據(jù)就失去了交易價值。因此第一代基于明文的數(shù)據(jù)交易模式?jīng)]有取得成功。

數(shù)據(jù)要素未來的安全合規(guī)流轉(zhuǎn),首先面臨的是確權(quán)的挑戰(zhàn)?!皵?shù)據(jù)二十條”在確權(quán)問題方面非常關(guān)鍵,幫助行業(yè)往前邁了一大步。擱置所有權(quán)爭議,采用持有權(quán)、使用權(quán)和經(jīng)營權(quán)三權(quán)分置的方式,非常有效地促進了數(shù)據(jù)要素的流通。

大家去年談得最多的除了確權(quán)問題還有定價問題。在我看來,無論是協(xié)商定價,還是分潤,數(shù)據(jù)一定要流通起來,這是前提。數(shù)據(jù)只要安全合規(guī)流通起來,數(shù)據(jù)要素就會幫著相關(guān)行業(yè)產(chǎn)生明顯的價值收益,定價也會是水到渠成的事情。

澎湃科技:未來數(shù)據(jù)流通會如何發(fā)展?

韋韜:未來的數(shù)據(jù)流轉(zhuǎn)正在從基于主體信任的模式轉(zhuǎn)變?yōu)榛诩夹g(shù)信任的模式。企業(yè)以前可能會因為對方是信譽的主體而進行數(shù)據(jù)交易,但這種規(guī)模難以擴展,信任被破壞的風(fēng)險也非常高。但未來,企業(yè)會趨向于因為對方使用了安全可信的技術(shù)而進行數(shù)據(jù)交易,基于技術(shù)的信任體系才能支撐全行業(yè)數(shù)據(jù)要素廣泛安全可控地流轉(zhuǎn)。

未來的數(shù)據(jù)一定是以密態(tài)方式流轉(zhuǎn)。螞蟻集團在2021年12月正式提出了數(shù)據(jù)密態(tài)概念。密態(tài)方式流轉(zhuǎn)的優(yōu)勢在于保障了數(shù)據(jù)資產(chǎn)的持有權(quán),即明文數(shù)據(jù)或其等價物的持有權(quán)不會失控。而針對使用權(quán),我們認為使用權(quán)需要跨域管控,就是指當(dāng)數(shù)據(jù)要素作為一種要素,在主體之間流通時,即使它不在持有者的運維域內(nèi),持有者仍然能夠?qū)ζ涫褂眠M行有效管控。

這是一個全新的核心模式,既能保障數(shù)據(jù)資產(chǎn)的持有權(quán)不失控,又能實現(xiàn)使用權(quán)的跨域管控。在這種情況下,數(shù)據(jù)要素的經(jīng)營才能得到保障,相關(guān)的提供方、加工處理方、運維方也能各自獲得收益。

澎湃科技:數(shù)據(jù)流通發(fā)展中會遇到什么難題?

韋韜:首先第一個是安全合規(guī)問題,第二個是會用易用問題。

要保障數(shù)據(jù)流動的安全合規(guī),第一要推動行業(yè)的安全合規(guī),保障數(shù)據(jù)不濫用、不泄露。這方面行業(yè)有明確的指引,比如隱私計算會解決數(shù)據(jù)的可用不可見、可算不可識、可控可計量的問題。要推動行業(yè)建立通用安全分級。不同的技術(shù)體系應(yīng)該建立統(tǒng)一的安全標(biāo)準,不同的技術(shù)路線投入成本和安全性能有很大差異。如果沒有一個指導(dǎo)性的規(guī)則,可能會導(dǎo)致行業(yè)傾向于選擇性能好但安全性差的技術(shù)路線,給整個行業(yè)帶來風(fēng)險。

數(shù)據(jù)要素流動合規(guī)挑戰(zhàn)的一個核心問題是匿名化。匿名化是涉及到個人信息相關(guān)的數(shù)據(jù)要素流動的一個前提。在開放空間中的高維關(guān)聯(lián)環(huán)境下,絕對匿名化只能以個體顆粒度數(shù)據(jù)價值的絕對毀損為前提。所以如何在一個可信的安全受控環(huán)境中實現(xiàn)相對匿名化,是數(shù)據(jù)要素行業(yè)發(fā)展需要探索和實踐的重要方向。

其次是會用易用問題。在技術(shù)角度,數(shù)據(jù)加密本身并不新鮮。伴隨20多年的互聯(lián)網(wǎng)發(fā)展,數(shù)據(jù)加密已經(jīng)在金融支付、電子商務(wù)等場景下廣泛應(yīng)用。但這些數(shù)據(jù)加密大多停留在存儲和傳輸階段。一旦涉及“計算”,數(shù)據(jù)往往需要回到安全性弱、容易失控的明文狀態(tài)。而“數(shù)據(jù)密態(tài)”的核心任務(wù),就是要把加密延展到計算環(huán)節(jié),意味著即使在運算期間,也不會出現(xiàn)明文數(shù)據(jù)。今天行業(yè)里廣泛應(yīng)用的隱私計算技術(shù)就是這樣一種“數(shù)據(jù)密態(tài)”技術(shù)。

但今天隱私計算技術(shù)的會用易用問題對于中小企業(yè)來說,有非常高的門檻。中小企業(yè)缺乏隱私計算和數(shù)據(jù)密態(tài)相關(guān)人才,所以現(xiàn)在大部分都是交給隱私計算創(chuàng)業(yè)公司,這是很好的創(chuàng)業(yè)領(lǐng)域。但對于全行業(yè)來說,如果整個行業(yè)的發(fā)展都依賴于相對有限的專業(yè)人才的重人力投入的話,那么發(fā)展無疑會遇到嚴重的瓶頸。所以未來我們認為一定要賦能整個相關(guān)的數(shù)據(jù)ISV(Independent Software Vendors,獨立軟件開發(fā)商),讓他們支撐住中小企業(yè)所需的隱私計算和數(shù)據(jù)要素密態(tài)領(lǐng)域的應(yīng)用能力。而這個的關(guān)鍵是“密態(tài)計算即服務(wù)”(C2aaS,Cryptographic Computing as a Service),只有通過服務(wù)的方式提供密態(tài)計算能力,才能有效降低ISV和中小企業(yè)快速應(yīng)用的技術(shù)門檻。

“如何在不公開數(shù)據(jù)的情況下使用數(shù)據(jù)?”

澎湃科技:數(shù)據(jù)密態(tài)是一個相當(dāng)“硬核”的概念,如何通俗地解釋?

韋韜:先說定義,在數(shù)據(jù)進入流轉(zhuǎn)進行共享、計算直到銷毀的完整傳播鏈路中,保持數(shù)據(jù)處于加密狀態(tài)不出現(xiàn)明文,將數(shù)據(jù)持有權(quán)與使用權(quán)分離,實現(xiàn)數(shù)據(jù)使用權(quán)的跨域管控,以確保數(shù)據(jù)流轉(zhuǎn)的全程安全可控。

我先舉一個例子來簡單地解釋隱私計算的概念,隱私計算是指在保護數(shù)據(jù)本身不對外泄露的前提下實現(xiàn)數(shù)據(jù)分析計算的一類信息技術(shù)?,F(xiàn)在假設(shè)有ABC這3個人,在不能透露具體工資數(shù)額情況下,如何給3個人的工資求和呢?

其實非常簡單,A把自己的工資數(shù)額拆成3個隨機數(shù)之和,第一個自己留著,第二個隨機數(shù)給B,第三個隨機數(shù)給C;B也把自己的工資拆成3個隨機數(shù)之和,以此類推……最后3個人手上都各自有3個隨機數(shù),先各自對自己手上的3個隨機數(shù)求和,然后3人再共同把這3個“和值”再求和就是3個人工資總和。在這個過程中,所有人的工資數(shù)都轉(zhuǎn)化為了隨機密態(tài)因子流通,沒有任何人的具體工資泄露。

完整的可信隱私計算的要求則更高。這個過程中,我們?nèi)绾伪WCABC這3個人中兩個人不互相串通?獲取其他隨機數(shù)的過程中,如何保證沒有暗箱操作?由誰來公證?這些就是可信隱私計算要解決的問題。

在技術(shù)上看,數(shù)據(jù)密態(tài)其實是密碼學(xué)界一直希望達到的境界。在行業(yè)上看,數(shù)據(jù)密態(tài)也契合了未來數(shù)據(jù)持有權(quán)和使用權(quán)分離的發(fā)展趨勢。

澎湃科技:螞蟻提及密態(tài)天空計算是數(shù)據(jù)密態(tài)的未來,如何理解這一概念?

韋韜:密態(tài)天空計算是在數(shù)據(jù)密態(tài)的基礎(chǔ)上更上一層樓。上述提到的工資求和問題中,數(shù)據(jù)密態(tài)解決了安全性問題,但只適用于小范圍的,兩方、三方的數(shù)據(jù),那么ABC這3個人算工資的方法是否適用于其他數(shù)據(jù)的計算方式?當(dāng)DEFG等更多人帶著不同的計算方式參與進來該怎么辦?成本、性價比問題如何解決?

上述提到的小型企業(yè),通過專門的隱私計算公司在云端提供收費較低的C2aaS(cryptographic computing as a service,密態(tài)即服務(wù))是一個解決方案。而不同公司提供的云服務(wù)之間又存在壁壘,這就涉及到了異構(gòu)互聯(lián)的問題,多方數(shù)據(jù)交易使用不同的加密方法,需要在保證安全性的前提下打通各方壁壘。天空計算(Sky Computing)作為伯克利大學(xué)RISE Lab提出的一種新的云計算架構(gòu),其目標(biāo)是實現(xiàn)云之間的互操作性,讓用戶可以跨越不同的云廠商和服務(wù),按需獲取最優(yōu)的計算資源和服務(wù),是一個解決云計算異構(gòu)互聯(lián)相當(dāng)好的思路。

因此,數(shù)據(jù)對“密態(tài)”有要求,對“天空”也有要求,就誕生了密態(tài)天空計算。

澎湃科技:目前數(shù)據(jù)要素市場的發(fā)展如何?數(shù)據(jù)密態(tài)技術(shù)發(fā)展如何?

韋韜:我們認為數(shù)據(jù)要素市場的發(fā)展可以分為3個階段,也就是我們?nèi)ツ晏岢龅拿軕B(tài)三步項目:

第一階段是計算密態(tài)化,即所做的計算都是基于明文數(shù)據(jù)集,通過密態(tài)計算得到密態(tài)結(jié)果,相當(dāng)于直接從數(shù)據(jù)源到結(jié)果,這就是計算密態(tài)化。在這個過程中,主要是讓行業(yè)感受到建立隱私計算的概念,確信數(shù)據(jù)“可用不可見,可控可計量”的安全是可以保證的。

第二階段是大數(shù)據(jù)密態(tài)化,這是我們今天基本上處于的階段,也是要真正把隱私計算深度應(yīng)用起來,能夠解決更復(fù)雜問題的階段。它跟第一階段有本質(zhì)區(qū)別。大數(shù)據(jù)里面涉及到的數(shù)據(jù)處理、機器學(xué)習(xí)等都需要大量的中間結(jié)果。第二階段中,這些中間結(jié)果也需要是純密文的。所以這就對算法提出了更高的要求。這個階段對于行業(yè)的主要挑戰(zhàn)是要降低技術(shù)門檻,解決會用易用的問題。

第三階段,即真正將這一技術(shù)投入使用的階段。當(dāng)我們真正會用以后,行業(yè)推廣會面臨使用成本問題,我們要根據(jù)情況來判斷。在數(shù)據(jù)密態(tài)化方面,把成本降下來就一定要把規(guī)模擴大,尤其是把基礎(chǔ)設(shè)施規(guī)模擴大,實現(xiàn)廣泛普惠的互聯(lián)互通。

澎湃科技:目前在隱私計算方面有何應(yīng)用?

韋韜:隱私計算在金融風(fēng)控、互聯(lián)網(wǎng)營銷場景有很多應(yīng)用,對其他場景、比如醫(yī)療、能源、供應(yīng)鏈等場景也有不少應(yīng)用需求。

螞蟻集團曾在去年7月宣布面向全球開發(fā)者正式開源可信隱私計算框架“隱語”,隱語第一次在業(yè)內(nèi)提供多種不同隱私計算的技術(shù)路線,包括聯(lián)邦學(xué)習(xí)、多方安全計算、可信執(zhí)行環(huán)境等。這樣能夠較好地符合各種部署環(huán)境下不同的網(wǎng)絡(luò)適配要求、不同安全的等級要求,支撐各種場景應(yīng)用。

比如,螞蟻基于自研“隱語技術(shù)?!遍_發(fā)了金融級應(yīng)用產(chǎn)品螞蟻“風(fēng)洞多方安全計算平臺”。這項產(chǎn)品具備安全、高效、行業(yè)定制三大特點,可滿足金融級全鏈路風(fēng)控、大規(guī)模生產(chǎn)環(huán)境、精準決策等金融場景的三大高要求,同時可自主接入易用。借助這項產(chǎn)品,江蘇某銀行在信用風(fēng)險管理方面已識別出超過11萬名高風(fēng)險客戶,阻止了數(shù)十億人民幣的高風(fēng)險貸款的發(fā)放。

此外,螞蟻鏈為杭州國際數(shù)字交易中心提供底層技術(shù)支持,助力“杭數(shù)交”打造“3+1+N”數(shù)字交易平臺。通過區(qū)塊鏈和隱私計算技術(shù)解決數(shù)據(jù)共享與隱私保護之間的矛盾;通過安全風(fēng)控和人工智能技術(shù)助力海量數(shù)據(jù)高效分類分級,確保數(shù)據(jù)安全可控。

這些產(chǎn)品都是對于數(shù)據(jù)要素密態(tài)流通、未來數(shù)據(jù)要素市場化發(fā)展中非常基礎(chǔ)的技術(shù)設(shè)施,都是在搭建一個最比較底層的東西,相當(dāng)于是整個數(shù)據(jù)流轉(zhuǎn)的技術(shù)基礎(chǔ)設(shè)施。

澎湃科技:成為一套技術(shù)基礎(chǔ)設(shè)施的話,要解決哪些問題?

韋韜:第一步要解決技術(shù)信任基礎(chǔ)設(shè)施的構(gòu)建問題。然后根據(jù)不同的安全等級需求,提供不同層次的可信計算技術(shù),比如單純的可信計算(可信平臺模塊,TPM/TCM),或者是可信計算(TPM/TCM)與機密計算的結(jié)合,以及結(jié)合了TEE(可信執(zhí)行環(huán)境)和密碼學(xué)技術(shù)的可信密態(tài)計算(TECC)。

可信計算技術(shù)可以為技術(shù)信任基礎(chǔ)設(shè)施提供良好的技術(shù)保障。目前有很多云計算服務(wù),但不少云端缺乏可信支撐,用戶對云服務(wù)的信任度,還主要取決于對云企業(yè)及其運維人員的信任。

如果云端能夠提供符合國家標(biāo)準的可信計算服務(wù),并且通過可信技術(shù)驗證其硬件軟件是否滿足預(yù)期,就可以在云端構(gòu)建一個不依賴于運維人員信任的技術(shù)基礎(chǔ)設(shè)施。如果有一個可信云或者可信云PaaS(Plantform as a service,平臺即服務(wù))的技術(shù)設(shè)施,擺脫以前的點對點模式,在這個技術(shù)設(shè)施上,我們就可以結(jié)合各種計算技術(shù),構(gòu)建可信密態(tài)數(shù)據(jù)節(jié)點。各個數(shù)據(jù)云平臺計算的參與方,可以把自己的數(shù)據(jù)以密態(tài)計算因子的形式參與到這些數(shù)據(jù)節(jié)點的計算中,而且不喪失可控性。所以這需要推動可信技術(shù)基礎(chǔ)設(shè)施的共建。

“不能既當(dāng)‘球員’又當(dāng)‘裁判’”

澎湃科技:數(shù)據(jù)密態(tài)的服務(wù)方是否會泄露數(shù)據(jù)?如何獲得企業(yè)信任?

韋韜:相當(dāng)于例子中的ABC使用共同的一套系統(tǒng)傳輸信息,且系統(tǒng)和傳輸過程全公開、有監(jiān)控,政府和公眾隨時可以進行監(jiān)管。

螞蟻作為技術(shù)提供方,堅持開源的原則,并不斷將算法開放給行業(yè)和社會,邀請大家共同審視我們的數(shù)據(jù)安全問題。同時,我們也邀請了清華、浙大等國內(nèi)頂尖的研究機構(gòu)來驗證我們的算法安全性,并參與了行業(yè)標(biāo)準的測評。我們保證測評所用的算法和實際使用的算法是完全一致的。當(dāng)然,我們也尊重行業(yè)內(nèi)其他技術(shù)方案的選擇,有些創(chuàng)新可能需要閉源的方式進行。但閉源的方式也應(yīng)該通過行業(yè)測評機構(gòu)或者安全研究機構(gòu)的認證。

技術(shù)角度上,大數(shù)據(jù)密態(tài)化是指各方將自己的明文數(shù)據(jù)轉(zhuǎn)化為密態(tài)計算因子,在密態(tài)樞紐上進行數(shù)據(jù)計算,既不會泄露原始數(shù)據(jù),又能夠充分利用數(shù)據(jù)的價值。其安全性的保障并不取決于計算在哪個云上進行,而是取決于計算的節(jié)點是否可信,是否能夠通過可信計算技術(shù)進行驗證。

但與此同時,天下沒有免費的午餐,數(shù)據(jù)密態(tài),少則增加幾十倍成本,多則幾千倍成本。代價背后是非常復(fù)雜的密碼學(xué)協(xié)議,比如在軟件領(lǐng)域里面,可能錯一個比特,整個安全性就喪失了。

澎湃科技:如何在數(shù)據(jù)密態(tài)的安全性和成本間獲得平衡?

韋韜:國家對數(shù)據(jù)保護實行的是“分類分級”制度。每個行業(yè)都要根據(jù)國家制度和行業(yè)標(biāo)準來確定分類分級原則,并對其進行安全保護和監(jiān)管。

這就意味著我們要根據(jù)數(shù)據(jù)的價值和敏感性來權(quán)衡是否使用隱私計算。有些數(shù)據(jù)雖然需要交易,但并不是很重要,就不一定要用隱私計算。有些數(shù)據(jù)則是非常重要的,比如個人信息和國家重要數(shù)據(jù)??尚琶軕B(tài)的技術(shù)可以把成本控制在行業(yè)普惠的水平,中高安全級的成本可以控制在十倍以內(nèi),能夠很好的支持行業(yè)大規(guī)模使用的需求。

總體來看,歷史的機遇、技術(shù)的變革,將數(shù)據(jù)流通推向了前所未有的高潮,也帶來了更加嚴峻的數(shù)據(jù)安全挑戰(zhàn)。數(shù)據(jù)流通密態(tài)化是未來趨勢,隱私計算的方法體系、平臺框架、技術(shù)標(biāo)準都面臨全新變革。同時,我們也呼吁更多的同行參與到數(shù)據(jù)密態(tài)技術(shù)設(shè)施建設(shè)工作當(dāng)中,助力全行業(yè)數(shù)據(jù)流轉(zhuǎn),邁向“密態(tài)天空”。

    責(zé)任編輯:鄭潔
    校對:劉威
    澎湃新聞報料:021-962866
    澎湃新聞,未經(jīng)授權(quán)不得轉(zhuǎn)載
    +1
    收藏
    我要舉報
            查看更多

            掃碼下載澎湃新聞客戶端

            滬ICP備14003370號

            滬公網(wǎng)安備31010602000299號

            互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006

            增值電信業(yè)務(wù)經(jīng)營許可證:滬B2-2017116

            ? 2014-2026 上海東方報業(yè)有限公司