AIGC等生成式人工智能的迅猛發(fā)展，給個(gè)人信息保護(hù)帶來哪些新的挑戰(zhàn)？如何實(shí)現(xiàn)個(gè)人信息數(shù)據(jù)保護(hù)的同時(shí)，保證數(shù)據(jù)流通和數(shù)字經(jīng)濟(jì)發(fā)展？“亮劍浦江”行動(dòng)對(duì)保護(hù)營(yíng)商環(huán)境、促進(jìn)法治建設(shè)，起到什么作用？未來，對(duì)“亮劍浦江”行動(dòng)有哪些建議和期待……

為將網(wǎng)絡(luò)法治服務(wù)送入最基層，2025年上海市網(wǎng)信辦等多個(gè)部門走進(jìn)普陀等區(qū)，開展“亮劍滬網(wǎng)·E心為民”網(wǎng)絡(luò)法治服務(wù)日活動(dòng)。

2021年11月1日，《個(gè)人信息保護(hù)法》（以下簡(jiǎn)稱“個(gè)保法”）實(shí)施，在屆滿四年之際，圍繞前述問題，澎湃新聞?dòng)浾邔ＴL了華東政法大學(xué)教授、博士生導(dǎo)師，華東政法大學(xué)互聯(lián)網(wǎng)法治研究院院長(zhǎng)高富平。

他指出，面對(duì)新技術(shù)的挑戰(zhàn)，要區(qū)分AI模型訓(xùn)練與部署階段的差異化合規(guī)思路，建議訓(xùn)練階段弱化個(gè)人同意、部署應(yīng)用階段嚴(yán)格合規(guī)并提供個(gè)人選退機(jī)制，同時(shí)通過政策明確AI訓(xùn)練數(shù)據(jù)使用的合規(guī)邊界。

在監(jiān)管執(zhí)法層面，他表示，當(dāng)前數(shù)據(jù)要素流通面臨多重困境，監(jiān)管部門可以考慮將監(jiān)管重心從當(dāng)前偏重事前收集環(huán)節(jié)（合法性基礎(chǔ)+最小必要原則的監(jiān)管），適度向事中處理合規(guī)與事后有效處置延伸，在保障安全的前提下，促進(jìn)個(gè)人數(shù)據(jù)有序流通利用。

對(duì)于“亮劍浦江”專項(xiàng)行動(dòng)，高富平提出“生態(tài)執(zhí)法”概念，強(qiáng)調(diào)需推動(dòng)全國(guó)監(jiān)管部門建立聯(lián)動(dòng)機(jī)制，實(shí)現(xiàn)執(zhí)法尺度統(tǒng)一，體現(xiàn)法的一致性和公平性。

上海市網(wǎng)信辦聯(lián)手上海正向數(shù)字化技術(shù)研究院開發(fā)“滬網(wǎng)俠之守未先鋒”未成年人保護(hù)小游戲。

生成式人工智能迅猛發(fā)展，給個(gè)人信息保護(hù)帶來巨大挑戰(zhàn)

澎湃新聞：2021年11月1日，《個(gè)人信息保護(hù)法》正式實(shí)施，至今已經(jīng)4年多了。在個(gè)人信息保護(hù)方面，您今年最關(guān)注什么問題？為什么？

高富平：我今年關(guān)注個(gè)人信息合法使用問題，尤其是個(gè)人信息處理者是否自主對(duì)外提供數(shù)據(jù)問題。因?yàn)閿?shù)據(jù)要素市場(chǎng)建設(shè)意味著數(shù)據(jù)持有者可以自主根據(jù)市場(chǎng)需求配置或流通數(shù)據(jù)，而具有分析價(jià)值的數(shù)據(jù)要素中，大多數(shù)與個(gè)人相關(guān)，對(duì)外提供必須遵守“個(gè)保法”。

“個(gè)保法”23條明確，個(gè)人信息處理者（在要素市場(chǎng)稱為數(shù)據(jù)持有者）對(duì)外提供須取得個(gè)人的“單獨(dú)同意”。單獨(dú)同意背后的理由是確保個(gè)人誰在使用其數(shù)據(jù)并確保其個(gè)人行使權(quán)利（比如刪除權(quán)等）。但是，因?yàn)闆]有交易基礎(chǔ)，在首次同意后再次獲得個(gè)人單獨(dú)同意，幾乎不可能。因而單獨(dú)同意實(shí)質(zhì)上成為當(dāng)前數(shù)據(jù)要素化利用，尤其是流通使用的阻礙。實(shí)踐中供需雙方通常以委托處理或共同處理來規(guī)避這一規(guī)定，或者在首次同意時(shí)以概括同意來替代單獨(dú)同意。這樣的做法存在法律上的不確定性，使數(shù)據(jù)流通的雙方均面臨較大的合規(guī)風(fēng)險(xiǎn)。因此，如何尋求個(gè)人信息合規(guī)的流通路徑，成為今年關(guān)注的重點(diǎn)。

澎湃新聞：AIGC等生成式人工智能的迅猛發(fā)展，新技術(shù)的出現(xiàn)，給個(gè)人信息保護(hù)帶來哪些新的挑戰(zhàn)？又該如何應(yīng)對(duì)？

高富平：生成式人工智能發(fā)展和普及應(yīng)用，給個(gè)人信息保護(hù)帶來了巨大挑戰(zhàn)。尤其在基礎(chǔ)模型向?qū)I(yè)或領(lǐng)域模型發(fā)展的關(guān)鍵時(shí)刻，反映真實(shí)應(yīng)用場(chǎng)景的數(shù)據(jù)集用于AI模型訓(xùn)練，成為提升人工智能輸出質(zhì)量的關(guān)鍵，這必然涉及個(gè)人的數(shù)據(jù)集。顯然，對(duì)外提供數(shù)據(jù)須單獨(dú)同意會(huì)使數(shù)據(jù)供不出，獲取數(shù)據(jù)集需要征得個(gè)人同意幾乎也不經(jīng)濟(jì)。

由于生成式人工智能是當(dāng)今國(guó)際競(jìng)爭(zhēng)的關(guān)鍵領(lǐng)域，世界的主要經(jīng)濟(jì)體均在尋求滿足AI訓(xùn)練的個(gè)人數(shù)據(jù)。借鑒域外經(jīng)驗(yàn)，基于“個(gè)保法”現(xiàn)狀，我提出如下應(yīng)對(duì)措施：其一，區(qū)分訓(xùn)練和部署，在訓(xùn)練階段，弱化個(gè)人同意，在部署和應(yīng)用階段應(yīng)當(dāng)嚴(yán)格“個(gè)保法”合規(guī)，防范輸出結(jié)果對(duì)個(gè)人隱私侵害，對(duì)個(gè)人識(shí)別性的應(yīng)用應(yīng)當(dāng)向個(gè)人提供選退機(jī)制。其二，通過適當(dāng)層級(jí)的政策明確，個(gè)人信息用于AI模型訓(xùn)練不需要征得個(gè)人同意，但在部署和應(yīng)用階段貫徹“個(gè)保法”精神，實(shí)施適當(dāng)合規(guī)措施，切實(shí)保護(hù)對(duì)隱私或維護(hù)個(gè)人對(duì)識(shí)別性使用的控制權(quán)利。

澎湃新聞：伴隨電商行業(yè)的發(fā)展，個(gè)人信息幾乎處于跨境流通狀態(tài)，該如何加強(qiáng)個(gè)人信息的跨境管理？

高富平：對(duì)于個(gè)人信息出境，2024年國(guó)家網(wǎng)信辦發(fā)布的《促進(jìn)和規(guī)范數(shù)據(jù)跨境流動(dòng)規(guī)定》已經(jīng)做出較大的調(diào)整，豁免了許多場(chǎng)景下履行“三種”手續(xù)，降低了需要評(píng)估的門檻，明確評(píng)估、標(biāo)準(zhǔn)合同和認(rèn)證適用情形。類似電商行業(yè)個(gè)人信息出境基本上屬于不需要評(píng)估，只需要通過標(biāo)準(zhǔn)合同或通過個(gè)人信息保護(hù)認(rèn)證即可以開展。這為跨境貿(mào)易、跨境寄遞等提供便利。個(gè)人信息跨境流動(dòng)對(duì)個(gè)人，對(duì)國(guó)家都會(huì)帶來一定的安全風(fēng)險(xiǎn)，但這種風(fēng)險(xiǎn)主要源于域外主體的使用，如何管控域外主體按照約定目的、遵守當(dāng)?shù)貒?guó)或國(guó)際通行規(guī)則使用顯得非常重要。顯然，出境者在這方面具有一定事實(shí)訂立完備的合同，事中事后進(jìn)行必要監(jiān)督都是必要的。但是一旦出現(xiàn)安全事件，可能單獨(dú)商事主體很難應(yīng)對(duì)。此時(shí)就需要國(guó)家出面協(xié)調(diào)處理，必要時(shí)采取外交手段。因此，出境個(gè)人信息管理關(guān)鍵在出境后的使用監(jiān)督，而在這方面需要出境企業(yè)預(yù)防和監(jiān)督外加主權(quán)國(guó)家協(xié)助才能解決。

法治環(huán)境是最大營(yíng)商環(huán)境

澎湃新聞：在個(gè)人信息保護(hù)的監(jiān)管執(zhí)法層面，如何實(shí)現(xiàn)個(gè)人信息數(shù)據(jù)保護(hù)的同時(shí)，保證數(shù)據(jù)流通和數(shù)字經(jīng)濟(jì)發(fā)展？

高富平：自“數(shù)據(jù)二十條”發(fā)布以來，國(guó)家和地方不斷推出數(shù)據(jù)要素化和市場(chǎng)化利用政策文件和地方法規(guī)，但是數(shù)據(jù)要素化利用面臨不能流通、不愿流通、不敢流通的困境，這根本上制約了我國(guó)數(shù)智化轉(zhuǎn)型和人工智能發(fā)展。實(shí)際上，“個(gè)保法”是以保護(hù)個(gè)人為中心的，而忽略了“促進(jìn)個(gè)人信息合理利用”。因而在推進(jìn)數(shù)據(jù)要素市場(chǎng)的背景下，如何平衡個(gè)人信息社會(huì)使用（尤其流通利用）和個(gè)人信息權(quán)益保護(hù)的確是面臨監(jiān)督部門面前的一個(gè)棘手問題。

在我看來，隨著“個(gè)保法”各種實(shí)施辦法和配套措施陸續(xù)出臺(tái)和實(shí)施，如“個(gè)人信息保護(hù)認(rèn)證”“個(gè)人信息保護(hù)合規(guī)審計(jì)”“個(gè)人信息保護(hù)影響評(píng)估”等措施逐步落地，監(jiān)管部門可以考慮將監(jiān)管重心從當(dāng)前偏重事前收集環(huán)節(jié)（合法性基礎(chǔ)+最小必要原則的監(jiān)管），適度向事中處理合規(guī)與事后有效處置延伸，在保障安全的前提下，促進(jìn)個(gè)人數(shù)據(jù)有序流通利用。保護(hù)個(gè)人權(quán)益并不是讓個(gè)人信息處理者（數(shù)據(jù)持有者）事前進(jìn)行流程式的同意合規(guī)，而是要建立正直負(fù)責(zé)人處理或流通的個(gè)人治理機(jī)制，最終實(shí)現(xiàn)保護(hù)個(gè)人信息權(quán)益的同時(shí)，實(shí)現(xiàn)個(gè)人數(shù)據(jù)的社會(huì)價(jià)值。

澎湃新聞：您認(rèn)為，“亮劍浦江”行動(dòng)對(duì)保護(hù)營(yíng)商環(huán)境、促進(jìn)法治建設(shè)，起到什么作用？

高富平：法治環(huán)境是最大營(yíng)商環(huán)境，三年的執(zhí)法行動(dòng)并不以懲罰為目的，而是貫徹“執(zhí)法即服務(wù)”的理念，將執(zhí)法行動(dòng)“晉升”為服務(wù)企業(yè)合規(guī)舉措。執(zhí)法機(jī)構(gòu)不僅有普法培訓(xùn)和企業(yè)自查整改環(huán)節(jié)，而且形成“點(diǎn)對(duì)點(diǎn)”約談、“一條鏈”核查、“回頭看”檢查等多類別、多維度的執(zhí)法模式，是一種“治病救人”執(zhí)法。在整個(gè)執(zhí)法過程中，執(zhí)法部門制定了嚴(yán)格周密的執(zhí)法流程和規(guī)范程序，確保執(zhí)法各環(huán)節(jié)本身的合法?！傲羷ζ纸眻?zhí)法行動(dòng)不僅讓每個(gè)個(gè)人感受到法治的力量和法律的關(guān)懷，同時(shí)也使各類商家提升了守法意識(shí)，對(duì)“個(gè)保法”執(zhí)行有了真實(shí)體驗(yàn)感和執(zhí)法溫度，通過對(duì)行政執(zhí)法的信任，帶動(dòng)了對(duì)法治的信任。

全國(guó)各地監(jiān)管部門協(xié)同聯(lián)動(dòng)，讓全國(guó)的執(zhí)法尺度一致

澎湃新聞：從公民權(quán)利保障角度，您認(rèn)為“亮劍浦江”行動(dòng)能起到怎樣的社會(huì)引導(dǎo)作用？除了專項(xiàng)整治，還應(yīng)通過哪些方式提升全社會(huì)的個(gè)人信息保護(hù)意識(shí)和法治觀念？

高富平：從第二年開始，執(zhí)法機(jī)構(gòu)將執(zhí)法行動(dòng)檢驗(yàn)有效的合規(guī)與維權(quán)措施通過“工具包”“體檢包”“服務(wù)包”“護(hù)身包”的形式固定下來，含括了釋法、指導(dǎo)、評(píng)估、保護(hù)四個(gè)層次，既有對(duì)個(gè)人普法和維權(quán)指導(dǎo)，又有對(duì)企業(yè)詳盡的場(chǎng)景指引和具體合規(guī)指引，因此是一種雙向指引。

除了專項(xiàng)整治，還應(yīng)當(dāng)通過各類普法宣傳、司法案例、公益訴訟等方式監(jiān)督對(duì)個(gè)保法的貫徹執(zhí)行，提升全社會(huì)的個(gè)人信息保護(hù)意識(shí)和法治觀念；同時(shí)還要繼續(xù)發(fā)揮行業(yè)協(xié)會(huì)的行業(yè)影響力，推動(dòng)各行業(yè)制定適合本行業(yè)，切實(shí)可行的個(gè)保法合規(guī)指引，同時(shí)監(jiān)督執(zhí)行。最為重要的是要使保護(hù)個(gè)人信息的目標(biāo)與企業(yè)經(jīng)營(yíng)業(yè)務(wù)目標(biāo)一致起來，將個(gè)人信息保護(hù)和合規(guī)轉(zhuǎn)化為自覺的行動(dòng)。企業(yè)不是為了合規(guī)而合規(guī)，而是讓個(gè)人感受到企業(yè)對(duì)個(gè)人的尊重和友好，以吸引更多用戶，最終提升競(jìng)爭(zhēng)力。

澎湃新聞：對(duì)接下來的“亮劍浦江”行動(dòng)，您有哪些建議或期待？  

高富平：在此前網(wǎng)信辦的執(zhí)法中我發(fā)現(xiàn)，有些商家的點(diǎn)餐二維碼，其實(shí)是平臺(tái)的一個(gè)通道而已，這些商家本身就不知道二維碼存在違規(guī)收集個(gè)人信息的情況。那么，商家在上海，而這些大平臺(tái)在其他地區(qū)，我們?cè)撊绾螆?zhí)法？在當(dāng)前的互聯(lián)網(wǎng)環(huán)境下，企業(yè)和企業(yè)之間鏈接的地方非常多，大平臺(tái)鏈接了眾多小商家，這就出現(xiàn)了“生態(tài)執(zhí)法”的問題。

如果說上海執(zhí)法，別的地方不執(zhí)法，就會(huì)導(dǎo)致不同屬地之間企業(yè)的不公平競(jìng)爭(zhēng)。未來，該如何讓全國(guó)的執(zhí)法尺度一致，或者說，如何體現(xiàn)法的一致性和公平性，希望全國(guó)各地的監(jiān)管部門，建立聯(lián)動(dòng)機(jī)制，打破傳統(tǒng)的單兵作戰(zhàn)，向系統(tǒng)合力轉(zhuǎn)變，一起協(xié)同努力。