近期，《國(guó)務(wù)院關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見(jiàn)》正式發(fā)布，上海也明確提出，要在三到五年內(nèi)建成具有全球影響力的金融科技中心，正以開(kāi)放姿態(tài)打造AI與金融結(jié)合的“試驗(yàn)田”和“示范區(qū)”。

那么，在“AI+金融”場(chǎng)景密集落地的當(dāng)下，監(jiān)管如何既設(shè)“邊界”又裝“導(dǎo)航”？9月10日，由上海交通大學(xué)上海高級(jí)金融學(xué)院主辦的“AI落地金融之路”——“2025 Inclusion·外灘大會(huì)”見(jiàn)解論壇召開(kāi)，探索技術(shù)創(chuàng)新與風(fēng)險(xiǎn)管控平衡之道，以助力構(gòu)建AI金融生態(tài)。

在圓桌討論中，華東政法大學(xué)國(guó)際金融法律學(xué)院教授徐明指出，AI作為新事物，當(dāng)前主要面臨“問(wèn)題新、風(fēng)險(xiǎn)大、監(jiān)管難”三大挑戰(zhàn)。

其中，在“監(jiān)管難”方面，徐明認(rèn)為主要體現(xiàn)在三方面。首先，現(xiàn)在的法律制度和監(jiān)管制度還沒(méi)有完全跟上，如何設(shè)計(jì)一個(gè)寬嚴(yán)相濟(jì)的法律制度是個(gè)挑戰(zhàn)。其次，AI無(wú)所不在，已深入百姓的尋常生活，涉及很多范圍、領(lǐng)域和部門(mén)，需要監(jiān)管部門(mén)之間彼此協(xié)調(diào)，協(xié)調(diào)存在難度，協(xié)調(diào)也需要成本。最后，AI科技屬性很強(qiáng)、迭代更新很快，涉及大量新的技術(shù)和新的知識(shí)，監(jiān)管者是否能及時(shí)跟進(jìn)學(xué)習(xí)是監(jiān)管者面臨的難題。

針對(duì)這些挑戰(zhàn)，徐明提出，需用綜合手段，在法律、監(jiān)管、技術(shù)等方面統(tǒng)籌應(yīng)對(duì)。宏觀上，要抓緊制定人工智能法，加快立法速度，明確責(zé)任主體、明確責(zé)任邊界、嚴(yán)格責(zé)任落實(shí)，實(shí)現(xiàn)寬嚴(yán)相濟(jì)；微觀層面，要細(xì)化各種技術(shù)標(biāo)準(zhǔn)、安全標(biāo)準(zhǔn)、監(jiān)管標(biāo)準(zhǔn)，使人工智能在探索和實(shí)踐中可操作、可執(zhí)行，要發(fā)揮行業(yè)、監(jiān)管及相關(guān)部門(mén)的力量，主動(dòng)應(yīng)對(duì)人工智能帶來(lái)的挑戰(zhàn)。

聯(lián)和金融人工智能業(yè)務(wù)負(fù)責(zé)人、杭州海茵斯科技創(chuàng)始人聶金則梳理了AI在金融業(yè)的四大核心監(jiān)管問(wèn)題。

一是數(shù)據(jù)隱含歧視風(fēng)險(xiǎn)。AI做決策是由數(shù)據(jù)驅(qū)動(dòng)，但數(shù)據(jù)中如果純數(shù)據(jù)有可能會(huì)隱含一些歧視問(wèn)題，有可能推動(dòng)社會(huì)的不平等，很有可能對(duì)公司主體有法律風(fēng)險(xiǎn)。二是AI決策的黑箱難題。2025年各國(guó)出臺(tái)的監(jiān)管條例顯示，金融機(jī)構(gòu)一旦開(kāi)始使用AI模型或AI提供服務(wù)，模型所做出決策的可解釋性必須出具審計(jì)報(bào)告。三是隱私問(wèn)題。聶金指出，為了增強(qiáng)AI模型的性能，打破數(shù)據(jù)孤島是非常重要的，打破的過(guò)程中如果用到很多數(shù)據(jù)，可能會(huì)模糊主體邊界，對(duì)用戶信息的隱私保護(hù)有一個(gè)比較大的挑戰(zhàn)，而這個(gè)挑戰(zhàn)如果放到跨國(guó)場(chǎng)景里就非常嚴(yán)重，會(huì)上升成安全問(wèn)題。四是問(wèn)責(zé)機(jī)制，AI可以作出決策，但這當(dāng)中整個(gè)鏈條從訓(xùn)練、測(cè)試到應(yīng)用，應(yīng)該有一個(gè)合理的問(wèn)責(zé)機(jī)制。

“我覺(jué)得監(jiān)管上一是守住底線；二是給予比較好的引導(dǎo)，為AI在金融大規(guī)模承制式應(yīng)用鋪平道路?！贬槍?duì)這些挑戰(zhàn)，聶金說(shuō)道。

恒生電子首席科學(xué)家、研究院院長(zhǎng)白碩則從AI落地實(shí)施的實(shí)際問(wèn)題出發(fā)，探討邊界問(wèn)題。

“人工智能可以了解你的客戶，了解到比你還了解，它可以做到千人一面，但生成出來(lái)的東西最后一道關(guān)還要是人，這種場(chǎng)景是人最后兜底。”白碩指出，“這個(gè)邊界目前看還要持續(xù)相當(dāng)一段時(shí)間”。”