之前OpenAI首席科學(xué)家Ilya Sutskever一句“現(xiàn)在的大型神經(jīng)網(wǎng)絡(luò)可能已經(jīng)有了點(diǎn)自主意識(shí)”的發(fā)言引得楊立昆（Yann LeCun）“下場(chǎng)論戰(zhàn)”，學(xué)術(shù)圈諸多爭(zhēng)議。

此后，MIT的訪問(wèn)學(xué)者Tamay Besiroglu在推特上發(fā)布的一張?jiān)跈C(jī)器學(xué)習(xí)模型發(fā)展圖又激起討論。他在圖上畫(huà)了一條線，界線以上即是模型“有微弱意識(shí)”。

雖然Besiroglu后來(lái)發(fā)推文表示只是玩笑，依然不能消弭爭(zhēng)論。

對(duì)于“現(xiàn)在的大型神經(jīng)網(wǎng)絡(luò)可能已經(jīng)有微弱自主意識(shí)了”的觀點(diǎn)，IEEE China Council Vice Chair（國(guó)際電氣電子工程師學(xué)會(huì)中國(guó)聯(lián)合會(huì)副主席）王潮接受澎湃新聞（www.xinlihui.cn）采訪時(shí)表示，“由于先天性缺陷，不可能通過(guò)神經(jīng)網(wǎng)絡(luò)產(chǎn)生自主意識(shí)。目前深度神經(jīng)網(wǎng)絡(luò)已經(jīng)到了天花板。”

王潮是上海大學(xué)教授，中國(guó)人工智能學(xué)會(huì)理事、會(huì)員工委會(huì)副主任委員，2019年獲中國(guó)人工智能學(xué)會(huì)首屆杰出貢獻(xiàn)獎(jiǎng)。

王潮解釋道，“目前的神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)在本源上存在問(wèn)題：違背了David Marr從神經(jīng)科學(xué)和腦科學(xué)角度奠定的認(rèn)知科學(xué)（Cognitive Science）理論、計(jì)算視覺(jué)（Computational Vision）和計(jì)算神經(jīng)學(xué)（Computational Neuroscience）理論。 由于將模型（表達(dá)）、算法、和實(shí)現(xiàn)的結(jié)構(gòu)這三層混在一起，深度學(xué)習(xí)丟失了語(yǔ)義和深度信息。因此深度神經(jīng)網(wǎng)絡(luò)不可能產(chǎn)生自主意識(shí)?！?/p>

楊立昆（Yann LeCun）曾經(jīng)在IEEE Spectrum說(shuō)過(guò)，雖然深度學(xué)習(xí)從生物學(xué)中獲得了靈感，但這離生物大腦的實(shí)際運(yùn)作方式距離還遠(yuǎn)得很。楊立昆還指出深度神經(jīng)網(wǎng)絡(luò)的非監(jiān)督學(xué)習(xí)能力遠(yuǎn)遠(yuǎn)弱于大腦，缺失了人類大腦的基本的學(xué)習(xí)原理。

“深度神經(jīng)網(wǎng)絡(luò)的幾大局限性，包括泛化能力弱、表達(dá)能力弱、無(wú)注意機(jī)制以及過(guò)度依靠訓(xùn)練數(shù)據(jù)等，已經(jīng)嚴(yán)重制約其應(yīng)用，更談不上產(chǎn)生意識(shí)?！蓖醭闭f(shuō)道。

對(duì)于AI能否有自主意識(shí)，我們?cè)撊绾嗡伎歼@個(gè)問(wèn)題呢？

王潮認(rèn)為，“當(dāng)前人工智能面對(duì)的三大難題：意識(shí)、情感、推理?；谥庇X(jué)推理，人工智能有望產(chǎn)生部分自主意識(shí)。這里，我們關(guān)注的是產(chǎn)生更精準(zhǔn)的意識(shí)，而不是略顯模糊的意識(shí)?！?/p>

“人類的意識(shí)涉及到人類大腦對(duì)一個(gè)不完整世界的描述，通過(guò)人類直覺(jué)判斷和邏輯思維，把場(chǎng)景感知和情景認(rèn)知結(jié)合起來(lái)，融合先進(jìn)知識(shí)概念，有望形成部分意識(shí)。展望未來(lái)，全球首個(gè)商業(yè)化量子計(jì)算機(jī)D-Wave，目前已經(jīng)裝備美國(guó)能源部下屬兩個(gè)國(guó)家實(shí)驗(yàn)室、NASA、洛克希德馬丁、南加州大學(xué)等，其原理量子退火獨(dú)特的量子隧穿效應(yīng)可以使得直覺(jué)推理方法以較大概率獲得更精確的意識(shí)?！蓖醭苯又馈?/p>

那我們需要擔(dān)心AI會(huì)有自主意識(shí)嗎？

王潮的答案是否定的，“無(wú)需擔(dān)心人工智能會(huì)產(chǎn)生部分正確的意識(shí)。人工智能如果具備部分意識(shí)，最終是一種造福于人類的方式行事，使人類與技術(shù)之間達(dá)成崇高信任?！?/p>

中國(guó)工程院院士鄭南寧曾在《人民日?qǐng)?bào)》發(fā)文《發(fā)展有助于人類的人工智能》表示，讓機(jī)器具有自我意識(shí)、情感以及反思自身處境與行為的能力，這是實(shí)現(xiàn)類人智能最艱難的挑戰(zhàn)。具有自我意識(shí)以及反思自身處境與行為的能力，是人類區(qū)別于其他生物最重要、最根本的一點(diǎn)。另外，人類的大腦皮層能力是有限的，如果將智能機(jī)器設(shè)備與人類大腦相連接，不僅會(huì)增強(qiáng)人類的能力，而且會(huì)使機(jī)器產(chǎn)生靈感。讓機(jī)器具有自我意識(shí)、情感和反思能力，無(wú)論對(duì)科學(xué)和哲學(xué)來(lái)說(shuō)，都是一個(gè)引人入勝的探索領(lǐng)域。

附采訪問(wèn)答：

1.  對(duì)于 OpenAI 首席科學(xué)家Ilya Sutskever“現(xiàn)在的大型神經(jīng)網(wǎng)絡(luò)可能已經(jīng)有微弱自主意識(shí)了”的觀點(diǎn)您怎么看？

由于先天性缺陷，不可能通過(guò)神經(jīng)網(wǎng)絡(luò)產(chǎn)生自主意識(shí)。目前深度神經(jīng)網(wǎng)絡(luò)已經(jīng)到了天花板。

Yann LeCun曾經(jīng)在IEEE Spectrum說(shuō)過(guò)，深度神經(jīng)網(wǎng)絡(luò)與生物大腦還離得很遠(yuǎn)（“While Deep Learning gets an inspiration from biology, it’s very, very far from what the brain actually does;”）Yann LeCun還指出深度神經(jīng)網(wǎng)絡(luò)的非監(jiān)督學(xué)習(xí)能力遠(yuǎn)遠(yuǎn)弱于大腦，缺失了人類大腦的基本原理（“The brain is much better than our model at doing unsupervised learning. That means that our artificial learning systems are missing some very basic principles of biological learning;” ）

目前的神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)在本源上存在問(wèn)題：違背了David Marr從神經(jīng)科學(xué)和腦科學(xué)角度奠定的認(rèn)知科學(xué)（Cognitive Science）理論、計(jì)算視覺(jué)（Computational Vision）和計(jì)算神經(jīng)學(xué)（Computational Neuroscience）理論。 由于將模型（表達(dá)）、算法、和實(shí)現(xiàn)的結(jié)構(gòu)這三層混在一起，深度學(xué)習(xí)丟失了語(yǔ)義和深度信息?！虼松疃壬窠?jīng)網(wǎng)絡(luò)不可能產(chǎn)生自主意識(shí)。

深度神經(jīng)網(wǎng)絡(luò)的幾大局限性，包括泛化能力弱、表達(dá)能力弱、無(wú)注意機(jī)制以及過(guò)度依靠訓(xùn)練數(shù)據(jù)等，已經(jīng)嚴(yán)重制約其應(yīng)用，更談不上產(chǎn)生意識(shí)。

2.  您認(rèn)為AI會(huì)有自主意識(shí)嗎，您如何思考這個(gè)問(wèn)題？

基于直覺(jué)推理，人工智能有望產(chǎn)生部分自主意識(shí)。這里，我們關(guān)注的是產(chǎn)生更精準(zhǔn)的意識(shí)，而不是略顯模糊的意識(shí)。

當(dāng)前人工智能面對(duì)的三大難題：意識(shí)、情感、推理，如同鄭南寧院士所言，邁向人類思維水平的人工智能是一件令人生畏又極具挑戰(zhàn)的研究工作，使機(jī)器人能具有自我意識(shí)、情感和反思能力，無(wú)論對(duì)科學(xué)和哲學(xué)來(lái)說(shuō)，這都是探索領(lǐng)域。

人類的意識(shí)涉及到人類大腦對(duì)一個(gè)不完整世界的描述，通過(guò)人類直覺(jué)判斷和邏輯思維，把場(chǎng)景感知和情景認(rèn)知結(jié)合起來(lái)，融合先進(jìn)知識(shí)概念，有望形成部分意識(shí)。展望未來(lái)，全球首個(gè)商業(yè)化量子計(jì)算機(jī)D-Wave，目前已經(jīng)裝備美國(guó)能源部下屬兩個(gè)國(guó)家實(shí)驗(yàn)室、NASA、洛克希德馬丁、南加州大學(xué)等，其原理量子退火獨(dú)特的量子隧穿效應(yīng)可以使得直覺(jué)推理方法以較大概率獲得更精確的意識(shí)。

3.  如果AI有自主意識(shí)，您覺(jué)得這是一件值得擔(dān)心的事情嗎？

無(wú)需擔(dān)心人工智能會(huì)產(chǎn)生部分正確的意識(shí)。人工智能如果具備部分意識(shí)，最終是一種造福于人類的方式行事，使人類與技術(shù)之間達(dá)成崇高信任。

工業(yè)運(yùn)行、社會(huì)治理權(quán)力在由人向機(jī)器轉(zhuǎn)移，人工智能的意識(shí)和決策不能成為大忽悠，這些年業(yè)內(nèi)已經(jīng)在注意到人工智能的基礎(chǔ)問(wèn)題：模型和訓(xùn)練數(shù)據(jù)集對(duì)人工智能的影響問(wèn)題，如同早年谷歌的傳染病預(yù)測(cè)系統(tǒng)后期案例。所幸這些問(wèn)題國(guó)際大企業(yè)、國(guó)內(nèi)外高校已經(jīng)關(guān)注到，并逐步給出解決方案，2016年起IEEE也組織了100多位在人工智能、法律、倫理、哲學(xué)和政策領(lǐng)域工作的學(xué)術(shù)界、政府和企業(yè)部門的專家，專門從事此類相關(guān)問(wèn)題的國(guó)際準(zhǔn)則制定。