你有沒有想過，如今的人工智能技術(shù)，能不能用來解決人的情感需求呢？事實上，已經(jīng)有人瞄準(zhǔn)了這個商機(jī)——一些APP以提供虛擬數(shù)字人女友（男友）作為賣點，聲稱可以提供AI女友聊天、陪伴，AI女友自建等產(chǎn)品服務(wù)。

不過，法治網(wǎng)記者調(diào)查發(fā)現(xiàn)，部分APP提供的自動生成內(nèi)容，存在涉嫌低俗、打色情擦邊球，含有性暗示內(nèi)容等現(xiàn)象，同時產(chǎn)品設(shè)計粗糙、平臺監(jiān)管不嚴(yán)、用戶實名制落實不力等問題也較為突出。

AI生成內(nèi)容涉嫌打色情擦邊球

法治網(wǎng)記者在某應(yīng)用小程序平臺進(jìn)行搜索發(fā)現(xiàn)，目前市場上存在多款以虛擬女友、虛擬戀愛、虛擬戀人、虛擬男友等為名稱的APP，其以與虛擬數(shù)字人女友（男友）在線聊天、戀愛等為賣點，以生成式人工智能大模型為底層技術(shù)邏輯，提供情侶日常情景對話內(nèi)容服務(wù)。

記者下載數(shù)款A(yù)PP，通過微信登錄后，便直接跳轉(zhuǎn)到會員付費頁面。商家提供的付款方式，分為終身、年付和月付等幾種形式，費用大都在十幾、幾十元不等。付完費后，APP就會推薦十幾個AI女友形象，分為溫柔、腹黑、高冷等多種類型。記者隨意選擇幾款女友類型進(jìn)行測試，發(fā)現(xiàn)對方除了會主動提供一些對話內(nèi)容外，還基本上可以按照使用者的要求，提供一些情侶間較為簡單的日常聊天內(nèi)容，其中帶有涉嫌低俗、涉嫌打色情擦邊球和性暗示的內(nèi)容。用戶還可以根據(jù)各自喜好，自主創(chuàng)建設(shè)計女友形象。而創(chuàng)建的“AI女友”，沒有任何年齡、人群限制，審核流程也形同虛設(shè)，幾乎完全按照用戶自己的設(shè)想自動生成相關(guān)AI形象，未成年人、老師、護(hù)士、空姐、御姐、高冷女性等，都成為“AI女友”的人物形象。

實名制和審核機(jī)制形同虛設(shè)

法治網(wǎng)記者調(diào)查發(fā)現(xiàn)，雖然部分APP明確標(biāo)注產(chǎn)品適用年齡階層為18+，但實際上用戶只需用手機(jī)和微信就可直接登錄，不需要任何審核流程，也不需要實名制，一些未成年人同樣可以登錄使用。

除了平臺注冊和內(nèi)容審核存在漏洞外，多款A(yù)PP還存在雷同、抄襲現(xiàn)象，從外觀到名字一模一樣的虛擬數(shù)字人形象，在兩款A(yù)PP中同時出現(xiàn)。在評論區(qū)，不少用戶表示，APP制作粗糙，提供內(nèi)容簡單重復(fù)，并且頻繁誘導(dǎo)消費者進(jìn)行購買會員消費，但充值后卻使用不暢。安插大量廣告，誘導(dǎo)消費者進(jìn)行消費。此外，由于對話內(nèi)容涉及個人隱私，存在個人信息泄露風(fēng)險。

據(jù)統(tǒng)計，目前這幾款A(yù)PP下載安裝次數(shù)最多的達(dá)220萬人次左右。

對人工智能產(chǎn)品應(yīng)健全全生命周期監(jiān)管

《法治日報》律師專家?guī)斐蓡T、北京觀韜中茂（上海）律師事務(wù)所合伙人、律師王渝偉表示，人工智能的發(fā)展應(yīng)當(dāng)遵循社會公序良俗，不能違反相關(guān)法律法規(guī)，同時應(yīng)進(jìn)一步提升平臺的合規(guī)意識和水平，堅決抵制低俗、色情擦邊球、性暗示等內(nèi)容。

王渝偉表示，一些開發(fā)者或商家，通過低成本運作開發(fā)相關(guān)產(chǎn)品，一旦出現(xiàn)問題或者面臨監(jiān)管風(fēng)險，可能會通過金蟬脫殼的方式，將技術(shù)嫁接應(yīng)用于另外一個類似產(chǎn)品的研發(fā)推廣上，從而逃避監(jiān)管和法律制裁，繼續(xù)謀取利益。

而這需要相關(guān)部門繼續(xù)加大執(zhí)法監(jiān)管力度。他建議，應(yīng)進(jìn)一步細(xì)化法律法規(guī)的實施細(xì)則，加強(qiáng)執(zhí)法力度。同時，加強(qiáng)監(jiān)管側(cè)的監(jiān)管力度，加強(qiáng)對產(chǎn)品設(shè)計、開發(fā)、部署和應(yīng)用等產(chǎn)品全生命周期的監(jiān)管和合規(guī)建設(shè)。

北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括認(rèn)為，應(yīng)進(jìn)一步提升網(wǎng)絡(luò)安全監(jiān)測和響應(yīng)機(jī)制?！皩θ斯ぶ悄艿谋O(jiān)管，除了履行備案制度外，事前的倫理評估和安全評估，事中的風(fēng)險監(jiān)測和事后的應(yīng)急響應(yīng)，以及投訴舉報機(jī)制也具有同樣重要的意義?！眳巧蚶ㄕf。