你有沒有想過，如今的人工智能技術，能不能用來解決人的情感需求呢？事實上，已經(jīng)有人瞄準了這個商機——一些APP以提供虛擬數(shù)字人女友（男友）作為賣點，聲稱可以提供AI女友聊天、陪伴，AI女友自建等產(chǎn)品服務。

不過，法治網(wǎng)記者調查發(fā)現(xiàn)，部分APP提供的自動生成內容，存在涉嫌低俗、打色情擦邊球，含有性暗示內容等現(xiàn)象，同時產(chǎn)品設計粗糙、平臺監(jiān)管不嚴、用戶實名制落實不力等問題也較為突出。

AI生成內容涉嫌打色情擦邊球

法治網(wǎng)記者在某應用小程序平臺進行搜索發(fā)現(xiàn)，目前市場上存在多款以虛擬女友、虛擬戀愛、虛擬戀人、虛擬男友等為名稱的APP，其以與虛擬數(shù)字人女友（男友）在線聊天、戀愛等為賣點，以生成式人工智能大模型為底層技術邏輯，提供情侶日常情景對話內容服務。

記者下載數(shù)款APP，通過微信登錄后，便直接跳轉到會員付費頁面。商家提供的付款方式，分為終身、年付和月付等幾種形式，費用大都在十幾、幾十元不等。付完費后，APP就會推薦十幾個AI女友形象，分為溫柔、腹黑、高冷等多種類型。記者隨意選擇幾款女友類型進行測試，發(fā)現(xiàn)對方除了會主動提供一些對話內容外，還基本上可以按照使用者的要求，提供一些情侶間較為簡單的日常聊天內容，其中帶有涉嫌低俗、涉嫌打色情擦邊球和性暗示的內容。用戶還可以根據(jù)各自喜好，自主創(chuàng)建設計女友形象。而創(chuàng)建的“AI女友”，沒有任何年齡、人群限制，審核流程也形同虛設，幾乎完全按照用戶自己的設想自動生成相關AI形象，未成年人、老師、護士、空姐、御姐、高冷女性等，都成為“AI女友”的人物形象。

實名制和審核機制形同虛設

法治網(wǎng)記者調查發(fā)現(xiàn)，雖然部分APP明確標注產(chǎn)品適用年齡階層為18+，但實際上用戶只需用手機和微信就可直接登錄，不需要任何審核流程，也不需要實名制，一些未成年人同樣可以登錄使用。

除了平臺注冊和內容審核存在漏洞外，多款APP還存在雷同、抄襲現(xiàn)象，從外觀到名字一模一樣的虛擬數(shù)字人形象，在兩款APP中同時出現(xiàn)。在評論區(qū)，不少用戶表示，APP制作粗糙，提供內容簡單重復，并且頻繁誘導消費者進行購買會員消費，但充值后卻使用不暢。安插大量廣告，誘導消費者進行消費。此外，由于對話內容涉及個人隱私，存在個人信息泄露風險。

據(jù)統(tǒng)計，目前這幾款APP下載安裝次數(shù)最多的達220萬人次左右。

對人工智能產(chǎn)品應健全全生命周期監(jiān)管

《法治日報》律師專家?guī)斐蓡T、北京觀韜中茂（上海）律師事務所合伙人、律師王渝偉表示，人工智能的發(fā)展應當遵循社會公序良俗，不能違反相關法律法規(guī)，同時應進一步提升平臺的合規(guī)意識和水平，堅決抵制低俗、色情擦邊球、性暗示等內容。

王渝偉表示，一些開發(fā)者或商家，通過低成本運作開發(fā)相關產(chǎn)品，一旦出現(xiàn)問題或者面臨監(jiān)管風險，可能會通過金蟬脫殼的方式，將技術嫁接應用于另外一個類似產(chǎn)品的研發(fā)推廣上，從而逃避監(jiān)管和法律制裁，繼續(xù)謀取利益。

而這需要相關部門繼續(xù)加大執(zhí)法監(jiān)管力度。他建議，應進一步細化法律法規(guī)的實施細則，加強執(zhí)法力度。同時，加強監(jiān)管側的監(jiān)管力度，加強對產(chǎn)品設計、開發(fā)、部署和應用等產(chǎn)品全生命周期的監(jiān)管和合規(guī)建設。

北京師范大學法學院博士生導師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括認為，應進一步提升網(wǎng)絡安全監(jiān)測和響應機制?！皩θ斯ぶ悄艿谋O(jiān)管，除了履行備案制度外，事前的倫理評估和安全評估，事中的風險監(jiān)測和事后的應急響應，以及投訴舉報機制也具有同樣重要的意義?！眳巧蚶ㄕf。