2025年6月27日，以“智享AI 成長有愛”為主題的“清朗e企來”沙龍活動正如火如荼地舉行。

“未成年人模式如何讓未成年人想用、家長會用”、“未成年人模式如何避免低齡化、低智化”、“如何通過更便捷的方式一鍵啟動未成年人模式”……一系列問題被直接拋到臺前，來自上海市委網(wǎng)信辦、高校以及小紅書、嗶哩嗶哩、喜馬拉雅等網(wǎng)絡平臺的專家、代表沒有回避，直面問題。

事實上，這一場景只是“清朗守護·為你而來”未成年人網(wǎng)絡環(huán)境整治專項行動的一個縮影。從平臺治理到素養(yǎng)提升，從AI規(guī)制到心靈守護，上海的未成年人網(wǎng)絡保護正走出一條“心”路。

今年7月11日，市委網(wǎng)信辦組織召開未成年人模式建設分類指導會。

聚焦精準保護，提升服務效能

未成年人的健康成長關乎億萬家庭的幸福安寧。作為伴隨信息化發(fā)展成長起來的“網(wǎng)絡原住民”，未成年人已成為互聯(lián)網(wǎng)用戶重要組成部分。在通過網(wǎng)絡便利、豐富學習和生活的同時，未成年人也面臨著違法和不良信息侵害、個人信息泄露、網(wǎng)絡沉迷、網(wǎng)絡欺凌等多重風險。

早在2021年《未成年人保護法》正式實施不久，上海就在全國率先試點《上海網(wǎng)絡平臺青少年模式設置指南（試行版）》（以下簡稱《指南》）?！吨改稀访鞔_提出對不同年齡段的青少年需做出差異化功能限制，比如網(wǎng)絡平臺對不同年齡段的青少年（8-16周歲、16-18周歲）在充值、購買產品時，對單次、每月累計金額設置上限；明確在青少年模式下不得開啟打賞功能，未滿16周歲的青少年不能擔任網(wǎng)絡主播。

去年年底，國家網(wǎng)信辦推出《移動互聯(lián)網(wǎng)未成年人模式指南》，青少年模式正式升級為未成年人模式，今年4月“未成年人模式”在全國推廣。上海市委網(wǎng)信辦在7月11日舉行的分類指導會上強調，小紅書、嗶哩嗶哩、喜馬拉雅、咪咕等已建成未成年人模式的屬地網(wǎng)絡平臺要注重“三個優(yōu)化”，實現(xiàn)時間、內容、功能三方面管理升級。比如時長管理方面，要由移動智能終端統(tǒng)一控制總時長，解決單個應用程序分散計時、總時長不可控的問題；內容管理方面，要在持續(xù)擴充專屬內容池的同時，分年齡段推薦適齡內容；功能管理方面，要在保障使用需求的前提下，合理限制誘導沉迷功能，推動便捷性和安全性雙提升。

在屬地網(wǎng)絡平臺方面，嗶哩嗶哩的選擇頗具代表性。近一年來，其圍繞“知識啟蒙、安全教育、情緒疏導、興趣發(fā)展”等主題建立內容分層推薦，并探索按年齡階段匹配差異化推薦策略。

“真正的保護，不是與現(xiàn)實完全割裂。完全去現(xiàn)實化的內容環(huán)境容易讓孩子缺乏心理免疫力。”嗶哩嗶哩相關負責人坦言，這種認知促使平臺將未成年人模式重新定位為“可控的現(xiàn)實暴露”和“適齡的信息鍛煉”——它不僅是一個避風港，更是一個能幫助他們成長、建立自我認知和判斷力的“訓練營”。

喜馬拉雅則選擇了一條專業(yè)化道路。與北師大專家合作研發(fā)的“分級聽讀體系”，將兒童內容分為9個級別。通過便捷測試，系統(tǒng)就能為每個孩子推送合適的內容，實現(xiàn)內容難度、主題與心智發(fā)展階段的精準匹配。

這些探索，共同勾勒出上海在未成年人網(wǎng)絡保護上的恒心，要讓未成年人安心、放心地在網(wǎng)上“沖浪”。

以“智享AI 成長有愛”為主題的“清朗e企來”沙龍活動現(xiàn)場

嚴治AI亂象，筑牢安全防線

2025年6月，一則關于筑夢島App的報道引發(fā)關注。

據(jù)央廣網(wǎng)報道，某中學初一年級男學生反映，他常玩的AI聊天軟件筑夢島App，含色情擦邊和“分尸獵奇”內容。記者下載安裝筑夢島App，隨機選擇一位虛擬互動對象，對方發(fā)來的第一句開場白就是“先叫聲老公來聽聽”……在與該款產品多個虛擬角色的交流中，也都可以發(fā)現(xiàn)有色情擦邊類內容，且部分虛擬角色的對話尺度，并未因記者提供的假定年齡未成年而受到有效控制。

經(jīng)查，筑夢島App AI智能體內容生成環(huán)節(jié)存在低俗擦邊等違規(guī)內容，危害未成年人身心健康。上海市委網(wǎng)信辦隨后依法約談該平臺，要求立即整改，健全AI生成合成內容審核機制，加強涉未成年人不良內容的整治清理，切實落實未成年人網(wǎng)絡保護義務。

上海市委網(wǎng)信辦相關負責人指出，依據(jù)《未成年人網(wǎng)絡保護條例》《生成式人工智能服務管理暫行辦法》等相關法規(guī)，互聯(lián)網(wǎng)平臺應主動履行主體責任，平衡好技術創(chuàng)新與內容合規(guī)之間的關系，切實防范AI技術濫用風險，保護未成年人合法權益。

筑夢島App事件并非個例。隨著生成式AI技術迅猛發(fā)展，未成年人面臨的各類網(wǎng)絡風險更隱蔽、更難以防范。除了AI陪伴聊天中暗藏的色情暴力信息，網(wǎng)信部門還發(fā)現(xiàn)，部分用戶利用AI繪圖技術，惡意將未成年人圖片轉換成兒童懷孕狀態(tài)、身穿裸露服裝等惡俗低俗漫畫。

根據(jù)國家網(wǎng)信辦統(tǒng)一部署，上海組織開展的“清朗?整治 AI 技術濫用”專項行動，聚焦利用AI技術制作發(fā)布謠言、不實信息、色情低俗內容、假冒他人、從事網(wǎng)絡水軍活動等突出問題。對屢教不改、問題嚴重的企業(yè)，上海市委網(wǎng)信辦表示將依法予以處罰，并對典型案例進行媒體曝光。

整治亂象的同時，上海也以先行姿態(tài)應對AI技術對未成年人保護帶來的挑戰(zhàn)。在上海市委網(wǎng)信辦指導下，徐匯區(qū)委網(wǎng)信辦發(fā)布《未成年人科學使用AI倡議書》（以下簡稱“《倡議書》”）。

這是AI時代為未成年人實現(xiàn)數(shù)字保護的“上海方案”?！冻h書》建議，未成年人要保持自主性和批判性思維，驗證AI生成內容準確性，避免盲目依賴和技術崇拜，以理性、科學的態(tài)度與AI和諧共處。學習AI技術原理，以AI為工具拓寬思維邊界，在創(chuàng)新創(chuàng)作中激發(fā)想象力……

這份《倡議書》的“用心”在于，《倡議書》從政府構建良好生態(tài)、企業(yè)踐行社會責任、青少年培育科學精神三方面提供引導，推動形成“政府引導、企業(yè)擔責、青少年自主”新模式，為應對AI時代的未成年人網(wǎng)絡教育提供了可復制的“上海方案”。

政企協(xié)同合力，多維施策守護

“滬小信”網(wǎng)絡安全冒險記、“唱響上海話童謠、提升未成年人文明素養(yǎng)”音樂綜合課、“魔法書頁護成長、文明網(wǎng)絡伴童年”……2024年，上海市委網(wǎng)信辦依托未成年人網(wǎng)絡保護專項協(xié)同機制，會同相關部門創(chuàng)新推出未成年人網(wǎng)絡素養(yǎng)“菜單式”課程庫，實現(xiàn)“點單”授課、按需施教，共同提升未成年人網(wǎng)絡素養(yǎng)。2025年，這項工作繼續(xù)走深走實。

2025年7月7日，上海第一期愛心暑托班正式開班。在長寧、普陀、寶山、閔行等區(qū)，網(wǎng)絡素養(yǎng)課程走進愛心暑托班。

長寧區(qū)委網(wǎng)信辦會同上海市律師協(xié)會未成年人權益保護專業(yè)委員會在江蘇路街道開展《“滬小信”網(wǎng)絡安全冒險記》網(wǎng)絡素養(yǎng)課程，針對保護個人信息、預防網(wǎng)絡欺凌以及網(wǎng)絡防沉迷問題，與近100名學生開展互動交流；

普陀區(qū)愛心暑托班已開展6次未成年人網(wǎng)絡素養(yǎng)課程，覆蓋約200人次，涉及“科技改變生活”“產業(yè)升級和進步”等主題；

寶山區(qū)整合教育、司法、執(zhí)法等多領域資源，推出“爭做網(wǎng)絡文明小達人”等課程；

閔行區(qū)指導華漕鎮(zhèn)聯(lián)合屬地派出所以真實案例科普網(wǎng)絡安全知識；

嘉定區(qū)組織“一嘉人”普法志愿服務團隊推出的未成年人網(wǎng)絡素養(yǎng)課程聚焦校園欺凌和網(wǎng)絡欺凌問題，系統(tǒng)講解欺凌行為的表現(xiàn)形式、法律后果及應對策略；

崇明區(qū)邀請檢察官赴愛心暑托班，通過典型案例分析傳授網(wǎng)絡犯罪預防知識……

與此同時，上海屬地網(wǎng)絡平臺也在同步發(fā)力。

“向上海市慈善基金會徐匯區(qū)代表處捐贈，成立“點亮計劃”青少年保護專項基金，用于青少年網(wǎng)絡保護、服務和權益保障等慈善公益類項目?！泵坠蜗嚓P工作人員介紹，網(wǎng)絡安全進校園項目主要針對青少年遭受網(wǎng)絡暴力、網(wǎng)絡詐騙以及網(wǎng)絡沉迷等問題。

小紅書則在2025年暑假期間啟動了未成年人反詐專項工作。該項目治理負責人柳天宇介紹，平臺采取“端內畫風管控+風險阻斷提醒+評論攔截屏蔽+群聊封禁解散”四位一體技戰(zhàn)法進行綜合治理，全力守護平臺未成人用戶財產安全。

與此同時，平臺還積極開展未成年用戶反詐心智建設工作。數(shù)據(jù)顯示，小紅書#未成年反詐指南 超級話題已獲得超4億曝光量，引發(fā)31萬次站內討論。

關注心靈需求，創(chuàng)新守護模式

在構建未成年人網(wǎng)絡保護體系中，上海特別注重心靈層面的守護。

“為感到焦慮的用戶提供寧靜的藍色系，為情緒低落的用戶提供溫暖的暖色系?！眴袅▎袅ü彩聞崭呒壙偙O(jiān)王昊棟介紹，今年平臺在未成年人心理健康領域的探索，核心是推動“能量加油站”心理關懷項目煥新升級，包括引入“心情模式”智能功能，“當用戶進入‘能量加油站’時，系統(tǒng)會引導或根據(jù)用戶自主選擇，識別其當前的情緒狀態(tài)，界面會自動切換相匹配的主題配色。”

更重要的是，嗶哩嗶哩在平臺內設置了最后一道“守護線”——與專業(yè)的第三方心理健康公益組織合作設立公益熱線，為面臨嚴重心理困擾的用戶提供即時、保密且可靠的支持。

Soul平臺則與北京回龍觀醫(yī)院、上海精神衛(wèi)生中心深度合作設立專屬心理援助熱線，建立警企聯(lián)動機制。當接到用戶的熱線反饋時，迅速明確其需求，若判定為真實輕生等信息，則立即報警并提供必要信息。

此外，傳統(tǒng)的社區(qū)工作也在悄然轉型。

比如，普陀區(qū)聚焦未成年人網(wǎng)絡防沉迷，升級打造“陽光成長·心網(wǎng)相護”品牌項目，創(chuàng)新采用“沉浸式心理劇”與分齡化主題沙龍，還原中小學生家庭在手機使用與學習安排中的典型沖突場景，并融入輕松活潑的互動游戲，將抽象的防沉迷理念轉化為可感可知的家庭教育實踐，引導未成年人合理用網(wǎng)、健康上網(wǎng)，同步提升心理健康水平與親子溝通質量。

項目負責人表示，活動始終圍繞防沉迷核心，動態(tài)收集家長和孩子的新問題、新需求，針對寒暑假時間管理、大考前心理調適等關鍵節(jié)點，精準開展親子家庭沙龍?！耙粓龌顒酉聛?，家長才明白，許多‘不聽話’的背后，其實是孩子的情緒信號?！?/p>

這種線上線下的聯(lián)動，織就了一張密實的心理健康防護網(wǎng)。它不再將網(wǎng)絡問題與心理問題割裂對待，而是認識到兩者之間的深刻關聯(lián)，并在此基礎上構建整體性解決方案。

今年，“清朗守護·為你而來”專項行動指導屬地網(wǎng)站平臺清理違法違規(guī)信息324萬余條，處置違法違規(guī)賬號3.8萬余個。

數(shù)字背后，是一場更為深刻的治理變革。在這條“走心之路”上，上海不是筑起高墻，而是賦能成長；不是簡單隔離，而是培養(yǎng)免疫力；不是單向管理，而是多元共治。當政府、企業(yè)、學校、家庭和社會形成合力，我們才能在數(shù)字時代真正守護好未成年人的明天——

讓他們在網(wǎng)絡世界既自由翱翔，又不迷失方向。