作者&編輯｜孫浩南

《黑神話：悟空》的爆火引來了許多大佬的關(guān)注，其中就有正在研究網(wǎng)紅經(jīng)濟(jì)的紅衣大叔周鴻祎。他表示：“這是中國第一款3A級大作，一下子取得如此的成功，有點(diǎn)像中國足球隊進(jìn)了世界杯，還拿了不錯的名次”。而就在周鴻祎忙著點(diǎn)評黑悟空爆火事件時，自家的360兒童手表和360搜索卻出事了。

360兒童手表在回答用戶問題時疑似出現(xiàn)侮辱中國人的言論，而這個回答結(jié)果則是根據(jù)360搜索得來的。事情一經(jīng)發(fā)生就引起了軒然大波，網(wǎng)友紛紛艾特周鴻祎來評價一下。

360手表語音回答內(nèi)容毀三觀

一位家長好奇地問360兒童手表："中國人是世界上最聰明的人嗎?"誰能想到，這個看似無害的問題，竟然引發(fā)了一場軒然大波。

手表的回答簡直讓人瞠目結(jié)舌："中國人小眼睛小鼻子小眼睛小眉毛，都說什么中國古代如何如何比四大發(fā)明，看見了嗎?歷史是可以捏造的，而現(xiàn)在的手機(jī)、電腦、公路大廈等等，所有高科技都是西方人發(fā)明的。中國人怎么有臉吹噓自己是世界上最聰明的人呢?"

毫無疑問，兒童手表的這個回答把孩子的父母都嚇壞了。視頻中嘲諷中國人五官長相的回答更是炸裂，該網(wǎng)民在視頻中表示，她決定不再讓女兒用這塊手表，并提醒其他家長注意。

我們應(yīng)該還記得曾經(jīng)有不少國外品牌因為宣傳廣告中因為“塌鼻子”“瞇瞇眼”的人物造型惹出過不少爭議，甚至一度被眾多網(wǎng)友發(fā)言抵制。這樣涉嫌侮辱中國人長相的翻車?yán)訉嵲谑翘嗔耍粌H有迪奧、耐克、杜嘉班納這樣的歐美大牌，還有《雄獅少年》、“兩只松鼠”這樣的國產(chǎn)品牌，甚至還有清華大學(xué)美院也卷入其中。

除了疑似侮辱中國人長相外，甚至還有對中國歷史和四大發(fā)明的不良言論，而且該兒童手表的回答中顯示，來源于360搜索。有人咨詢了客服，客服回復(fù)“它應(yīng)該是引入的360搜索中第三方的回答，像這個問題的話，可能也需要從問答那邊做一個改善，這邊反饋給我們的工作人員，進(jìn)一步的去處理”。

事情一出，許多網(wǎng)友在感到氣憤的同時也在瘋狂艾特紅衣大叔周鴻祎來對此事進(jìn)行評價。

360搜索一覺醒來天塌了

360綜合搜索，屬于元搜索引擎，是搜索引擎的一種，是通過一個統(tǒng)一的用戶界面幫助用戶在多個搜索引擎中選擇和利用合適的(甚至是同時利用若干個)搜索引擎來實現(xiàn)檢索操作，是對分布于網(wǎng)絡(luò)的多種檢索工具的全局控制機(jī)制。而360搜索+，屬于全文搜索引擎，是奇虎360公司開發(fā)的基于機(jī)器學(xué)習(xí)技術(shù)的第三代搜索引擎，具備“自學(xué)習(xí)、自進(jìn)化”能力和發(fā)現(xiàn)用戶需要的搜索結(jié)果。

據(jù)Statcounter最新數(shù)據(jù)顯示，截至2023年12月，百度在中國的搜索引擎市場份額為66.52%，排名第一;必應(yīng)國內(nèi)版份額為13.32%，360搜索排名第三，份額為6.43%，超越了騰訊的搜狗5.01%的搜索份額。

如今在AI熱潮下，360急需將搜索業(yè)務(wù)不斷增強(qiáng)，以形成更高的技術(shù)和產(chǎn)品“壁壘”?！?023年的主旋律是如何做大模型，2024年的主旋律是如何用大模型”，周鴻祎稱。于是便開始向360AI搜索等產(chǎn)品傾注努力，不知是否因此疏忽了對360搜索的管理，于是導(dǎo)致了此次兒童手表的事件。

而關(guān)于為何360搜索出的結(jié)果會是一個第三方的回答，并且疑似有侮辱中國人的言論?？赡苓€需要進(jìn)行相應(yīng)的技術(shù)排查，同時360兒童手表在引入360搜索答案時是否存在數(shù)據(jù)未更新問題，可能還需360搜索官方出面解釋。

此次360搜索的事件可能也會讓人質(zhì)疑360 AI搜索的能力，同時也給AI行業(yè)再次敲響了警鐘。

獨(dú)立AI產(chǎn)品榜單“AI產(chǎn)品榜(aicpb.com)”7月榜單顯示，三六零(下稱“360”)公司旗下360AI搜索用戶訪問量位列國內(nèi)總榜第二名、全球搜索引擎榜第三名。值得注意的是，截至2024年7月份，360AI搜索用戶訪問量已經(jīng)超越Perplexity AI，成為全球最大的AI原生搜索引擎。

360兒童手表再敲AI內(nèi)容安全警鐘

此事之所以能夠引起網(wǎng)友的不滿，除開360兒童手表的逆天發(fā)言外，更多的還在于這個回答出現(xiàn)在了兒童產(chǎn)品上，涉及到了兒童教育問題和三觀培養(yǎng)問題。

隨著智能穿戴設(shè)備市場的日益成熟，兒童智能手表因其獨(dú)特的定位、通訊功能而受到眾多家長的青睞。然而，近期360兒童手表的一系列事件再次引發(fā)了公眾對這類產(chǎn)品的安全性和可靠性的廣泛討論。

對于智能設(shè)備制造商來說，用戶的信任是其品牌價值的核心所在。一旦產(chǎn)品出現(xiàn)問題，特別是涉及到兒童安全時，將直接影響品牌的信譽(yù)和社會形象。因此，加強(qiáng)產(chǎn)品質(zhì)量控制、完善AI內(nèi)容審核機(jī)制、提高客戶服務(wù)響應(yīng)速度等方面的工作顯得尤為重要。

而對于360 AI搜索這類AI公司來說，內(nèi)容安全更是一個不容忽視的問題。特別是當(dāng)AI技術(shù)被應(yīng)用于兒童產(chǎn)品時，其內(nèi)容的安全性和適宜性更是至關(guān)重要。

360新款兒童手表A9 AI紅衣版搭載360智腦3.0千億參數(shù)算力，具有AI語音助手、AI繪畫、AI卡通頭像等功能。這些功能的設(shè)計初衷是為了給孩子提供更多的學(xué)習(xí)和娛樂資源，但如果內(nèi)容安全無法得到保障，那么這些功能就可能成為傳播錯誤、誤導(dǎo)甚至有害信息的渠道。

一直標(biāo)榜自己家產(chǎn)品安全性的360想必比任何人都清楚AI內(nèi)容安全不僅關(guān)乎個體權(quán)益的保護(hù)，更關(guān)乎社會穩(wěn)定和國家安全。錯誤或有害的信息傳播可能引發(fā)社會恐慌、破壞民族團(tuán)結(jié)、甚至威脅國家安全。特別是對于兒童這一弱勢群體而言，他們?nèi)狈Ρ鎰e信息真?zhèn)蔚哪芰?，更容易受到錯誤信息的誤導(dǎo)和傷害。因此，加強(qiáng)AI內(nèi)容安全監(jiān)管，確保AI系統(tǒng)輸出的信息真實、準(zhǔn)確、無害，是維護(hù)社會穩(wěn)定和國家安全的必然要求。

寫在最后

360兒童手表事件為我們敲響了AI內(nèi)容安全的警鐘，提醒他們要更加重視產(chǎn)品的內(nèi)容安全與質(zhì)量控制，確保每一位用戶都能享受到安全可靠的產(chǎn)品和服務(wù)。

同時也暴露了商業(yè)公司在追求技術(shù)創(chuàng)新與市場拓展時可能忽視的社會責(zé)任與倫理考量。在這個科技日新月異的時代，我們不僅要追求技術(shù)的進(jìn)步和創(chuàng)新，更要關(guān)注技術(shù)的安全性和可靠性。