下一代搜索引擎從根本上會基于不同的價值觀（可控、可信賴），采取不同的商業(yè)模式。近十年人工智能技術(shù)的發(fā)展，使得小公司顛覆搜索巨頭成為可能。

編譯 | 吳昕

來源 | a16z

二十年來，搜索引擎設(shè)計或商業(yè)模式?jīng)]有任何重大創(chuàng)新。

相信很多人早已厭倦充斥廣告、商業(yè)泛濫的搜索，但更習(xí)慣于「忍忍就過去了」的將就。對于收割「羊群」注意力的商業(yè)手腕兒，哥倫比亞大學(xué)法學(xué)院教授 Tim Wu 在《注意力經(jīng)濟》一書中早已做了詳盡描述?？恐鴱V告費支撐著各種免費產(chǎn)品，占據(jù)數(shù)據(jù)撒哈拉的搜索巨頭自然希望安于現(xiàn)狀，但可供指望的「救星」又屈指可數(shù)。至少 5 或 10 年前想要建立一家搜索引擎公司與谷歌競爭，會非常困難，而且基本上不可能，因為需要數(shù)百人和大量訓(xùn)練數(shù)據(jù)。

不過最近幾年，情況有所改變。就巨頭們而言，隨著各自賴以起家的核心業(yè)務(wù)走到巔峰，為了支持超高市值，他們開始邁入已知巨大市場，相互踩踏，比如搜索。

微軟必應(yīng)自然希望多一些市場份額。坐擁龐大電商平臺和商家的亞馬遜為什么不讓用戶直接從「自己花園」里開始搜索而一直要做谷歌的大客戶？蘋果直接高調(diào)挖走谷歌搜索和AI負責(zé)人。Siri基本上就是一個搜索引擎，通過回答用戶提出的問題，可以幫蘋果獲得可觀收益。雖然大打隱私牌的蘋果似乎不想直接從廣告掙錢，但用戶還是難斷定巨頭們涉足搜索不過是另一輪「圈地運動」、收割流量的代名詞。

在構(gòu)建根本不同的東西、借由「創(chuàng)新者的窘境」式游戲來削弱谷歌搜索的路上，絕大多數(shù)創(chuàng)業(yè)公司被寄予希望，卻總顯得孤獨寂寞。但也有例外。2021年，理查德·索切爾（Richard Socher）創(chuàng)立新公司 you.com， 進軍搜索領(lǐng)域。這是一個無廣告、保護隱私的搜索引擎。

Socher 曾在推特上發(fā)問，具有什么樣功能的搜索引擎會讓你放棄谷歌? KK的回復(fù)是：沒有廣告；付費訂閱。

一直關(guān)注人工智能領(lǐng)域的中國讀者一定很熟悉這個名字。索切爾曾于2014 年創(chuàng)辦了 MetaMind，后被 Salesforce 收購。索切爾的優(yōu)秀履歷也再添一份精彩：Salesforce 首席科學(xué)家和執(zhí)行副總裁。

這位曾被世界經(jīng)濟論壇稱為「人工智能神童之一」的后起之秀，于2014年在斯坦福大學(xué)計算機系獲得博士學(xué)位，也是組建 ImageNet 團隊成員之一，曾與 Chris Manning、吳恩達一起研究深度學(xué)習(xí)。不過，他并不眷戀純粹的學(xué)術(shù)研究，畢業(yè)后即創(chuàng)業(yè)（成立 MetaMind ）。他認為，擁有工程資源、讓AI真正發(fā)揮作用可能更為重要。

自2012年深度學(xué)習(xí)革命爆發(fā)以來，理查德·索切爾就一直在參與其中，從事深度學(xué)習(xí)和摘要技術(shù)（Summarization）的研究。最近十年，人工智能領(lǐng)域發(fā)生了巨大的變化，特別是深度學(xué)習(xí)、無監(jiān)督、半監(jiān)督和遷移學(xué)習(xí)的激增使得像 you.com 這樣的小公司可以與谷歌對抗，而充滿雜亂廣告鏈接、隱私體驗欠佳的搜索引擎成為這些重要技術(shù)的最佳應(yīng)用場景。索切爾認為，摘要技術(shù)不僅是信息時代的一項基礎(chǔ)技術(shù)，也是注意力經(jīng)濟的一種解決方案。

現(xiàn)在是啟動新搜索引擎的最佳時機。他們利用自然語言處理（NLP）來理解理解查詢意圖，對搜索結(jié)果進行排名，并將人類語言語義解析為不同 API 的計算機語言。平臺匯總了來自網(wǎng)絡(luò)的信息，并且可以通過內(nèi)置的搜索應(yīng)用程序進行擴展，例如 Yelp 和 Twitter 的應(yīng)用程序，用戶無需離開結(jié)果頁面即可完成搜索任務(wù)。讓用戶從多個不同角度探索一個主題。

輸入Briney Spears ，you.com的頁面顯示。

索切爾希望建立一個真正以消費者為中心的搜索工具，該工具不依賴廣告和對用戶的了解。這個工具可以幫助你研究、總結(jié)網(wǎng)頁信息，獲得一些真正有價值的信息。

對工具可信賴、可控的強調(diào)，可能也與他這幾年的工作體驗有關(guān)。他承認，在與 Salesforce CEO Marc Benioff 的合作中學(xué)到不少。比如你可以賺到錢，也仍然可以與購買你產(chǎn)品的人建立信任。有意思的是，無論是當(dāng)初創(chuàng)辦MetaMind，還是后來創(chuàng)立 you.com ，都可以看到 Marc Benioff 的投資身影。

為了重新調(diào)整對搜索引擎的期望，You.com 還推出了一款與 OpenAI 合作構(gòu)建的搜索應(yīng)用程序 YouWrite，該應(yīng)用程序會在出現(xiàn)提示時生成文本片段——甚至是文檔。索切爾稱其為「個人 AI 作家」。

YouWrite 根據(jù)提示生成文本

最近，索切爾接受了硅谷知名投資機構(gòu) a16z 合伙人、編輯 Derrick Harris 的采訪。這次采訪中，索切爾談?wù)摿嗽S多話題，包括過去十年中，人工智能初創(chuàng)公司情況發(fā)生了怎樣的變化；在初創(chuàng)公司、企業(yè)和學(xué)術(shù)界做人工智能的區(qū)別，以及新的機器學(xué)習(xí)技術(shù)（如 Transformer 模型）如何使公司能夠用過去所需資源的一小部分來構(gòu)建先進的產(chǎn)品。其對下一代 AI 產(chǎn)品設(shè)計的可控性、可信賴元素的強調(diào)，均可在采訪中找到闡述。以下是采訪正文。

對于人工智能研究人員(學(xué)生和教授)來說，從學(xué)術(shù)界轉(zhuǎn)到初創(chuàng)公司似乎是一個常見的做法，就像你做的那樣。在今天，這兩個世界有什么關(guān)鍵區(qū)別?

在學(xué)術(shù)界，人們?nèi)栽谂ο蛉斯ぶ悄芸梢援a(chǎn)生影響的新領(lǐng)域前進，有些人希望在AGI（通用人工智能）方面取得進展。我認為有兩個激動人心的新領(lǐng)域的例子，一個是蛋白質(zhì)結(jié)構(gòu)，也就是蛋白質(zhì)或氨基酸序列方面，另一個是對經(jīng)濟學(xué)的影響。后者對世界來說非常重要，但 AI 的影響并沒有我認為的那么大。

與此同時，對于初創(chuàng)公司來說，如果你有很多數(shù)據(jù)，流程也主要依賴于已經(jīng)看到的數(shù)據(jù)，基本上可以說「我們知道它是如何運作的。」比如，你有一張放射圖像，試著確定這骨頭斷了嗎?或者有一個頭部 CT 掃描，你要試著確定是否有顱內(nèi)出血或腦出血?或者從病理圖像中對不同種類的癌癥進行分類。

所有這些應(yīng)用的流程序列已經(jīng)相對完善，即：識別問題并為其收集數(shù)據(jù)，在此基礎(chǔ)上訓(xùn)練一個大型神經(jīng)網(wǎng)絡(luò)，然后優(yōu)化和自動化流程中的部分或全部 。

有了這個經(jīng)過驗證的方法，你就能產(chǎn)生很大的影響。這與我們在電力方面所看到的情況類似：一旦掌握電力的基本原理，只要把它提供給一個以前只有油燈和火的城鎮(zhèn)，就可以產(chǎn)生很大的影響。

這是可能的，部分是因為在過去的10年里已經(jīng)發(fā)展出了許多有趣和重要的想法。以前不可能實現(xiàn)的事情，現(xiàn)在變得可能。比如讓人工智能編寫相當(dāng)長的文本。一個主要的變化是，不僅僅是圖像，所有的數(shù)據(jù)本質(zhì)上都是矢量。所有東西都是一個數(shù)字列表，這個數(shù)字列表可以作為一個大型神經(jīng)網(wǎng)絡(luò)的輸入，在上面訓(xùn)練任何你想訓(xùn)練的東西。

還有很多有趣和重要的算法改進（更不用說更多數(shù)據(jù)和更多計算性能了)。但是端到端學(xué)習(xí)（ 深度學(xué)習(xí)的一個重要思想就是「端到端」學(xué)習(xí)方式，屬表示學(xué)習(xí)的一種，也是這深度學(xué)習(xí)區(qū)別于其他機器學(xué)習(xí)算法的非常重要的一個方面。譯者注）是一個非常重要的思想，它改變了很多事情。

從初創(chuàng)公司到大型企業(yè)的轉(zhuǎn)變呢？這似乎是一把雙刃劍，預(yù)算可能更多，但限制也更多……

兩者在很多方面都不同，我只提兩個例子。

如果AI工具初創(chuàng)發(fā)現(xiàn)很多公司都花費比如四分之一的開發(fā)人員圍繞某一流程構(gòu)建產(chǎn)品，而其中某部分或者環(huán)節(jié)要花費一到兩個開發(fā)人員，他們就有可能在2B領(lǐng)域獲得成功。這也是為什么許多AI工具初創(chuàng)都在幫助開發(fā)人員對付這些讓人不太愉快的部分。

而要做到這一點，最好的方法是讓客戶仍然覺得自己在構(gòu)建和控制人工智能，盡管實際上需要合作伙伴幫助標注數(shù)據(jù)、研究數(shù)據(jù)偏差。（比如）他們首先要收集數(shù)據(jù)，通過 Huggingface（一家在 NLP 社區(qū)做出杰出貢獻的紐約創(chuàng)業(yè)公司，提供了大量預(yù)訓(xùn)練模型和代碼等資源——譯者注）實現(xiàn)模型，借助 Weights &Biases （ 一個可幫助數(shù)據(jù)科學(xué)家跟蹤他們的模型、數(shù)據(jù)集、系統(tǒng)信息等的平臺——譯者注）訓(xùn)練模型時擴展模型分析，并通過 ZenML （一種可擴展的機器學(xué)習(xí)框架——譯者注）部署模型。

（算下來）雖然依賴10-15個外部支援，但相對于圍繞某個特定AI模型重復(fù)造輪子來說，這樣能夠更快、更可擴展、更準確地訓(xùn)練 AI。找到類似各種各樣已經(jīng)存在但又缺乏高度專業(yè)性、需要專業(yè)團隊聚焦的某些特定方面或者環(huán)節(jié)，是創(chuàng)業(yè)公司的一大樂事。

但在像 Salesforce 這樣的大公司，你主要考慮的是什么能夠真正改變許多不同客戶的需求。如何幫助那些已經(jīng)在您系統(tǒng)中的客戶使用他們的數(shù)據(jù)集，以一種他們?nèi)匀挥X得(實際上也確實)擁有控制權(quán)的方式？這一點很重要，因為在 Salesforce，信任是我們的第一價值。你不能只是拿每個人的數(shù)據(jù)，然后對其進行訓(xùn)練，因為他們擁有自己的數(shù)據(jù)，而且他們?yōu)榇鎯Ω顿M。因此，你還需要與客戶合作，努力讓他們的人工智能項目起步。

所以，企業(yè)軟件供應(yīng)商擔(dān)心的是客戶支付了很多錢，你就不能以試驗新功能的名義來破壞工作？

這是部分原因。但可能更重要的是，你必須確保它是可信、易于使用，并且可以跨越所有這些不同的用例，而且服務(wù)的成本仍然相對較低。如果是一個像 Salesforce這樣的平臺公司，你也不能只建立一個分類器，還必須讓所有客戶建立他們自己的分類器，這也伴隨著各種有趣和困難的技術(shù)挑戰(zhàn)。

企業(yè)預(yù)算如何改變公司處境？

最大的區(qū)別是，當(dāng)公司規(guī)模越來越大時，就可以而且應(yīng)該進一步展望未來，做更多有趣的研究工作，這實際上與學(xué)術(shù)界有更大的重疊。因為你可能會在兩三年內(nèi)被打亂，而你又有足夠的空間去思考四五年后的未來。所以需要預(yù)測一下接下來會發(fā)生什么。

因此，作為一家大公司的 AI 研究人員，你可以奢侈地去思考和構(gòu)建一些東西，而在初創(chuàng)公司，你需要構(gòu)建人們現(xiàn)在想要的東西，它還需要非常好，并在合理的時間范圍內(nèi)發(fā)貨。這就是最大的不同——絕大多數(shù)初創(chuàng)公司都在從事應(yīng)用，應(yīng)用程序和人工智能，而不是基礎(chǔ)研究；大公司可以兩者兼得。

當(dāng)你談?wù)?B2B 初創(chuàng)時，提到的很多東西，我們可以稱之為橫向應(yīng)用（ horizontal applications ）。為什么你認為這些在今天被證明是成功的，而情況并非總是如此？

總有一些非常有用的垂直 AI 應(yīng)用程序，但有一個短暫的階段，我們認為橫向的平臺可能會起作用。其實，早期的人工智能平臺初創(chuàng)公司就承擔(dān)了太多不同的任務(wù)。

例如，我們在 MetaMind 構(gòu)建了一些技術(shù)，你可以將一些文本或圖像拖放到 Web 瀏覽器，擁有一個完全可擴展的系統(tǒng)來對這些文檔進行分類。某種程度上，這確實有些古早，因為這都發(fā)生在前 TensorFlow 、 PyTorch 時代。你必須從頭實現(xiàn)所有這些神經(jīng)網(wǎng)絡(luò)及其細節(jié)，也幾乎沒有什么開發(fā)工具。現(xiàn)在，情況已經(jīng)發(fā)生了顯著變化。

我們在 MetaMind 中構(gòu)建了所有這些東西——標注、錯誤分析、部署、建模、如何訓(xùn)練模型分析。有趣的是，如果每個部分都有一個專注于此的獨立公司，現(xiàn)在他們中的每一家都比 MetaMind 更值錢。

我認為，大多數(shù)公司和開發(fā)人員都希望自己通盤掌控 AI，但他們可以放棄其中獨立的較小部分，如果編寫這部分代碼實際上并不那么令人興奮。所以，需要找到一種有趣的方式，在樂趣和讓每個人都感到掌控感之間找到平衡。既然初創(chuàng)公司負責(zé)提供機器學(xué)習(xí)工具，你就不能剝奪太多用戶的掌控感。

網(wǎng)絡(luò)和模型的進化如何改變了人們對創(chuàng)辦公司或構(gòu)建人工智能產(chǎn)品的看法？

我實際上并不認為特定模型對如何創(chuàng)辦公司有很大的改變。但我認為，某些模型目前更高效，因為它們能更好地處理我們擁有的硬件。我們并不真正受大腦、理論或原則啟發(fā)——而是受 GPU 啟發(fā)。我們的靈感主要來自在 GPU 上運行良好的東西。當(dāng)前流行的模型 Transformers，對于 GPU 來說就非常有效，可以非常有效地進行訓(xùn)練。

對于硬件初創(chuàng)公司來說，這確實改變了一些事情。他們看著英偉達和其他一些大公司，然后說「嗯，必須有某種方法來分一杯羹?！?我們也因此會看到一些創(chuàng)新。（不過）與此同時，他們真的很難擴展，因為對于絕大多數(shù)用例來說，他們的特殊硬件必須出現(xiàn)在大型云提供商之一當(dāng)中。

當(dāng)然，整個 AI 開發(fā)堆棧在過去 8 年中已經(jīng)成熟了很多。遙想當(dāng)年，如果你希望它更快，就必須從頭開始用 C++ 實現(xiàn)所有內(nèi)容，這非常慢。人們需要很長時間才能加快速度和學(xué)習(xí)。而現(xiàn)在，所有這些復(fù)雜性都可以被抽象出來，你可以使用我們之前討論過的產(chǎn)品，這使得構(gòu)建高質(zhì)量的人工智能系統(tǒng)變得更快、更方便、更容易。

但是算法的進步確實讓局面有很大不同，對吧？例如，you.com在隱私方面很重要，這也是你可以優(yōu)先考慮用更少數(shù)據(jù)做更多事情的原因之一。

這是一個很好的問題，而且絕對正確。如果 5 或 10 年前想要建立一家搜索引擎公司與 Google 競爭，會非常困難，而且基本上不可能，因為需要數(shù)百人和大量訓(xùn)練數(shù)據(jù)來構(gòu)建我們正在建立的排名系統(tǒng)?，F(xiàn)在，一個非常小的團隊（盡管小，但非常聰明也很有能力）就能構(gòu)建一個排名系統(tǒng)，對你在搜索引擎中輸入的任意意圖和查詢進行排名，并提供正確的應(yīng)用程序、資源集合。

像 you.com 這樣的小公司可以與谷歌這樣的大公司競爭，唯一的原因在于我們在人工智能方面看到了進步，特別是涉及無監(jiān)督學(xué)習(xí)和遷移學(xué)習(xí)時。你可以在維基百科、Common Crawl（一個非營利組織，利用自己的網(wǎng)絡(luò)爬蟲收集了十億級別的網(wǎng)頁數(shù)據(jù)，任何人都可以免費訪問，研究人員和企業(yè)家就可以在谷歌級別的數(shù)據(jù)上進行新的嘗試和探索，新的創(chuàng)業(yè)機會也油然而生?！g者注） 以及所有你能找到的網(wǎng)絡(luò)文本上訓(xùn)練非常大的神經(jīng)網(wǎng)絡(luò)。（也要記住，并不是所有網(wǎng)絡(luò)上的東西都能用于訓(xùn)練很好的人工智能）。

我們可以利用這些資源訓(xùn)練無監(jiān)督模型，比如預(yù)測句子中的下一個單詞。「我去了南加州，很享受……」，如果對語言和世界很了解，就會預(yù)測到下一個詞可能是「海灘」、「沙漠」，或者任何在南加州能夠享受到的東西。但預(yù)測的前提是你必須具備大量的知識。而訓(xùn)練一個模型來預(yù)測幾百萬甚至幾十億單詞序列的下一個單詞，一開始也需要整合所有這些背景知識。

這就涉及無監(jiān)督學(xué)習(xí)，沒有人坐在那里給你標記好下一個單詞是什么。只有維基百科，模型可以從里面學(xué)到很多正確排序的單詞表達。

這個想法很牛逼，你只需根據(jù)任務(wù)目標對大型 NLP 模型稍加修改即可讓其完成任務(wù)。它能超越特定、小規(guī)模標記數(shù)據(jù)，進行更為廣泛的泛化，因為他們擁有知識感；他們知道「我附近最好的泰國餐館」與「我所在地區(qū)最好的東南亞餐館」非常相似，盡管訓(xùn)練數(shù)據(jù)中從未有過這個特定的短語，但我們的神經(jīng)網(wǎng)絡(luò)和排名系統(tǒng)可以做到這一點，因為它們知道這些短語是相似的。

說到搜索，我注意到 you.com 很重要的一點，就是總結(jié)（搜索）結(jié)果的方式，這是源自用戶頁面設(shè)計的需求，張三李四隨時隨地都可以做到？還是得益于機器學(xué)習(xí)技術(shù)的進步才能以這種方式處理搜索結(jié)果？

雖然聽起來不那么酷，但摘要實際上是最難的人工智能任務(wù)之一，尤其是在自然語言處理中，原因有很多也有趣。原因之一，摘要是個非常個性化的任務(wù)，我知道你（摘要的接收者）知道什么，我就可以為你提供更好、更準確的摘要結(jié)果。

比如，如果你不知道什么是詞向量，你就很難理解 Transformers（ Google 的團隊在 2017 年提出的一種 NLP 經(jīng)典模型，現(xiàn)在比較火熱的 Bert 也是基于 Transformer?！g者注）。為此，你首先需要了解詞向量的基礎(chǔ)知識。如果你已經(jīng)知道什么是 transformers，那摘要就會變得很簡潔，比如，「他們正在用語言建模而不是機器翻譯來訓(xùn)練它，這是一個更好的目標函數(shù)。」

而且我認為摘要是一個重要的技術(shù)趨勢，未來幾年，隨著你的時間越來越寶貴，需要簡單工具幫助你完成一些工作，越來越多的人會在喜歡上它，而不是被那些賣廣告的公司所吸引，他們不想幫助你完成工作，而是幫助你查看更多內(nèi)容，以便展示更多廣告。

我們不贊同這一點，摘要（技術(shù)）是其中很重要的一部分，它可以幫助用戶少做些搜索多完成工作，或者少搜索，多寫些代碼。我們的應(yīng)用程序包含有代碼片段，你可以復(fù)制和粘貼，通常都是正確的摘要。如果正在搜索「如何在 Python 中對字典排序」，答案不是一長串文本，而只是一個代碼片段。或者，當(dāng)我們向您展示一篇論文時，有一個指向?qū)崿F(xiàn)該論文的開源版本的 GitHub 存儲庫的鏈接。

我認為,下一代搜索引擎從根本上是基于不同的價值觀，也是不同的商業(yè)模式。

鑒于我們已經(jīng)討論過的所有進展，對于那些希望立即進入 AI 領(lǐng)域的人，你有什么建議？要做的事情或需要學(xué)習(xí)的技能是什么？

這在很大程度上取決于他們的年齡、技能、時間投入以及想進入的領(lǐng)域。如果你還年輕，未來也想以此為業(yè)，你仍然需要學(xué)習(xí)編程基礎(chǔ)、數(shù)學(xué)、統(tǒng)計學(xué)和一些概率知識，很多線性代數(shù)等等。

如果你已經(jīng)上班，也想進入這個領(lǐng)域，有大量令人興奮的新在線課程、視頻和平臺，供你深入學(xué)習(xí)?，F(xiàn)在有這么多的材料，連斯坦福 CS224 NLP 課程也有，這就是我鼓勵人們?nèi)プ龅氖虑椤?/p>

一旦完成了這些，接下來就是要動手實踐了，寫程序或者玩模型，順便想想目前還有哪些流程或者任務(wù)是靠手動的，或者處在半機械半人工狀態(tài)？你能做些與眾不同的東西，嘗試自動化它們嗎？

較之真正理解這些模型是如何工作，僅滿足于使用云API和不同水平的抽象化（abstraction）能讓你走多遠?

這完全取決于你的背景。如果受過高等教育，有數(shù)學(xué)方面的背景，你可以很快掌握一些基礎(chǔ)知識，直接跳到構(gòu)建真實模型的階段，而不需要從頭開始。不過，越依賴抽象化，可能就越難以做一些真正有創(chuàng)造性的工作，也很難理解如何修復(fù)錯誤，解決性能問題。

但在許多用例中，您也沒必要創(chuàng)新。比如，你可能只是想要一個自動噴水滅火系統(tǒng)，因此，你只想回答：「有人站在這里嗎？是還是不是?！?如果沒有，請打開自動噴水滅火系統(tǒng)，不需要為此發(fā)明任何創(chuàng)新性的東西，只需要執(zhí)行所有正確的標準步驟并為圖像分類器使用好的工具。

但是，抽象化仍然存在漏洞，也并不完美。因此，應(yīng)用程序越重要——它對你的公司、受影響的用戶或你的職業(yè)越重要——你就越希望擁有深入了解這些系統(tǒng)的專家，知道如何修復(fù)某些錯誤或性能問題的專家，以及思考人工智能系統(tǒng)如何影響人們的人。只有這樣，你才能真正以安全、最大限度發(fā)揮積極影響的方式自動化某些流程。

參考鏈接：

https://future.a16z.com/a-decade-of-deep-learning-ai-startup/

原標題：《狙擊谷歌搜索》

閱讀原文