摩爾定律是否始于19世紀(jì)?這似乎是一個有趣的問題。

我們正處于一個科技快速顛覆各行各業(yè)的黃金時期。與今年相比，上世紀(jì)末的互聯(lián)網(wǎng)泡沫就像小孩在路邊擺攤賣檸檬水一樣微不足道。

人工智能正在迅速改變我們所知道和關(guān)心的一切。

基于此，我想回顧一篇文章，它生動展現(xiàn)了當(dāng)前發(fā)展的步伐，以及我們在未來幾年而非幾百年內(nèi)可能實現(xiàn)的目標(biāo)。

史蒂夫·賈維特森是一位知名風(fēng)險投資人，曾在惠普工作，現(xiàn)在是 SpaceX 的董事會成員。他是眾多行業(yè)內(nèi)部人士之一，正在發(fā)表對 AI 未來的預(yù)測，認(rèn)為指數(shù)級進步即將到來。

我認(rèn)為他最近在 X 上發(fā)布的帖子及其配套的散點圖，不僅描繪了我們的未來，還概述了整個20世紀(jì)甚至更早期的發(fā)展歷程，提供了一幅更廣闊的畫面。

以下是我從這篇文章中獲得的幾個主要觀點:

摩爾定律始于19世紀(jì)

賈維特森提出的最有趣的觀點之一是，摩爾定律早在戈登·摩爾對晶體管做出預(yù)測之前就已經(jīng)開始了。他從巴貝奇和分析引擎開始，還包括了一些其他技術(shù)，如霍列瑞斯打孔卡片。

這是一個敏銳的分析，但賈維特森真正涉及一些有趣領(lǐng)域的是他對摩爾定律代表意義的思考:

"摩爾在早期集成電路行業(yè)中觀察到的是一個衍生指標(biāo)，是一個長期趨勢的折射信號，這個趨勢引發(fā)了各種哲學(xué)問題，并預(yù)測了令人難以想象的 AI 未來，"賈維特森這樣寫道，令人著迷。

他說，這已經(jīng)不再是"以晶體管為中心的指標(biāo)"。它更多地是關(guān)于計算速度的整體增長。

賈維特森的這種柏拉圖洞穴寓言式的觀點表明，我們才剛剛開始理解我們正處于的數(shù)字曲線的真正本質(zhì)。

英偉達(dá)的勝利早已注定

賈維特森指出的另一件事是，英偉達(dá)在行業(yè)中的勝利也早在很久以前就開始了。

該公司的進展今年才開始成為頭條新聞。我們大多數(shù)人幾個季度前還不知道，到2024年底，這家公司將遠(yuǎn)遠(yuǎn)超過同類的任何其他科技公司。我們那時還在談?wù)撚⑻貭柕裙尽?/p>

但根據(jù)賈維特森的說法，英特爾在15年前就已經(jīng)輸?shù)袅诉@場比賽。

"在過去的128年里，計算前沿已經(jīng)跨越了許多技術(shù)基礎(chǔ)，"賈維特森寫道。"英特爾15年前就將領(lǐng)導(dǎo)地位讓給了英偉達(dá)，未來還會有更多的交接。"

他還指出了為什么會發(fā)生這種情況:

"英特爾在神經(jīng)網(wǎng)絡(luò)領(lǐng)域輸給了英偉達(dá)，因為 GPU 的細(xì)粒度并行計算架構(gòu)更適合深度學(xué)習(xí)的需求。處理器針對圖形處理進行優(yōu)化的計算相似性與2014年常見的神經(jīng)網(wǎng)絡(luò)中感知皮層的計算需求之間存在一種詩意的美。"

本質(zhì)上，英偉達(dá)押注于 AI，現(xiàn)在正是 AI 的時代，所以也是英偉達(dá)的時代。對黃仁勛和他的團隊來說，這是一個不錯的位置。

看看彭博科技日報的 Ian King 的觀點:

"英特爾甚至沒有參與與英偉達(dá)公司競爭生產(chǎn)加速器以支持 AI 工作負(fù)載的競賽，"King 寫道。"數(shù)百億美元正在被用于數(shù)據(jù)中心設(shè)備，這些錢本來會流向英特爾，現(xiàn)在卻流向了一個在銷售額和市值上都超過它的競爭對手。在服務(wù)器和個人電腦處理器方面，英特爾才剛剛開始穩(wěn)定市場份額的損失。

英特爾的某個人是否應(yīng)該預(yù)見到 AI 的這種轉(zhuǎn)變?可以說，科技界只有一個人做到了，那就是英偉達(dá)的黃仁勛。他的公司花了多年時間準(zhǔn)備新設(shè)計、軟件和一系列其他產(chǎn)品，使其處于有利地位，可以利用計算領(lǐng)域的巨大轉(zhuǎn)變。高端芯片設(shè)計從概念到生產(chǎn)數(shù)百萬片需要數(shù)年時間。"

很有趣...

實驗室科學(xué)和模擬科學(xué)

賈維特森在文章后面關(guān)于"試錯"科學(xué)過程變化的一段話引起了我的注意。

"當(dāng)摩爾定律跨越關(guān)鍵閾值時，以前的實驗室試錯科學(xué)變成了模擬科學(xué)，進步的步伐急劇加快，為新行業(yè)的新進入者創(chuàng)造了機會，"他寫道。"考慮特斯拉和 SpaceX 的自主軟件堆棧，以及它對汽車和航空航天行業(yè)的影響。"

這番話很適合一位 SpaceX 董事會成員說...

不過，我認(rèn)為主要觀點是，有了我們現(xiàn)有的數(shù)據(jù)和流程，我們能夠進行極其精細(xì)的模擬，從而消除了20世紀(jì)那種實驗室科學(xué)。

就在昨天，我寫了關(guān)于英偉達(dá)的 Mike Pritchard 為我們提供整個地球數(shù)字孿生的見解。這正好符合這一突破性的想法，即我們將用基于模擬的科學(xué)取代實驗室科學(xué)，這種科學(xué)在假設(shè)階段就已經(jīng)比以前知道得更多。

對商業(yè)的影響

所有這些都很有趣，但賈維特森還對商業(yè)有一個相關(guān)的預(yù)測。

"我們星球上的每個行業(yè)都將成為信息行業(yè)，"他說。"以農(nóng)業(yè)為例。如果你問20年后的農(nóng)民他們?nèi)绾胃偁帲@將取決于他們?nèi)绾问褂眯畔?—— 從衛(wèi)星圖像驅(qū)動的機器人田間優(yōu)化到種子中的代碼。這與工藝或勞動力無關(guān)。隨著 IT 滲透經(jīng)濟，這最終將滲透到每個行業(yè)。"

這在某種程度上是上述觀點的延續(xù)，但如果我們有能力基于大數(shù)據(jù)進行模擬，那么數(shù)據(jù)將比現(xiàn)在更加重要。

歷史是否在重復(fù)?

這些是我從這篇文章中得到的一些主要觀點，但這里還有一個基于名字的奇怪觀點。

當(dāng)你看賈維特森的圖表時，你會看到1940年代有一個叫做"巨人"的條目。這涉及英國工程師基于洛倫茲動力學(xué)破解德國密碼。

現(xiàn)在，馬斯克和 XAI 正在用他們自己的新"巨人"數(shù)據(jù)中心掀起波瀾，隨著數(shù)據(jù)中心戰(zhàn)爭升溫，我們可能會聽到更多相關(guān)信息。

那么，今天的"巨人"制造者是否是以1940年代的計劃命名他們的項目?

我們問了 ChatGPT。以下是我們得到的回答:

"由埃隆·馬斯克的公司 xAI 開發(fā)的巨人超級計算機是一個最先進的 AI 訓(xùn)練系統(tǒng)，擁有100，000個 NVIDIA H100 GPU，計劃擴展到200，000個 GPU，包括50，000個 NVIDIA 的下一代 H200 芯片。這個龐大的計算基礎(chǔ)設(shè)施旨在訓(xùn)練先進的 AI 模型，如 xAI 的 Grok 系列。'巨人'這個名字具有歷史意義，特別是與二戰(zhàn)期間英國開發(fā)的用于破譯德國通信的代碼破譯計算機有關(guān)。此外，'巨人'是1970年一部關(guān)于獲得知覺的超級計算機的科幻電影的標(biāo)題。有人推測 xAI 的超級計算機可能是以這部電影中的計算機命名的。然而，xAI 尚未公開確認(rèn)'巨人'這個名字的具體靈感來源。因此，雖然這個名字可能指的是戰(zhàn)時計算機或虛構(gòu)的超級計算機，但確切的命名理由仍然未明確。"

這是另一個例子，說明我們?nèi)绾卫?AI 模型來發(fā)現(xiàn)事物。谷歌搜索已經(jīng)過時了。大語言模型可以立即篩選所有可用信息，并像一個智慧的朋友一樣，準(zhǔn)確地告訴你情況如何。例如，在這里，你可以了解兩個項目的歷史，并得到關(guān)于你的問題的最佳可能評估。