AMD希望通過(guò)其開(kāi)放軟件生態(tài)系統(tǒng)贏得亞太地區(qū)人工智能開(kāi)發(fā)者的青睞，幫助該地區(qū)在全球舞臺(tái)上競(jìng)爭(zhēng)，而無(wú)需依賴(lài)專(zhuān)有的AI開(kāi)發(fā)工具。

盡管這家美國(guó)芯片制造商在硬件方面已經(jīng)取得了進(jìn)展，推出了Instinct數(shù)據(jù)中心圖形處理單元和Ryzen處理器，但AMD的軟件層——特別是ROCm平臺(tái)——對(duì)于為更廣泛的市場(chǎng)釋放這種性能至關(guān)重要。

但AMD并沒(méi)有構(gòu)建一個(gè)技術(shù)被單一實(shí)體控制的封閉花園，而是選擇了ROCm的開(kāi)源路線(xiàn)，它與vLLM等其他開(kāi)源項(xiàng)目集成，以實(shí)現(xiàn)更快的創(chuàng)新。

在此過(guò)程中，它希望打破封閉源碼軟件環(huán)境的控制，特別是英偉達(dá)的Cuda，后者被用于構(gòu)建在GPU上運(yùn)行的AI應(yīng)用程序。

"我們可以嘗試構(gòu)建封閉源碼的東西，但我們不會(huì)獲得開(kāi)放生態(tài)系統(tǒng)的速度，"AMD AI軟件副總裁Anush Elangovan說(shuō)。"相反，我們希望利用每個(gè)人的能力來(lái)推動(dòng)行業(yè)向前發(fā)展。這就像Linux內(nèi)核，每個(gè)人都在協(xié)作并且發(fā)展得非?？?。"

Elangovan指出，AMD軟件棧的開(kāi)放性質(zhì)對(duì)亞太地區(qū)市場(chǎng)特別有益，因?yàn)樗峁┝艘粋€(gè)"共同基線(xiàn)"，讓公司能夠建立自己的AI能力。

"我參與了該地區(qū)不少正在建設(shè)大型數(shù)據(jù)中心并大規(guī)模部署AMD芯片的公司，"他說(shuō)，并補(bǔ)充說(shuō)ROCm還將允許他們?cè)谀Ｐ烷_(kāi)發(fā)和基礎(chǔ)設(shè)施方面進(jìn)行競(jìng)爭(zhēng)。

該公司還啟動(dòng)了"ROCm everywhere"倡議，為開(kāi)發(fā)者統(tǒng)一體驗(yàn)，無(wú)論他們是在筆記本電腦上工作還是在大型超級(jí)計(jì)算機(jī)上工作。這使得該地區(qū)的學(xué)生和初創(chuàng)公司能夠從可負(fù)擔(dān)的硬件開(kāi)始小規(guī)模起步，并根據(jù)需要擴(kuò)大規(guī)模。

這種可擴(kuò)展性得到了AMD芯片架構(gòu)的支持，Elangovan聲稱(chēng)這在推理工作負(fù)載中提供了明顯的優(yōu)勢(shì)，推理是通過(guò)訓(xùn)練好的模型運(yùn)行實(shí)時(shí)數(shù)據(jù)的過(guò)程。

他指出，AMD的芯片設(shè)計(jì)具有高內(nèi)存帶寬，使它們能夠在單個(gè)系統(tǒng)上處理非常大的AI模型。這種效率可以減少對(duì)液體冷卻系統(tǒng)的需求，而液體冷卻系統(tǒng)在老舊設(shè)施中改裝成本高昂。

"你可以選擇稍微低一點(diǎn)的密度，這樣你就可以使用風(fēng)冷基礎(chǔ)設(shè)施而不是液冷基礎(chǔ)設(shè)施，然后仍然獲得頂級(jí)的能力，"他解釋說(shuō)。

在工作負(fù)載方面，Elangovan說(shuō)除了大語(yǔ)言模型之外，組織還在運(yùn)行更多的文本到圖像和文本到視頻工作負(fù)載。他以L(fǎng)uma Labs為例，指出他們的Ray3視頻生成模型"完全在AMD平臺(tái)上訓(xùn)練和服務(wù)"。

即使AMD繼續(xù)迭代ROCm——第7版支持新的MI350芯片——Elangovan說(shuō)開(kāi)發(fā)者不應(yīng)該僅僅將AMD視為硬件供應(yīng)商。

"AMD越來(lái)越像一家軟件公司一樣構(gòu)建和交付軟件，"他說(shuō)。"你應(yīng)該把我們看作是開(kāi)發(fā)者可以信任并在其上構(gòu)建的軟件平臺(tái)，一個(gè)將比硬件世代更長(zhǎng)久的平臺(tái)。"

Q&A

Q1：ROCm平臺(tái)是什么？它有什么特點(diǎn)？

A：ROCm是AMD的開(kāi)源軟件平臺(tái)，它與vLLM等其他開(kāi)源項(xiàng)目集成，為AI開(kāi)發(fā)提供開(kāi)放的生態(tài)系統(tǒng)。與英偉達(dá)的封閉源碼Cuda不同，ROCm采用開(kāi)源路線(xiàn)，能夠?qū)崿F(xiàn)更快的創(chuàng)新速度。

Q2：AMD如何幫助亞太地區(qū)發(fā)展AI能力？

A：AMD通過(guò)開(kāi)放的軟件棧為亞太地區(qū)提供"共同基線(xiàn)"，讓公司能夠建立自己的AI能力。通過(guò)"ROCm everywhere"倡議，該地區(qū)的學(xué)生和初創(chuàng)公司可以從可負(fù)擔(dān)的硬件開(kāi)始，然后根據(jù)需要擴(kuò)大規(guī)模。

Q3：AMD芯片在AI推理方面有什么優(yōu)勢(shì)？

A：AMD芯片采用芯片架構(gòu)，具有高內(nèi)存帶寬，能夠在單個(gè)系統(tǒng)上處理非常大的AI模型。這種效率可以減少對(duì)昂貴液體冷卻系統(tǒng)的需求，使用風(fēng)冷基礎(chǔ)設(shè)施就能獲得頂級(jí)性能。