如今,深度學(xué)習(xí)已成為企業(yè)界的熱門(mén)話題,并且不難理解為什么。無(wú)論是優(yōu)化廣告支出,尋找治療癌癥的新藥,還是僅向客戶(hù)提供更好,更智能的產(chǎn)品,機(jī)器學(xué)習(xí)(尤其是深度學(xué)習(xí)模型)都具有大規(guī)模改進(jìn)一系列產(chǎn)品和應(yīng)用的潛力。
不過(guò)關(guān)鍵字是“潛力”。盡管過(guò)去幾年我們?cè)谄髽I(yè)會(huì)議上聽(tīng)到了關(guān)于深度學(xué)習(xí)的大量言論,但要廣泛使用這些技術(shù)仍然存在巨大障礙。深度學(xué)習(xí)模型是高度網(wǎng)絡(luò)化的,節(jié)點(diǎn)的密集圖與計(jì)算機(jī)處理信息的傳統(tǒng)方式不太“匹配”。另外,擁有深度學(xué)習(xí)模型所需的所有信息可能占用PB級(jí)的存儲(chǔ)空間,并在處理器機(jī)架上占用大量空間才能使用。
目前有很多方法可以解決此下一代計(jì)算問(wèn)題,而Cerebras必須是最有趣的方法之一。
正如我們?cè)?月份發(fā)布公司的“晶圓級(jí)引擎”(該公司提供的全球最大的硅芯片)時(shí)所談到的那樣,塞雷布拉斯的理論是,深度學(xué)習(xí)的方向?qū)嵸|(zhì)上就是將整個(gè)機(jī)器學(xué)習(xí)模型裝在一塊大芯片上。因此,該公司的目標(biāo)是做大—確實(shí)做大。
今天,該公司宣布推出其最終用戶(hù)計(jì)算產(chǎn)品Cerebras CS-1,并宣布了其第一位客戶(hù)Argonne國(guó)家實(shí)驗(yàn)室。
CS-1是“完整解決方案”產(chǎn)品,旨在添加到數(shù)據(jù)中心以處理AI工作流。它包括Wafer Scale Engine(或Was Scale Engine,即WSE,即實(shí)際的處理核心),以及將處理器集成到數(shù)據(jù)中心所需的所有冷卻,聯(lián)網(wǎng),存儲(chǔ)和其他設(shè)備。它的高度為26.25英寸(15個(gè)機(jī)架單元),包括40萬(wàn)個(gè)處理核心,18 GB的片上內(nèi)存,每秒9 PB的片上內(nèi)存帶寬,12 GB的以太網(wǎng)連接,用于將數(shù)據(jù)移入CS-1和移出CS-1。系統(tǒng),僅消耗20千瓦的功率。
Cerebras聲稱(chēng)CS-1可以提供超過(guò)1000個(gè)領(lǐng)先GPU的性能-盡管TechCrunch尚未對(duì)此進(jìn)行驗(yàn)證,但我們?nèi)栽诘却郎y(cè)試人員在接下來(lái)的幾個(gè)月中等待行業(yè)標(biāo)準(zhǔn)基準(zhǔn)測(cè)試。
除了硬件本身,Cerebras還宣布發(fā)布了一個(gè)全面的軟件平臺(tái),該平臺(tái)使開(kāi)發(fā)人員可以使用TensorFlow和PyTorch等流行的ML庫(kù)將其AI工作流程與CS-1系統(tǒng)集成。
在設(shè)計(jì)系統(tǒng)時(shí),首席執(zhí)行官兼聯(lián)合創(chuàng)始人安德魯·費(fèi)爾德曼(Andrew Feldman)表示:“過(guò)去一年多的時(shí)間里,我們已經(jīng)與100多個(gè)客戶(hù)進(jìn)行了交談,”以確定對(duì)新AI系統(tǒng)和軟件層的需求。在它上面。“多年來(lái),我們了解到,您想與他們所在的軟件社區(qū)見(jiàn)面,而不是要求他們搬到您那里。”
我問(wèn)費(fèi)爾德曼,為什么公司要重建這么多的硬件來(lái)為其系統(tǒng)提供動(dòng)力,而不是使用現(xiàn)有組件。“如果要制造法拉利發(fā)動(dòng)機(jī)并將其安裝在豐田車(chē)上,就無(wú)法制造賽車(chē),”費(fèi)爾德曼類(lèi)比。“在Dell或[其他]服務(wù)器中放置快速芯片不會(huì)進(jìn)行快速計(jì)算。Feldman解釋說(shuō),CS-1旨在采用基礎(chǔ)的WSE芯片,并為其提供使其能夠發(fā)揮其全部功能所需的基礎(chǔ)結(jié)構(gòu)。