為AI服務(wù)器與數(shù)據(jù)中心帶來容量/帶寬/速度三合一升級
全新架構(gòu)以PCIe Gen5帶寬突破計(jì)算僵局,E3.S 2T規(guī)格為系統(tǒng)擴(kuò)充增添彈性
深圳2024年9月5日 /美通社/ -- AI服務(wù)器應(yīng)用持續(xù)升溫,相關(guān)設(shè)備的硬件規(guī)格需求也隨之提升,使得業(yè)界過往普遍采用的容量與帶寬標(biāo)準(zhǔn),已無法完整滿足現(xiàn)今龐大AI計(jì)算所需的效能。呼應(yīng)產(chǎn)業(yè)現(xiàn)狀,全球AI解決方案與工業(yè)級內(nèi)存領(lǐng)導(dǎo)品牌宜鼎國際 (Innodisk)領(lǐng)先推出「CXL內(nèi)存模塊」,透過全新CXL協(xié)議,提供單條64GB大容量及高達(dá)32GB/s的帶寬。宜鼎CXL內(nèi)存采用E3.S 2T規(guī)格,為系統(tǒng)提供更彈性且成本合理的擴(kuò)充方式,讓服務(wù)器可直上AI計(jì)算所需的硬件規(guī)格。除了提升服務(wù)器容量與帶寬外,更透過CXL獨(dú)創(chuàng)的「共享內(nèi)存資源」特性及PCIe接口,打破傳統(tǒng)內(nèi)存信道的帶寬限制,讓服務(wù)器效能可隨著AI發(fā)展與時(shí)俱進(jìn)。
宜鼎采用CXL全新架構(gòu):解鎖對內(nèi)存資源的制約,突破服務(wù)器三大計(jì)算瓶頸
TrendForce研調(diào)預(yù)估,在大型云端業(yè)者及品牌廠對AI服務(wù)器的持續(xù)投資下,今年AI服務(wù)器出貨量將上修至167萬臺、產(chǎn)值占整體服務(wù)器市場比重高達(dá)65%。同時(shí),對服務(wù)器效能至關(guān)重要的CPU亦迅速演進(jìn),然而盡管CPU的計(jì)算能力提升,卻受限于傳統(tǒng)內(nèi)存信道對帶寬的限制,讓CPU無法完整獲得內(nèi)存的計(jì)算資源,因而難以發(fā)揮最大硬件效能。此情形遍布在全球數(shù)以萬計(jì)的服務(wù)器上,尤其對擁有大量服務(wù)器的數(shù)據(jù)中心而言,影響更為顯著。
宜鼎積極投入創(chuàng)新,領(lǐng)先推出采用全新CXL協(xié)議的內(nèi)存模塊,以改善上述情形、并解決服務(wù)器系統(tǒng)現(xiàn)存的三大瓶頸。包括:透過采用簡化的協(xié)議及高兼容性的PCIe 5.0接口,改善「系統(tǒng)組件之間因協(xié)議不同導(dǎo)致的傳輸延遲」;透過CXL的內(nèi)存池 (Memory pooling )技術(shù),讓同一層架多臺服務(wù)器的CPU、加速器等操作數(shù)件共享內(nèi)存資源,減少資源冗余,解決「內(nèi)存利用率低」的狀況。
此外,有別于目前主流DDR架構(gòu),CXL底層技術(shù)采用PCIe接口,使其可透過獨(dú)立通道,與服務(wù)器內(nèi)既有的DDR5內(nèi)存并存,讓CPU在現(xiàn)有的DIMM以外,可再輕松從PCIe接口獲得CXL內(nèi)存模塊帶來的額外帶寬與容量,有效解決目前「CPU可用內(nèi)存帶寬受限」的痛點(diǎn),發(fā)揮加乘效益。
宜鼎CXL內(nèi)存模塊,以32GB/s帶寬、單條64GB大容量為AI與機(jī)器學(xué)習(xí)助力
宜鼎CXL內(nèi)存模塊采用 EDSFF標(biāo)準(zhǔn)下的E3.S 2T尺寸規(guī)格,可靈活抽換、調(diào)配容量,讓服務(wù)器享有高擴(kuò)充彈性。此外,宜鼎CXL內(nèi)存具備單條64GB的存取容量;若裝載4個(gè)CXL內(nèi)存模塊,即可為原本配備8條128GB內(nèi)存的服務(wù)器增加30%內(nèi)存容量及40%帶寬,輕松將其擴(kuò)充至AI計(jì)算所需的1.2TB以上容量。宜鼎CXL內(nèi)存外觀設(shè)計(jì)采用鋁合金外殼,正反兩面分別為霧面的銀、黑配色,不僅沿襲宜鼎專注工控的沉穩(wěn)質(zhì)感、更揉合CXL代表的創(chuàng)新與革命性特質(zhì)。
宜鼎CXL內(nèi)存支持CXL 2.0規(guī)范、采用Type 3傳輸協(xié)議,并透過PCIe Gen5 x8接口,提供高達(dá)32GB/s的傳輸帶寬。因此非常適用于加速AI與機(jī)器學(xué)習(xí)、大規(guī)模分析、圖形數(shù)據(jù)庫等應(yīng)用。
宜鼎國際工控DRAM事業(yè)處總經(jīng)理張偉民表示:「宜鼎持續(xù)致力為AI賦能,也因而愿意挹注大量研發(fā)資源提升系統(tǒng)計(jì)算效能,領(lǐng)先全球模塊廠商,成為率先投入開發(fā)并量產(chǎn)CXL內(nèi)存的品牌之一。CXL內(nèi)存除了能大幅提升服務(wù)器帶寬與存取容量,更具備廣泛的支持性,可幫助宜鼎的服務(wù)器與數(shù)據(jù)中心客戶,在不須大幅改動(dòng)硬件的前提下,擴(kuò)充既有系統(tǒng)、達(dá)到近乎無痛的效能升級。目前CXL協(xié)議已在各國際大廠協(xié)力推動(dòng)下持續(xù)蓬勃,我們也相當(dāng)看好由CXL引領(lǐng)的計(jì)算趨勢,將可讓服務(wù)器端的AI應(yīng)用推升至下個(gè)高峰。」
CXL目前在業(yè)界仍屬新興技術(shù),透過宜鼎細(xì)致而全方位的導(dǎo)入與技術(shù)支持服務(wù),可讓客戶在面對全新架構(gòu)時(shí),安心擁抱升級。同時(shí),宜鼎具備多年工控與AI領(lǐng)域客制經(jīng)驗(yàn)、以及從各代DDR到CXL的豐富產(chǎn)品規(guī)格,可提供高彈性、為各種終端環(huán)境量身打造的內(nèi)存配置與解決方案。
宜鼎CXL內(nèi)存模塊預(yù)計(jì)于2025年初正式出貨,為云端計(jì)算、大型數(shù)據(jù)中心、網(wǎng)絡(luò)通訊、邊緣計(jì)算等領(lǐng)域賦能。更多產(chǎn)品相關(guān)信息,請瀏覽:https://innodisk.cc/GDFQ9a。
關(guān)于宜鼎及旗下解決方案,更多信息請參考:http://www.myinnodisk.cn
宜鼎集團(tuán)AIoT布局,請參考:https://www.innodisk.com/group_intro/tw.html