華碩發(fā)布了全新Ascent GX10迷你機(jī),搭載了由英偉達(dá)提供的NVIDIA GB10 Grace Blackwell Superchip芯片,其AI算力高達(dá)1000 TOPS,能夠高效運(yùn)行超過2000億參數(shù)的大型語言模型(LLM),為AI開發(fā)者和企業(yè)提供了強(qiáng)大的本地計(jì)算能力。
據(jù)悉,NVIDIA GB10 Grace Blackwell Superchip芯片由Blackwell GPU和Grace CPU組成,并針對緊湊的外形進(jìn)行了優(yōu)化,能夠運(yùn)行超過2000億個(gè)參數(shù)的大型語言模型。
其中Grace CPU共有20個(gè)Arm核心,可增強(qiáng)數(shù)據(jù)預(yù)處理和編排,加速模型調(diào)整和實(shí)時(shí)推理。
Ascent GX10配備了128GB LPDDR5X統(tǒng)一內(nèi)存,為大型AI模型提供充足的內(nèi)存支持。
此外,得益于集成的NVIDIA ConnectX-7 NIC網(wǎng)口,用戶可以將兩臺Ascent GX10連接在一起,進(jìn)行本地?cái)U(kuò)展,以處理更大規(guī)模的AI模型,例如參數(shù)高達(dá)4050億的Llama 3.1。
Ascent GX10不僅適用于本地AI開發(fā)和測試,還能與NVIDIA DGX Cloud或其他加速云、數(shù)據(jù)中心基礎(chǔ)設(shè)施無縫銜接。用戶幾乎無需調(diào)整代碼即可將本地開發(fā)環(huán)境遷移到云端,從而大幅簡化AI模型的原型設(shè)計(jì)、微調(diào)和迭代過程。