高通公司近日正式發(fā)布針對(duì)數(shù)據(jù)中心領(lǐng)域的全新AI推理加速方案，該方案基于Qualcomm AI200與AI250芯片組構(gòu)建，涵蓋加速卡及機(jī)架級(jí)系統(tǒng)產(chǎn)品。通過(guò)優(yōu)化總體擁有成本（TCO），該系列解決方案可為高算力數(shù)據(jù)中心提供機(jī)架級(jí)生成式AI推理性能，同時(shí)配備大容量?jī)?nèi)存支持復(fù)雜模型運(yùn)行。

作為機(jī)架級(jí)AI推理專用產(chǎn)品，Qualcomm AI200加速卡單卡配置768GB LPDDR內(nèi)存，在保持低TCO優(yōu)勢(shì)的同時(shí)，為大型語(yǔ)言模型（LLM）和多模態(tài)模型（LMM）提供優(yōu)化的推理性能。其內(nèi)存架構(gòu)設(shè)計(jì)兼顧高擴(kuò)展性與成本效益，支持?jǐn)?shù)據(jù)中心靈活部署不同規(guī)模的AI工作負(fù)載。

更值得關(guān)注的是Qualcomm AI250機(jī)架系統(tǒng)，該產(chǎn)品首次采用近存計(jì)算（Near-Memory Computing）內(nèi)存架構(gòu)。通過(guò)將計(jì)算單元與存儲(chǔ)單元深度整合，系統(tǒng)有效內(nèi)存帶寬實(shí)現(xiàn)超10倍提升，同時(shí)功耗顯著降低。這種創(chuàng)新架構(gòu)支持解耦式AI推理模式，可動(dòng)態(tài)分配硬件資源，在滿足性能需求的同時(shí)控制運(yùn)營(yíng)成本。

兩款產(chǎn)品均配備先進(jìn)的散熱與擴(kuò)展設(shè)計(jì)：支持直接液冷技術(shù)提升能效比，提供PCIe縱向擴(kuò)展和以太網(wǎng)橫向擴(kuò)展能力，并內(nèi)置機(jī)密計(jì)算模塊保障數(shù)據(jù)安全。整機(jī)架設(shè)計(jì)功耗控制在160千瓦，兼顧高性能與節(jié)能需求。

根據(jù)技術(shù)路線圖，Qualcomm AI200將于2026年進(jìn)入商用階段，AI250則計(jì)劃在2027年推向市場(chǎng)。這兩款產(chǎn)品的推出，預(yù)計(jì)將推動(dòng)數(shù)據(jù)中心AI推理領(lǐng)域?qū)崿F(xiàn)技術(shù)架構(gòu)與商業(yè)模式的雙重突破。