高通公司近日正式發(fā)布面向數(shù)據(jù)中心領(lǐng)域的下一代AI推理加速方案，推出基于Qualcomm AI200與AI250芯片的加速卡及機架系統(tǒng)。該系列解決方案依托高通在神經(jīng)網(wǎng)絡(luò)處理單元（NPU）領(lǐng)域的技術(shù)積累，通過機架級架構(gòu)設(shè)計實現(xiàn)性能與能效的雙重突破，為生成式AI在各行業(yè)的規(guī)模化部署提供關(guān)鍵基礎(chǔ)設(shè)施支持。

Qualcomm AI200加速卡專為機架級AI推理場景設(shè)計，每卡配備768GB LPDDR內(nèi)存，在提升內(nèi)存容量的同時降低整體擁有成本。該方案針對大語言模型（LLM）和多模態(tài)模型（LMM）推理需求進行優(yōu)化，通過內(nèi)存擴展技術(shù)實現(xiàn)硬件資源的靈活調(diào)配，滿足從邊緣計算到云端服務(wù)的多樣化AI工作負載需求。

作為技術(shù)升級的核心，Qualcomm AI250首次引入近存計算架構(gòu)，通過將計算單元與內(nèi)存單元深度集成，實現(xiàn)超過10倍的有效內(nèi)存帶寬提升。這種創(chuàng)新設(shè)計不僅顯著降低功耗，還支持解耦式AI推理模式，使硬件資源可根據(jù)任務(wù)需求動態(tài)分配，在保證性能的同時優(yōu)化客戶成本結(jié)構(gòu)。實驗數(shù)據(jù)顯示，該架構(gòu)可使特定AI推理任務(wù)的能效比提升達40%。

在系統(tǒng)設(shè)計層面，兩款機架解決方案均采用直接液冷散熱技術(shù)，配合PCIe縱向擴展與以太網(wǎng)橫向擴展能力，構(gòu)建起高密度計算集群。安全防護方面，機架系統(tǒng)集成機密計算模塊，通過硬件級安全加密確保AI模型和數(shù)據(jù)在推理過程中的全流程保護。整機架設(shè)計功耗控制在160千瓦，兼顧高性能與能源效率。

高通技術(shù)規(guī)劃與數(shù)據(jù)中心業(yè)務(wù)負責人馬德嘉強調(diào)，新方案通過軟件棧與開放生態(tài)的協(xié)同創(chuàng)新，重新定義了機架級AI推理的標準。開發(fā)者可借助高通Efficient Transformers庫和AI Inference Suite工具鏈，實現(xiàn)與主流AI框架的無縫對接，并支持Hugging Face模型庫的一鍵部署。這種全鏈路優(yōu)化覆蓋從模型訓(xùn)練到推理服務(wù)的完整生命周期，顯著降低AI應(yīng)用落地門檻。

配套發(fā)布的超大規(guī)模級AI軟件棧提供從應(yīng)用層到系統(tǒng)層的全棧支持，兼容TensorFlow、PyTorch等主流機器學(xué)習(xí)框架，并集成生成式AI框架優(yōu)化模塊。開發(fā)者通過標準化API接口和自動化工具鏈，可快速完成模型適配與性能調(diào)優(yōu)。該軟件棧還提供預(yù)訓(xùn)練模型庫、開發(fā)工具包及AI運營服務(wù)，形成完整的端到端解決方案。

根據(jù)規(guī)劃，Qualcomm AI200將于2026年率先投入商用，AI250則計劃在2027年實現(xiàn)規(guī)模部署。高通承諾將保持年度技術(shù)迭代節(jié)奏，持續(xù)優(yōu)化AI推理性能、能效比及總體擁有成本三大核心指標，通過芯片架構(gòu)創(chuàng)新與軟件生態(tài)建設(shè)鞏固其在數(shù)據(jù)中心市場的競爭優(yōu)勢。