在人工智能產(chǎn)業(yè)加速發(fā)展的當(dāng)下,國(guó)產(chǎn)化已成為繞不開(kāi)的核心議題。當(dāng)全球算力供應(yīng)鏈的不確定性持續(xù)加劇,如何讓國(guó)產(chǎn)算力從“可用”走向“好用”,并在真實(shí)業(yè)務(wù)場(chǎng)景中實(shí)現(xiàn)長(zhǎng)期穩(wěn)定運(yùn)行,成為行業(yè)亟待突破的關(guān)鍵命題。商湯科技通過(guò)一系列技術(shù)布局與生態(tài)合作,為這一難題提供了新的解題思路。
面對(duì)異構(gòu)芯片調(diào)度復(fù)雜、跨域訓(xùn)練穩(wěn)定性不足等挑戰(zhàn),商湯將突破口鎖定在基礎(chǔ)設(shè)施層。其打造的AI云原生平臺(tái)——商湯大裝置,通過(guò)統(tǒng)一調(diào)度、彈性擴(kuò)展和高可靠性服務(wù),構(gòu)建起異構(gòu)算力規(guī)模化使用的系統(tǒng)性解決方案。目前,寒武紀(jì)、壁以、沐曦、華為昇騰、摩爾線程等十余家國(guó)產(chǎn)芯片已完成深度適配,支撐起“日日新”多模態(tài)大模型體系的訓(xùn)練與推理需求。這意味著國(guó)產(chǎn)GPU首次在千億參數(shù)級(jí)任務(wù)中接受系統(tǒng)級(jí)、工業(yè)級(jí)的持續(xù)檢驗(yàn)。
技術(shù)整合的難點(diǎn)在于打破芯片架構(gòu)差異帶來(lái)的協(xié)同壁壘。上海AI實(shí)驗(yàn)室研發(fā)的DeepLink超大規(guī)模跨域混訓(xùn)技術(shù)方案,通過(guò)訓(xùn)練加速、異構(gòu)通信優(yōu)化等核心能力,重構(gòu)了計(jì)算資源調(diào)度體系。商湯大裝置將該方案深度融入自身能力體系,實(shí)現(xiàn)多種國(guó)產(chǎn)芯片的協(xié)同通信與統(tǒng)一調(diào)度,自動(dòng)優(yōu)化并行策略和負(fù)載均衡。以華為昇騰384超節(jié)點(diǎn)為例,商湯在調(diào)度優(yōu)化、跨POD訓(xùn)練穩(wěn)定性等方面進(jìn)行針對(duì)性設(shè)計(jì),使多租戶、大規(guī)模AI云服務(wù)成為現(xiàn)實(shí)。
在推理環(huán)節(jié),商湯與記憶張量合作打造的PD分離商用推理集群,在國(guó)產(chǎn)GPGPU上跑通了“記憶—計(jì)算—調(diào)度”一體化架構(gòu)。該方案在真實(shí)C端負(fù)載下實(shí)現(xiàn)單卡并發(fā)效率提升20%、吞吐提升75%,綜合推理性價(jià)比達(dá)到英偉達(dá)A100的1.5倍,為高性能模型落地開(kāi)辟了降本增效新路徑。更值得關(guān)注的是,商湯聯(lián)合華為、海光、寒武紀(jì)等十余家廠商發(fā)布的“商湯大裝置算力Mall”,通過(guò)構(gòu)建“算力超級(jí)市場(chǎng)”,讓開(kāi)發(fā)者可自由組合算力資源、平臺(tái)工具和行業(yè)模型服務(wù),從系統(tǒng)層面降低對(duì)單一海外技術(shù)體系的依賴。
視頻生成作為算力消耗最高的AI模態(tài),對(duì)國(guó)產(chǎn)化生態(tài)提出了更高要求。商湯開(kāi)源的LightX2V推理框架,通過(guò)步數(shù)蒸餾、低比特量化等技術(shù)手段,將顯存需求壓縮至8GB以下,支持入門級(jí)顯卡實(shí)現(xiàn)實(shí)時(shí)視頻生成。該框架采用強(qiáng)兼容的國(guó)產(chǎn)化適配插件模式,已完成寒武紀(jì)、沐曦、海光、昇騰等多款芯片適配。配套研發(fā)的Seko系列模型在設(shè)計(jì)階段即融入硬件友好機(jī)制,使整體推理性能提升超3倍。數(shù)據(jù)顯示,LightX2V累計(jì)下載量已突破350萬(wàn)次,標(biāo)志著國(guó)產(chǎn)算力在視頻生成場(chǎng)景中初步形成低成本生態(tài)。
技術(shù)驗(yàn)證的最終考驗(yàn)在于產(chǎn)品交付能力。商湯將生成式內(nèi)容生產(chǎn)作為突破口,發(fā)布的Seko 2.0智能體在長(zhǎng)視頻生成一致性方面表現(xiàn)突出,其技術(shù)底座由日日新Seko系列多模態(tài)模型構(gòu)成。該能力已完成寒武紀(jì)等國(guó)產(chǎn)AI芯片適配,實(shí)現(xiàn)從語(yǔ)言模型到多模態(tài)生成的關(guān)鍵跨越。在終端側(cè),AI智能助手“小浣熊”不僅完成多種國(guó)產(chǎn)芯片適配,更針對(duì)個(gè)人PC場(chǎng)景優(yōu)化模型精度,形成軟硬件協(xié)同的全國(guó)產(chǎn)化部署方案。
私有化業(yè)務(wù)領(lǐng)域同樣取得進(jìn)展。商湯在計(jì)算機(jī)視覺(jué)、金融、醫(yī)療等場(chǎng)景中完成國(guó)產(chǎn)芯片適配與交付,其決策邏輯兼顧合規(guī)要求、供應(yīng)鏈穩(wěn)定性和長(zhǎng)期成本結(jié)構(gòu)。這種以交付為導(dǎo)向的合作模式,推動(dòng)形成了“技術(shù)互補(bǔ)、資源共享、場(chǎng)景互哺”的協(xié)同生態(tài)。當(dāng)華為昇騰在超節(jié)點(diǎn)架構(gòu)中突破算力協(xié)同瓶頸,當(dāng)寒武紀(jì)芯片在推理集群中展現(xiàn)性價(jià)比優(yōu)勢(shì),國(guó)產(chǎn)算力正通過(guò)實(shí)際項(xiàng)目磨合能力邊界,逐步構(gòu)建起自主可控的產(chǎn)業(yè)閉環(huán)。











