在近日于鄭州舉行的第27屆中國(guó)國(guó)際軟件博覽會(huì)上,百度集團(tuán)副總裁、深度學(xué)習(xí)技術(shù)及應(yīng)用國(guó)家工程研究中心副主任吳甜圍繞大模型時(shí)代AI基礎(chǔ)平臺(tái)對(duì)軟件生態(tài)的革新作用進(jìn)行了深度分享。她指出,人工智能正因大模型的突破性發(fā)展進(jìn)入全新階段,技術(shù)范式與產(chǎn)業(yè)應(yīng)用均面臨深刻變革。
吳甜在主題峰會(huì)上系統(tǒng)闡釋了大模型的技術(shù)特性:其通過(guò)標(biāo)準(zhǔn)化研發(fā)流程實(shí)現(xiàn)效果與泛化能力的雙重提升,但同時(shí)對(duì)開(kāi)發(fā)、計(jì)算、部署環(huán)節(jié)提出更高要求。特別是在訓(xùn)練環(huán)節(jié),需通過(guò)框架、芯片、集群與算法的協(xié)同優(yōu)化,提升訓(xùn)練吞吐量、有效時(shí)長(zhǎng)及收斂效率;在推理環(huán)節(jié),則需借助模型壓縮、并行計(jì)算等技術(shù),在保證效果的前提下降低時(shí)延、提高吞吐并控制成本。
作為百度自主研發(fā)的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái),飛槳通過(guò)構(gòu)建硬件適配層實(shí)現(xiàn)了多硬件統(tǒng)一解決方案。該平臺(tái)已適配60余款芯片,相較PyTorch將芯片適配接口數(shù)量減少56%,代碼量縮減80%。這種軟硬件協(xié)同優(yōu)化機(jī)制,為文心大模型的演進(jìn)提供了全流程支持,涵蓋核心框架、基礎(chǔ)模型庫(kù)、開(kāi)發(fā)套件及星河社區(qū)等模塊。
技術(shù)突破帶來(lái)顯著效能提升:ERNIE-4.5-300B-A47B模型預(yù)訓(xùn)練MFU達(dá)47%,在50ms時(shí)延條件下實(shí)現(xiàn)每秒57K tokens輸入、29K tokens輸出的高性能;文心思考模型X1.1較前代版本,事實(shí)準(zhǔn)確性提升34.8%,指令遵循能力提高12.5%,智能體性能增長(zhǎng)9.6%。這些數(shù)據(jù)印證了深度學(xué)習(xí)平臺(tái)與大模型聯(lián)合優(yōu)化的技術(shù)價(jià)值。
為推動(dòng)AI技術(shù)普惠,百度已開(kāi)源文心大模型4.5系列11款模型,覆蓋47B、3B參數(shù)的混合專(zhuān)家架構(gòu)及0.3B參數(shù)的稠密模型,同步開(kāi)源ERNIEKit開(kāi)發(fā)套件與FastDeploy部署工具。星河社區(qū)則通過(guò)700萬(wàn)個(gè)實(shí)踐項(xiàng)目、600余門(mén)公開(kāi)課及400多場(chǎng)AI競(jìng)賽,構(gòu)建起開(kāi)發(fā)者生態(tài)。目前該社區(qū)已匯聚195位框架貢獻(xiàn)者、411位技術(shù)專(zhuān)家,全球范圍內(nèi)成立超400個(gè)開(kāi)發(fā)者領(lǐng)航團(tuán)。
產(chǎn)業(yè)落地方面,百度依托文心大模型與飛槳平臺(tái),在上海、廣州、武漢等8個(gè)城市設(shè)立產(chǎn)業(yè)賦能中心、數(shù)據(jù)生態(tài)中心及教育創(chuàng)新中心。截至2025年9月,飛槳文心生態(tài)已吸引2333萬(wàn)開(kāi)發(fā)者,服務(wù)76萬(wàn)家企業(yè),形成從技術(shù)研發(fā)到產(chǎn)業(yè)應(yīng)用的完整閉環(huán)。











