。未來項目團隊計劃將類腦計算范式引入大模型訓練,有望進一步降低神經(jīng)網(wǎng)絡參數(shù)規(guī)模和計算復雜度
,支持大模型向邊緣類腦計算裝置以及端側(cè)設備的輕量化部署和低功耗推理
。
“跨域異構(gòu)融合及本地分布式訓練算力網(wǎng)絡能夠?qū)崿F(xiàn)算力資源的全面管理、監(jiān)測、調(diào)整與控制,支持大小模型協(xié)同進化及推理加速
!敝袊娍圃核懔W(wǎng)絡項目技術(shù)攻關負責人吳春鵬說
,項目組立足電力視覺
、語義
、多模態(tài)作業(yè)任務的實際計算需求,成立電力
、通信、人工智能跨學科攻關小組
,共同探索邊緣算力受限條件下的模型參數(shù)高效更新方法
,并完成跨域算力網(wǎng)絡的整體更新上線
。這一突破將支撐國家電網(wǎng)公司構(gòu)建大小模型云邊協(xié)同進化的應用生態(tài)