【財新網(wǎng)】“DeepSeek等開源模型出現(xiàn)帶動推理算力需求,短期內(nèi)模型訓練仍需要更多算力,而長遠來看,大部分算力將用于模型推理而不是訓練,這將進一步推動對算力的需求,”當?shù)貢r間3月4日,英國芯片架構(gòu)企業(yè)Arm的高級副總裁兼基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理 Mohamed Awad在巴塞羅那通信展期間接受財新專訪時稱。
Mohamed Awad指出,未來AI模型的推理將發(fā)生在包括云端和手機、汽車等幾乎每一個智能終端設(shè)備上,端側(cè)的模型推理需求將帶動AI算力需求指數(shù)級增長,而Arm架構(gòu)的芯片軟件開發(fā)生態(tài)統(tǒng)一是其最大優(yōu)勢,這意味著開發(fā)者只需要開發(fā)一套軟件就可以在從云端到邊端的設(shè)備上運行。