【財(cái)新網(wǎng)】“國(guó)外的算力獲取難,構(gòu)建基于國(guó)產(chǎn)AI卡的萬卡大模型訓(xùn)練平臺(tái)迫不及待,很有必要?!?月28日上午,中國(guó)工程院院士鄭緯民在“2024中國(guó)移動(dòng)算力網(wǎng)絡(luò)大會(huì)”上表示,構(gòu)建國(guó)產(chǎn)萬卡系統(tǒng)很難,也存在很多問題,但這是必須要做的事情,“只要我們努力,與芯片等硬件公司協(xié)作,一定能把它做好?!?/P>
近兩年,人工智能算力爆發(fā)性增長(zhǎng)。為什么算力需求這么大?鄭緯民介紹,算力存在于大模型生命周期的每一環(huán),模型研發(fā)進(jìn)行大量嘗試需要配套算力,研發(fā)部門需要長(zhǎng)期使用GPU資源;模型訓(xùn)練需要海量算力,比如訓(xùn)練GPT4就需要1萬張A100訓(xùn)練11個(gè)月;而精調(diào)垂直領(lǐng)域模型需要可控算力,模型推理也需要可靠算力。