【財(cái)新網(wǎng)】開(kāi)源模型和閉源模型的競(jìng)賽還在持續(xù)。美國(guó)當(dāng)?shù)貢r(shí)間7月23日,F(xiàn)acebook母公司Meta(NASDAQ:META)宣布推出Llama 3.1開(kāi)源模型,包含4050億、700億、80億三個(gè)參數(shù)版本。Meta稱,此前開(kāi)源大模型能力落后于閉源模型,隨著此次4050億參數(shù)版本開(kāi)源模型的發(fā)布,開(kāi)源模型將成為領(lǐng)導(dǎo)者。
今年4月,Meta剛發(fā)布了開(kāi)源大模型Llama 3系列,包含80億、700億參數(shù)的兩個(gè)版本,其中700億參數(shù)的版本能力對(duì)標(biāo)GPT-3.5,其長(zhǎng)文本能力僅為支持8K上下文窗口,遠(yuǎn)落后于128K左右的行業(yè)平均水平,Meta當(dāng)時(shí)稱將在接下來(lái)數(shù)月推出更強(qiáng)長(zhǎng)文本能力、多種尺寸的模型(詳見(jiàn)財(cái)新網(wǎng)報(bào)道《GPT革命|Meta發(fā)布新一代開(kāi)源模型 模型開(kāi)閉源之爭(zhēng)持續(xù)》)。