【財(cái)新網(wǎng)】開源模型和閉源模型的競賽還在持續(xù)。美國當(dāng)?shù)貢r間7月23日,F(xiàn)acebook母公司Meta(NASDAQ:META)宣布推出Llama 3.1開源模型,包含4050億、700億、80億三個參數(shù)版本。Meta稱,此前開源大模型能力落后于閉源模型,隨著此次4050億參數(shù)版本開源模型的發(fā)布,開源模型將成為領(lǐng)導(dǎo)者。
今年4月,Meta剛發(fā)布了開源大模型Llama 3系列,包含80億、700億參數(shù)的兩個版本,其中700億參數(shù)的版本能力對標(biāo)GPT-3.5,其長文本能力僅為支持8K上下文窗口,遠(yuǎn)落后于128K左右的行業(yè)平均水平,Meta當(dāng)時稱將在接下來數(shù)月推出更強(qiáng)長文本能力、多種尺寸的模型(詳見財(cái)新網(wǎng)報(bào)道《GPT革命|Meta發(fā)布新一代開源模型 模型開閉源之爭持續(xù)》)。