【財(cái)新網(wǎng)】“人工智能大模型變得越來(lái)越強(qiáng)大，但它并沒(méi)有變得越來(lái)越安全，”在2025北京網(wǎng)絡(luò)安全大會(huì)上，北京前瞻人工智能安全與治理研究院（下稱“前瞻研究院”）院長(zhǎng)、人工智能安全與超級(jí)對(duì)齊北京市重點(diǎn)實(shí)驗(yàn)室主任曾毅指出，即使是今年春節(jié)以后新發(fā)布的海內(nèi)外人工智能大模型，也沒(méi)有由于能力的躍遷，而在安全風(fēng)險(xiǎn)防范方面做得越來(lái)越好。

　　曾毅介紹，前瞻研究院的靈御大模型攻防安全評(píng)估平臺(tái)研究了2024年6月到2025年3月發(fā)布的49個(gè)國(guó)內(nèi)外大模型，發(fā)現(xiàn)新的大模型能力雖然提升了，但是其攻擊成功率并沒(méi)有下降。因此人工智能能力的提升并不意味著安全能力的提升，在構(gòu)建安全的人工智能方面還要走更深刻的道路。

國(guó)內(nèi)外大型語(yǔ)言模型（LLMs）的越獄成功率隨發(fā)布時(shí)間的變化（橫軸：年月；縱軸：攻擊成功率（%）；灰色圓圈大小代表大模型的大?。﹫D片來(lái)源：前瞻研究院