【財新網(wǎng)】（記者 葉展旗）在人工智能（AI）發(fā)展過程中，真正的風(fēng)險并不是人們想象的超級智能，而是現(xiàn)已涌現(xiàn)的安全、倫理問題。10月31日，在2019北京智源大會上，中國科學(xué)院自動化研究所研究員曾毅接受財新等采訪時表示，實際上很多企業(yè)對存在的風(fēng)險視而不見，人工智能的健康發(fā)展，一定是治理和發(fā)展雙輪驅(qū)動，要保證它向著正確的方向發(fā)展。

　　曾毅舉例稱，當用對抗神經(jīng)網(wǎng)絡(luò)生成一個烏龜?shù)?D模型，谷歌的分類系統(tǒng)就有80%的幾率，把這個烏龜?shù)哪Ｐ妥R別成來福槍，另外20%的幾率識別為其它的東西，但也絕對不會是烏龜。這也就是說，系統(tǒng)沒有一次能把3D烏龜模型成功識別出來。因為對抗神經(jīng)網(wǎng)絡(luò)改變了3D烏龜模型的局部紋理，使得基于統(tǒng)計意義的分類系統(tǒng)，沒有辦法把它識別出來。