【財(cái)新網(wǎng)】“當(dāng)前，我國(guó)人工智能發(fā)展的總體態(tài)勢(shì)良好，算力、算法和數(shù)據(jù)是大模型應(yīng)用的三大支撐要素。同時(shí)也要清醒看到，人工智能的算法“黑箱”、數(shù)據(jù)污染、模型缺陷等潛在風(fēng)險(xiǎn)問題不容忽視。特別是在金融行業(yè)應(yīng)用時(shí)，應(yīng)關(guān)注人工智能帶來的效率提升與風(fēng)險(xiǎn)加劇的雙重效應(yīng)?！痹?月10日舉辦的國(guó)民財(cái)富發(fā)展研究合作平臺(tái)“人工智能與金融未來”2025春季峰會(huì)上，中國(guó)財(cái)富管理50人論壇理事長(zhǎng)、原銀監(jiān)會(huì)主席、證監(jiān)會(huì)原主席尚福林表示。

　　具體來看，針對(duì)人工智能的算法“黑箱”，尚福林認(rèn)為，提高模型算法的透明性和可解釋性是關(guān)鍵。尚福林坦言，深度學(xué)習(xí)模型目前還存在不可解釋性，輸出的結(jié)果難以解釋和追溯，增加了監(jiān)管的難度。訓(xùn)練數(shù)據(jù)中的偏差會(huì)導(dǎo)致算法輸出的不公平或錯(cuò)誤。人工智能工具是根據(jù)過去的數(shù)據(jù)進(jìn)行訓(xùn)練的，可能無法準(zhǔn)確反映現(xiàn)實(shí)和預(yù)測(cè)未來。