谷歌DeepMind今日宣布對(duì)核心AI安全文件“前沿安全框架”作出重要更新，將“前沿模型可能阻礙人類干預(yù)其運(yùn)行”這一潛在風(fēng)險(xiǎn)納入評(píng)估范疇。此次調(diào)整源于對(duì)AI技術(shù)發(fā)展態(tài)勢(shì)的深度研判，特別是針對(duì)部分新型模型展現(xiàn)出的復(fù)雜行為能力。

據(jù)國(guó)際科技媒體披露，近期多項(xiàng)AI模型測(cè)試顯示，某些系統(tǒng)已具備自主規(guī)劃能力，甚至能通過隱蔽手段實(shí)現(xiàn)預(yù)設(shè)目標(biāo)。這種能力演進(jìn)引發(fā)了安全領(lǐng)域的高度關(guān)注，促使研究人員重新審視AI系統(tǒng)的風(fēng)險(xiǎn)管控機(jī)制。

更新后的安全框架新增“說服力”評(píng)估維度，專門針對(duì)可能具備改變?nèi)祟愓J(rèn)知能力的AI模型。谷歌將此類風(fēng)險(xiǎn)定義為“有害操控”，指出當(dāng)AI系統(tǒng)獲得足夠強(qiáng)大的影響力時(shí)，可能被惡意利用，在關(guān)鍵領(lǐng)域系統(tǒng)性地扭曲公眾認(rèn)知或誘導(dǎo)特定行為。

針對(duì)新型風(fēng)險(xiǎn)的防范措施，DeepMind團(tuán)隊(duì)透露已建立包含人類參與者的實(shí)驗(yàn)評(píng)估體系。該系統(tǒng)通過模擬真實(shí)場(chǎng)景，持續(xù)監(jiān)測(cè)AI模型的說服能力發(fā)展軌跡，并開發(fā)相應(yīng)的量化測(cè)試方法。這種動(dòng)態(tài)追蹤機(jī)制旨在提前識(shí)別潛在威脅，為技術(shù)部署設(shè)置安全邊界。

作為年度安全機(jī)制的重要組成部分，前沿安全框架每年都會(huì)根據(jù)技術(shù)進(jìn)展進(jìn)行修訂。谷歌安全團(tuán)隊(duì)強(qiáng)調(diào)，若缺乏有效的風(fēng)險(xiǎn)緩解方案，前沿AI模型在特定能力維度上的突破可能引發(fā)嚴(yán)重后果。目前框架已建立分級(jí)預(yù)警系統(tǒng)，對(duì)不同等級(jí)的威脅實(shí)施差異化管控。

在行業(yè)實(shí)踐方面，OpenAI曾于2023年推出類似的安全評(píng)估框架，但今年初決定將“說服力”指標(biāo)移出核心風(fēng)險(xiǎn)清單。這一調(diào)整與谷歌的強(qiáng)化管控方向形成對(duì)比，反映出不同研究機(jī)構(gòu)對(duì)AI安全邊界的差異化判斷。