據(jù)了解，國際知名人工智能社區(qū)MLCommons近期推出了AI Safety人工智能安全基準(zhǔn)測試的v0.5版，該測試由多領(lǐng)域?qū)＜覉F(tuán)隊(duì)共同打造，以識(shí)別并防范AI應(yīng)用中的潛在風(fēng)險(xiǎn)。

隨著AI技術(shù)的快速發(fā)展，相關(guān)安全問題也日益凸顯。僅過去數(shù)周內(nèi)，便有LastPass公司遭遇音頻深度偽造攻擊等案例浮出水面。為了應(yīng)對(duì)這一挑戰(zhàn)，新推出的AI Safety基準(zhǔn)測試將成為模型開發(fā)者的有力工具，助力他們構(gòu)建更為穩(wěn)固的安全防線。

AI Safety基準(zhǔn)測試主要通過大型語言模型對(duì)各類危險(xiǎn)提示詞的反應(yīng)來評(píng)估其安全性。該測試的v0.5版已開始收集社區(qū)反饋，預(yù)計(jì)將于今年晚些時(shí)候推出正式的v1.0版。

v0.5版的AI Safety基準(zhǔn)測試主要關(guān)注通用聊天文本模型，而v1.0版則將加入針對(duì)圖像生成模型的測試內(nèi)容，并初步探討交互式代理模型的安全測試方法。

該測試涵蓋了超過43000個(gè)測試提示詞，采用Meta公司的Llama Guard對(duì)大模型的危險(xiǎn)提示響應(yīng)進(jìn)行評(píng)估。這些提示詞包括常見模板及危險(xiǎn)場景描述短語，覆蓋七類安全危害類型，未來還將進(jìn)一步擴(kuò)展至至少十三類。

最后，AI Safety基準(zhǔn)測試將根據(jù)測試結(jié)果給出五個(gè)安全評(píng)級(jí)，以便用戶更好地理解和使用。