英國AI安全研究所推出AI模型安全評估平臺
據(jù)報道，英國人工智能安全研究院近日發(fā)布了名為“Inspect”的AI模型安全評估平臺，此平臺采用開源技術(shù)且對全球AI工程師免費開放，旨在提升模型性能與安全測評效率。
Inspect平臺包括“數(shù)據(jù)集”、“求解器（Solver）”、“評分器”三大模塊，用于評估AI模型在核心知識儲備、推理能力和自主能力等方面的表現(xiàn)。
根據(jù)模型測試結(jié)果，這些模塊會對各項指標進行評分。此外，Inspect平臺還支持Python外掛其他測試框架。
英國AI安全研究院院長Ian Hogarth表示，他們推出Inspect平臺的初衷在于“堅信開源的力量”，希望通過該平臺激發(fā)更多人參與貢獻，提高AI模型透明度和可重復性，并降低工程師的研發(fā)成本。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
人工智能
+關(guān)注
關(guān)注
1804文章
48701瀏覽量
246454 -
模型
+關(guān)注
關(guān)注
1文章
3486瀏覽量
49989 -
開源技術(shù)
+關(guān)注
關(guān)注
0文章
389瀏覽量
8115
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
威盛電子推出天車安全AI監(jiān)控方案
近日，威盛電子宣布推出”威盛天車安全AI監(jiān)控方案”。該方案基于自主研發(fā)的AI技術(shù)，集成行人姿態(tài)識別、精準防撞預警和智能分區(qū)警示等功能，大幅提升橋式起重機(天車)的
萬里紅入選安全大模型及Agentic AI賦能網(wǎng)絡(luò)安全代表性廠商
近日，專注于網(wǎng)絡(luò)安全和數(shù)字風險管理的第三方研究機構(gòu)安全牛，正式發(fā)布了《Agentic AI安全技術(shù)應用報告》(以下簡稱“報告”)。報告依托多
首創(chuàng)開源架構(gòu)，天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應手
模型庫的限制，聯(lián)發(fā)科還首發(fā)了開源彈性架構(gòu)。區(qū)別于過往的開放接口，只能部署特定架構(gòu)模型，開放彈性架構(gòu)允許開發(fā)者直接調(diào)整平臺源代碼，無需等待芯片廠商的支持，即可完成目標或其他自研大模型輕松
發(fā)表于 04-13 19:52
《AI Agent 應用與項目實戰(zhàn)》----- 學習如何開發(fā)視頻應用
開發(fā)一個視頻內(nèi)容生成Agent。
訪問語聚AI平臺官網(wǎng) ，進行注冊或登錄。
在平臺首頁，了解語聚AI的功能和應用場景，特別是其支持的視頻生成相關(guān)的
發(fā)表于 03-05 19:52
IBM在watsonx.ai平臺推出DeepSeek R1蒸餾模型
，進一步增強企業(yè)在安全、治理以及規(guī)模化部署方面的能力。 DeepSeek R1是IBM在AI領(lǐng)域的一項重要創(chuàng)新，它采用了蒸餾模型技術(shù)，能夠在保持模型性能的同時，顯著減小
AI開發(fā)平臺模型怎么用
AI開發(fā)平臺極大地簡化了AI應用的開發(fā)流程，從環(huán)境搭建、模型訓練到部署集成，每一步都提供了豐富的工具和資源。那么，AI開發(fā)
企業(yè)AI模型托管怎么做的
當下，越來越多的企業(yè)選擇將AI模型托管給專業(yè)的第三方平臺，以實現(xiàn)高效、靈活和安全的模型運行。下面，AI
美商務部推動AI模型預部署測試
性和可靠性，同時推動行業(yè)的健康發(fā)展。 除了與這些企業(yè)的合作，美國人工智能安全研究所還與英國的安全研究所攜手，共同發(fā)布了首個聯(lián)合政府高級人工智
芯盾時代的“AI+安全”之道
近日，全球領(lǐng)先的IT市場研究和咨詢公司IDC發(fā)布《生成式AI推動下的中國網(wǎng)絡(luò)安全軟件市場現(xiàn)狀和技術(shù)發(fā)展趨勢，2024》報告(以下簡稱《報告》)，評估眾多廠商
使用NVIDIA AI平臺確保醫(yī)療數(shù)據(jù)安全
三井物產(chǎn)株式會社子公司借助 NVIDIA AI 平臺實現(xiàn)數(shù)據(jù)集的安全共享并使用在這些數(shù)據(jù)集上建立的強大模型加速藥物研發(fā)。
AI即服務平臺的安全性分析
AIaaS平臺降低AI應用門檻，但面臨數(shù)據(jù)泄露、惡意攻擊等安全威脅。需加強數(shù)據(jù)加密、訪問控制、模型加固、供應鏈安全等措施，確保合法合規(guī)，提供
如何評估AI大模型的效果
評估AI大模型的效果是一個復雜且多維度的過程，涉及多個方面的考量。以下是一些關(guān)鍵的評估方法和步驟： 一、基準測試（Benchmarking） 使用標準數(shù)據(jù)集和任務來
AI大模型的最新研究進展
AI大模型的最新研究進展體現(xiàn)在多個方面，以下是對其最新進展的介紹： 一、技術(shù)創(chuàng)新與突破 生成式AI技術(shù)的爆發(fā) ： 生成式AI技術(shù)正在迅速發(fā)展
《AI for Science：人工智能驅(qū)動科學創(chuàng)新》第二章AI for Science的技術(shù)支撐學習心得
的訓練和推理提供了強大的算力支持，使得AI在科學研究中的應用更加廣泛和深入。
3. 數(shù)據(jù)驅(qū)動的研究范式
第二章還強調(diào)了數(shù)據(jù)在AI for Science中的核心地位。數(shù)據(jù)是
發(fā)表于 10-14 09:16
OpenAI與Anthropic新模型將受美政府評估
近日，美國政府宣布了一項重要合作，旨在加強人工智能安全監(jiān)管。根據(jù)協(xié)議，OpenAI與Anthropic兩大AI領(lǐng)軍企業(yè)同意，在推出新的AI模型
工商網(wǎng)監(jiān)
評論