女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

微軟 Build 2025大會(huì):筑牢智能體時(shí)代的安全新防線

微軟科技 ? 來(lái)源:微軟科技 ? 2025-06-04 09:44 ? 次閱讀

作者:盧·阿德西達(dá)(LouAdesida)


隨著AI應(yīng)用進(jìn)入規(guī)模化部署,數(shù)據(jù)泄露、提示注入攻擊和智能體失控等風(fēng)險(xiǎn),正威脅著企業(yè)的數(shù)字化轉(zhuǎn)型。在微軟Build 2025大會(huì)上,微軟宣布通過(guò)Microsoft Azure AI Foundry(國(guó)際版)、Microsoft Purview與Microsoft Defender的深度協(xié)同,構(gòu)建覆蓋開(kāi)發(fā)、部署、運(yùn)維全流程的智能體防護(hù)體系,為企業(yè)的智能化轉(zhuǎn)型保駕護(hù)航。

AI 技術(shù)領(lǐng)域的創(chuàng)新正以前所未有的速度發(fā)展,越來(lái)越多的 AI 應(yīng)用項(xiàng)目正從實(shí)驗(yàn)階段轉(zhuǎn)向部署階段,以推動(dòng)切實(shí)的業(yè)務(wù)影響。隨著組織通過(guò)自定義 AI 應(yīng)用和智能體加速創(chuàng)新,新的風(fēng)險(xiǎn)也出現(xiàn)在軟件開(kāi)發(fā)生命周期和 AI 技術(shù)棧中,涉及數(shù)據(jù)過(guò)度共享與泄露、新型漏洞與威脅,以及嚴(yán)格的監(jiān)管合規(guī)要求。

到了2025年,針對(duì)企業(yè) AI 應(yīng)用的惡意攻擊中,軟件供應(yīng)鏈和基礎(chǔ)設(shè)施技術(shù)棧投毒的占比將超過(guò)70%1,這凸顯了開(kāi)發(fā)早期階段可能存在的威脅。當(dāng)前數(shù)據(jù)泄露的平均成本為488萬(wàn)美元,但如果能在開(kāi)發(fā)過(guò)程中早期發(fā)現(xiàn)安全問(wèn)題,這一數(shù)字可大幅降至每起事件80美元2。

信息非常明確:安全問(wèn)題不能事后考慮。它必須成為整個(gè)組織的團(tuán)隊(duì)協(xié)作,從開(kāi)始就嵌入并貫穿整個(gè)開(kāi)發(fā)生命周期。因此,開(kāi)發(fā)者和安全團(tuán)隊(duì)需要在流程和工具上達(dá)成一致,將安全融入 AI 技術(shù)開(kāi)發(fā)生命周期的每個(gè)階段,并為安全從業(yè)者提供風(fēng)險(xiǎn)可見(jiàn)性和緩解能力。

為了應(yīng)對(duì)這些日益增長(zhǎng)的挑戰(zhàn),并幫助客戶在開(kāi)發(fā)與安全團(tuán)隊(duì)間保護(hù)、治理 AI 技術(shù)工作負(fù)載,微軟正在:

賦能 Microsoft Azure AI Foundry (國(guó)際版)和 Microsoft Copilot Studio ,提供業(yè)界領(lǐng)先的基礎(chǔ)能力以保護(hù)和管理 AI 技術(shù)工作負(fù)載;

將 Microsoft Purview 、 Microsoft Defender 和 Microsoft Entra 的行業(yè)領(lǐng)先功能,深度集成并嵌入到 Microsoft Azure AI Foundry (國(guó)際版) 和 Microsoft Copilot Studio 中;

近期,3,000名開(kāi)發(fā)者齊聚西雅圖參加年度微軟Build大會(huì),還有更多開(kāi)發(fā)人員在線參與學(xué)習(xí),從而快速掌握 AI 應(yīng)用和智能體創(chuàng)新的實(shí)用技能。為了支持他們的 AI 技術(shù)創(chuàng)新之旅,我們很高興宣布多項(xiàng)新功能,幫助開(kāi)發(fā)者和組織來(lái)保護(hù)及治理 AI 應(yīng)用與智能體。

01

Microsoft Azure AI Foundry (國(guó)際版)

新基礎(chǔ)能力:構(gòu)建 AI 技術(shù)工作

負(fù)載的全生命周期防護(hù)

01|AI安全與防護(hù)增強(qiáng):主動(dòng)防御體系升級(jí)

Microsoft Azure AI Foundry (國(guó)際版)已服務(wù)70,000家客戶,本季度處理100萬(wàn)億個(gè)token 并支持每日20億次企業(yè)搜索查詢。它已從單一應(yīng)用層發(fā)展為綜合性平臺(tái),支持構(gòu)建具備規(guī)劃、執(zhí)行和學(xué)習(xí)能力的智能體,以達(dá)成實(shí)際業(yè)務(wù)目標(biāo)。

為助力組織安全構(gòu)建和部署 AI 應(yīng)用,我們?yōu)?Microsoft Azure AI Foundry (國(guó)際版)開(kāi)發(fā)者推出以下新防護(hù)能力:

?聚光功能( Spotlighting ):實(shí)時(shí)檢測(cè)并阻斷提示注入攻擊

隨著 AI 技術(shù)系統(tǒng)更多依賴外部數(shù)據(jù)源,間接提示注入攻擊這類新型威脅已開(kāi)始出現(xiàn)。此類攻擊通過(guò)在文檔、電子郵件和網(wǎng)頁(yè)中嵌入隱藏指令,誘使模型在無(wú)用戶直接輸入時(shí)執(zhí)行未授權(quán)操作。傳統(tǒng)過(guò)濾手段難以有效防御。

Microsoft Azure AI 內(nèi)容安全現(xiàn)推出聚光功能(預(yù)覽版),通過(guò)增強(qiáng)提示防護(hù)欄(Prompt Shields)的能力,檢測(cè)并阻斷潛在間接提示注入攻擊,防止模型執(zhí)行隱蔽惡意指令。

236433e4-40d8-11f0-b715-92fbcf53809c.png

在 Microsoft Azure AI Content Safety 中啟用聚光功能,以檢測(cè)潛在的間接提示注入攻擊。

?智能體任務(wù)遵從性(預(yù)覽版):確保智能體在既定范圍內(nèi)運(yùn)作

隨著開(kāi)發(fā)者構(gòu)建更強(qiáng)大的智能體,組織面臨越來(lái)越大的壓力來(lái)確保這些智能體在定義的指令和政策邊界內(nèi)運(yùn)作。即使微小偏差也可能導(dǎo)致工具誤用、工作流中斷或敏感數(shù)據(jù)意外暴露等風(fēng)險(xiǎn)。為此,Microsoft Azure AI Foundry (國(guó)際版)現(xiàn)包含智能體任務(wù)遵從性(預(yù)覽版),由兩個(gè)組件驅(qū)動(dòng):實(shí)時(shí)評(píng)估和 Microsoft Azure AI Content Safety 中的新控制項(xiàng)。

Microsoft Azure AI Content Safety 中的實(shí)時(shí)任務(wù)遵從性評(píng)估 API是核心。該 API 通過(guò)分析用戶查詢、系統(tǒng)指令、計(jì)劃工具調(diào)用和智能體響應(yīng),評(píng)估智能體行為是否符合分配任務(wù)。評(píng)估框架基于微軟智能體評(píng)估器構(gòu)建,可測(cè)量意圖解析度、工具選擇準(zhǔn)確性、響應(yīng)完整性和對(duì)原始請(qǐng)求的整體符合性。開(kāi)發(fā)者可使用 Microsoft Azure AI 評(píng)估 SDK 中的任務(wù)遵從性評(píng)估器在本地運(yùn)行評(píng)分邏輯,采用從完全不符合到完全符合的五級(jí)評(píng)分。這為團(tuán)隊(duì)提供了靈活透明的方式,在問(wèn)題影響下游前檢查任務(wù)級(jí)行為。

任務(wù)遵從性通過(guò) Microsoft Azure AI Content Safety中的新控制項(xiàng)執(zhí)行。如果智能體偏離任務(wù),控制項(xiàng)可阻止工具使用、暫停執(zhí)行或觸發(fā)人工審核。在 Microsoft Azure AI 智能體服務(wù)中,該功能作為可選功能自動(dòng)運(yùn)行。結(jié)合實(shí)時(shí)評(píng)估,該控制項(xiàng)幫助確保智能體保持任務(wù)專注、遵循指令并按企業(yè)政策運(yùn)作。

? 持續(xù)評(píng)估與監(jiān)控:部署后智能體健康度實(shí)時(shí)追蹤

在部署后保持 AI 智能體的高性能和合規(guī)性,是一項(xiàng)日益嚴(yán)峻的挑戰(zhàn)。如果缺乏持續(xù)的監(jiān)督,性能下降、安全風(fēng)險(xiǎn)或資源無(wú)意濫用等問(wèn)題可能會(huì)被忽視。

Microsoft Azure AI Foundry (國(guó)際版)推出的智能體系統(tǒng)持續(xù)評(píng)估和監(jiān)控(預(yù)覽版),通過(guò)統(tǒng)一儀表板實(shí)時(shí)跟蹤性能、質(zhì)量、安全性和資源使用等關(guān)鍵指標(biāo)。持續(xù)評(píng)估以生產(chǎn)使用量的抽樣率運(yùn)行質(zhì)量和安全評(píng)估,結(jié)果在 Microsoft Azure AI Foundry (國(guó)際版)監(jiān)控儀表板顯示并發(fā)布至 Application Insights 。開(kāi)發(fā)者可設(shè)置警報(bào)檢測(cè)漂移或回歸,并使用 Microsoft Azure Monitor 獲得 AI 技術(shù)系統(tǒng)的全棧可見(jiàn)性。

例如,使用 AI 智能體處理客戶任務(wù)的組織可監(jiān)控?cái)?shù)據(jù)真實(shí)性,當(dāng)智能體開(kāi)始引用無(wú)關(guān)信息時(shí)檢測(cè)質(zhì)量下降,幫助團(tuán)隊(duì)在影響用戶信任前采取行動(dòng)。

02 | 合規(guī)評(píng)估自動(dòng)化:與 Purview / CredoAI / Saidot的深度集成

AI 技術(shù)法規(guī)和標(biāo)準(zhǔn)對(duì)高風(fēng)險(xiǎn) AI 技術(shù)系統(tǒng)提出了透明度、文檔管理和風(fēng)險(xiǎn)管理的新要求。開(kāi)發(fā)者在構(gòu)建 AI 應(yīng)用和智能體時(shí),可能需要基于這些要求的風(fēng)險(xiǎn)評(píng)估指導(dǎo)工具,并與合規(guī)和風(fēng)險(xiǎn)團(tuán)隊(duì)無(wú)縫共享控制及評(píng)估洞察。

今天,我們宣布 Microsoft Azure AI Foundry (國(guó)際版)評(píng)估工具與合規(guī)管理解決方案Microsoft Purview 合規(guī)管理器及 AI 治理解決方案CredoAISaidot的集成預(yù)覽。這些集成幫助定義風(fēng)險(xiǎn)參數(shù)、運(yùn)行建議的合規(guī)評(píng)估,并為控制測(cè)試和審計(jì)收集證據(jù)。

例如,在歐洲構(gòu)建 AI 智能體的開(kāi)發(fā)者,可能需要合規(guī)團(tuán)隊(duì)完成數(shù)據(jù)保護(hù)影響評(píng)估(DPIA)和算法影響評(píng)估(AIA),以滿足內(nèi)部風(fēng)險(xiǎn)管理和技術(shù)文檔要求。基于 Microsoft Purview 合規(guī)管理器的分步控制實(shí)施和測(cè)試指南,合規(guī)團(tuán)隊(duì)可評(píng)估潛在偏見(jiàn)、網(wǎng)絡(luò)安全漏洞或模型行為缺乏透明度等風(fēng)險(xiǎn)。

在 Microsoft Azure AI Foundry (國(guó)際版)完成評(píng)估后,開(kāi)發(fā)者可獲得記錄風(fēng)險(xiǎn)、緩解措施和剩余風(fēng)險(xiǎn)的報(bào)告,供合規(guī)團(tuán)隊(duì)上傳至合規(guī)管理器以支持審計(jì)并向監(jiān)管機(jī)構(gòu)或外部利益相關(guān)方提供證據(jù)。

23902512-40d8-11f0-b715-92fbcf53809c.png

▲根據(jù)新興AI技術(shù)治理標(biāo)準(zhǔn)評(píng)估 Microsoft Azure AI Foundry (國(guó)際版)的控制措施。

02

微軟安全能力擴(kuò)展:

為 AI 應(yīng)用注入企業(yè)級(jí)控制

01|能體身份治理:Microsoft Entra Agent ID 解決身份泛濫難題

組織正快速構(gòu)建自有 AI 智能體,導(dǎo)致智能體泛濫和集中化管理缺失。安全團(tuán)隊(duì)常疲于應(yīng)對(duì),無(wú)法掌握現(xiàn)有智能體及其引入的安全或合規(guī)風(fēng)險(xiǎn)。如果沒(méi)有適當(dāng)?shù)谋O(jiān)督,智能體會(huì)擴(kuò)大攻擊面并增加非人類身份管理難度。

為此,我們宣布推出Microsoft Entra Agent ID(公開(kāi)預(yù)覽版),這是 Microsoft Entra管理中心的新功能,讓安全管理員對(duì) Microsoft Copilot Studio 和 Microsoft Azure AI Foundry (國(guó)際版)構(gòu)建的 AI 智能體獲得可見(jiàn)性和控制權(quán)。通過(guò)該功能,Microsoft Copilot Studio 或 Microsoft Azure AI Foundry (國(guó)際版)創(chuàng)建的智能體將自動(dòng)分配身份,無(wú)需開(kāi)發(fā)者額外工作。這是管理保護(hù)非人類身份的長(zhǎng)期計(jì)劃的第一步。

23b91292-40d8-11f0-b715-92fbcf53809c.png

▲安全與身份管理員可在 Microsoft Entra 管理中心

查看 Microsoft Copilot Studio 和 Microsoft Azure AI Foundry (國(guó)際版)構(gòu)建的 AI 智能體。

這項(xiàng)新功能為即將登陸 Microsoft Entra 的進(jìn)階能力奠定了基礎(chǔ)。

我們深知,安全防護(hù)從來(lái)不是單打獨(dú)斗。在保護(hù) AI 智能體及其身份的新時(shí)代,協(xié)同合作尤為重要。兩周前,我們宣布支持 Agent-to-Agent(A2A)協(xié)議,并開(kāi)始與合作伙伴共同塑造 AI 身份工作流的未來(lái)。

我們更欣喜地宣布與 ServiceNow 和 Workday 達(dá)成全新合作。通過(guò)將 Microsoft Entra Agent ID 與 ServiceNow AI 平臺(tái)及 Workday 智能體記錄系統(tǒng)集成,未來(lái)可實(shí)現(xiàn)數(shù)字化員工身份的自動(dòng)化配置。

02|威脅防護(hù)直通開(kāi)發(fā)流程: Microsoft Defender 安全警報(bào)和建議已無(wú)縫集成至Microsoft Azure AI Foundry (國(guó)際版)

隨著更多 AI 應(yīng)用部署至生產(chǎn)環(huán)境,組織需要通過(guò)原生集成的安全控制措施來(lái)預(yù)測(cè)和防止?jié)撛诘?AI 技術(shù)威脅,這些控制由行業(yè)領(lǐng)先的生成式 AI 和威脅情報(bào)支持。開(kāi)發(fā)者需要安全團(tuán)隊(duì)的關(guān)鍵信號(hào),以有效緩解 AI 應(yīng)用部署相關(guān)風(fēng)險(xiǎn)。

當(dāng)這些信號(hào)存在于開(kāi)發(fā)者體驗(yàn)之外的獨(dú)立系統(tǒng)時(shí),可能導(dǎo)致緩解延遲,使 AI 應(yīng)用和智能體成為負(fù)擔(dān),并暴露組織于各種威脅和違規(guī)風(fēng)險(xiǎn)。

Microsoft Defender for Cloud(預(yù)覽版)能夠直接將 AI 技術(shù)安全態(tài)勢(shì)管理建議和運(yùn)行時(shí)威脅防護(hù)警報(bào),集成至 Microsoft Azure AI Foundry (國(guó)際版)門戶中。

這些功能作為更廣泛的 Microsoft Defender for Cloud 解決方案的一部分,現(xiàn)已原生擴(kuò)展至 Microsoft Azure AI Foundry (國(guó)際版)中,使開(kāi)發(fā)者無(wú)需離開(kāi)工作流即可訪問(wèn)警報(bào)和建議,實(shí)時(shí)查看安全風(fēng)險(xiǎn)、錯(cuò)誤配置和針對(duì)特定 Microsoft Azure AI 項(xiàng)目的主動(dòng)威脅,無(wú)需切換工具或等待安全團(tuán)隊(duì)提供詳細(xì)信息。

Microsoft Defender for Cloud 的安全洞察幫助開(kāi)發(fā)者識(shí)別和應(yīng)對(duì)越獄攻擊、敏感數(shù)據(jù)泄露和系統(tǒng)資源濫用等威脅,包括:

AI 技術(shù)安全態(tài)勢(shì)建議:識(shí)別 AI 技術(shù)服務(wù)中的錯(cuò)誤配置和漏洞并提供降險(xiǎn)最佳實(shí)踐

AI 技術(shù)服務(wù)威脅防護(hù)警報(bào):通知開(kāi)發(fā)者主動(dòng)威脅并提供緩解指導(dǎo),覆蓋超過(guò)15種檢測(cè)類型

例如,構(gòu)建 AI 智能體的開(kāi)發(fā)者可收到建議使用 Microsoft Azure Private Link 連接Microsoft Azure AI 服務(wù)資源,通過(guò) Microsoft Azure 主干網(wǎng)絡(luò)處理連接以降低數(shù)據(jù)泄露風(fēng)險(xiǎn)。每個(gè)建議包含可操作的修復(fù)步驟,幫助團(tuán)隊(duì)在部署前后階段識(shí)別和緩解風(fēng)險(xiǎn)。這有助于在不減慢創(chuàng)新速度的情況下,顯著降低風(fēng)險(xiǎn)。

23e7704c-40d8-11f0-b715-92fbcf53809c.png

▲ 開(kāi)發(fā)者可在 Microsoft Azure AI Foundry (國(guó)際版)的"風(fēng)險(xiǎn)+警報(bào)"頁(yè)面查看安全警報(bào)。

240cecd2-40d8-11f0-b715-92fbcf53809c.png

開(kāi)發(fā)者可在 Microsoft Azure AI Foundry (國(guó)際版)的"防護(hù)欄+控制"頁(yè)面查看建議。

該集成目前為預(yù)覽版,將于2025年6月在 Microsoft Azure AI Foundry (國(guó)際版)全面上市。

03

Microsoft Purview數(shù)據(jù)安全擴(kuò)展:保護(hù)和管理自定義 AI 應(yīng)用

智能體中的數(shù)據(jù)

數(shù)據(jù)過(guò)度共享和泄露,是 AI 技術(shù)采用的主要擔(dān)憂,也是許多監(jiān)管要求的核心。為了讓組織自信地部署 AI 應(yīng)用和智能體,低代碼和專業(yè)開(kāi)發(fā)者都需要將安全合規(guī)控制無(wú)縫嵌入 AI 技術(shù)創(chuàng)作中。如果沒(méi)有簡(jiǎn)單、對(duì)開(kāi)發(fā)人員友好的解決方案,安全漏洞很快就會(huì)成為阻礙因素,從而在應(yīng)用程序從開(kāi)發(fā)轉(zhuǎn)移到生產(chǎn)環(huán)境時(shí)延遲部署并增加風(fēng)險(xiǎn)。

如今,Microsoft Purview 正在擴(kuò)展其企業(yè)級(jí)數(shù)據(jù)安全與合規(guī)能力,使低代碼和專業(yè)開(kāi)發(fā)者都能更輕松地將數(shù)據(jù)安全和合規(guī)集成到他們的 AI 應(yīng)用程序和智能體中,無(wú)論他們使用何種工具或平臺(tái)。

例如,通過(guò)本次更新,Microsoft Purview DSPM for AI 成為數(shù)據(jù)安全團(tuán)隊(duì)可以查看所有數(shù)據(jù)風(fēng)險(xiǎn)洞察的一站式平臺(tái),涵蓋智能Microsoft 365 Copilot 副駕駛、通過(guò) Agent Builder 和 Microsoft Copilot Studio 構(gòu)建的智能體,以及在 Microsoft Azure AI Foundry (國(guó)際版)和其他平臺(tái)上構(gòu)建的自定義 AI 應(yīng)用和智能體。管理員可以輕松深入地查看特定 AI 應(yīng)用或智能體的安全和合規(guī)洞察,從而更輕松地調(diào)查潛在風(fēng)險(xiǎn)并采取行動(dòng)。

2434c702-40d8-11f0-b715-92fbcf53809c.png

▲數(shù)據(jù)安全管理員現(xiàn)在可以在 Microsoft Purview DSPM for AI 中查看跨智能 Microsoft 365 Copilot 副駕駛、通過(guò) Agent Builder 和 Microsoft Copilot Studio 構(gòu)建的智能體,以及自定義 AI 應(yīng)用和智能體的數(shù)據(jù)安全與合規(guī)洞察。

在以下部分,我們將詳細(xì)介紹 Microsoft Purview 在各種 AI 技術(shù)工作負(fù)載中的能力更新。

01|Microsoft Purview 數(shù)據(jù)安全與合規(guī)控制,現(xiàn)在可以通過(guò)新的 Microsoft Purview SDK 或 Microsoft Purview 與 Microsoft Azure AI Foundry (國(guó)際版)的原生集成,擴(kuò)展到任何自定義構(gòu)建的 AI 應(yīng)用程序和智能體中。

這些新功能使安全團(tuán)隊(duì)能夠輕松地將目前適用于智能Microsoft 365 Copilot副駕駛的企業(yè)級(jí)數(shù)據(jù)安全合規(guī)控制,擴(kuò)展到自定義 AI 應(yīng)用程序和智能體,從而使組織能夠:

在 Microsoft Purview AI 數(shù)據(jù)安全態(tài)勢(shì)管理 (DSPM)中,發(fā)現(xiàn)數(shù)據(jù)安全風(fēng)險(xiǎn)(例如用戶提示中的敏感數(shù)據(jù))和數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)(例如有害內(nèi)容),并獲取建議措施以主動(dòng)降低風(fēng)險(xiǎn);

通過(guò) Microsoft Purview 數(shù)據(jù)安全策略保護(hù)敏感數(shù)據(jù),防范數(shù)據(jù)泄露和內(nèi)部風(fēng)險(xiǎn);

使用審計(jì)、數(shù)據(jù)生命周期管理、電子數(shù)據(jù)展示和通信合規(guī)功能管理 AI 應(yīng)用交互。

Microsoft Purview SDK

Microsoft Purview 現(xiàn)在提供 Purview SDK,這是一組 REST API、文檔和代碼示例(目前為預(yù)覽版),使開(kāi)發(fā)者能夠在任何集成開(kāi)發(fā)環(huán)境(IDE)中將 Microsoft Purview 的數(shù)據(jù)安全和合規(guī)能力集成到 AI 應(yīng)用程序或智能體中。

245282ba-40d8-11f0-b715-92fbcf53809c.jpg

▲ 數(shù)通過(guò)將 Microsoft Purview API 嵌入 IDE,開(kāi)發(fā)者可以幫助確保其 AI 應(yīng)用在運(yùn)行時(shí)受到保護(hù)和治理。

例如,使用 AWS 模型構(gòu)建 AI 智能體的開(kāi)發(fā)者,可以在暴露給模型之前使用Microsoft Purview SDK使其 AI 應(yīng)用能夠自動(dòng)識(shí)別并阻止用戶輸入的敏感數(shù)據(jù),同時(shí)為安全團(tuán)隊(duì)提供支持合規(guī)的有價(jià)值信號(hào)。

通過(guò) Microsoft Purview SDK,初創(chuàng)公司、獨(dú)立軟件供應(yīng)商(ISV)和合作伙伴現(xiàn)在可以將Microsoft Purview 行業(yè)領(lǐng)先的能力直接嵌入其 AI 應(yīng)用軟件解決方案中,使這些解決方案具備 Microsoft Purview 感知能力,并使其客戶更容易在 AI 技術(shù)解決方案中保護(hù)和治理數(shù)據(jù)。

例如,Infosys網(wǎng)絡(luò)安全實(shí)踐副總裁兼交付主管阿希什·阿德瓦里尤(Ashish Adhvaryu)表示:“Infosys Cyber Next 平臺(tái)集成 Microsoft Purview 以提供增強(qiáng)的 AI 技術(shù)安全能力。我們的解決方案是面向 SOC 分析師的 Cyber Next AI 助手(Cyber Advisor),它利用 Microsoft Purview SDK 通過(guò)實(shí)時(shí)監(jiān)控和審計(jì)能力,推動(dòng)主動(dòng)威脅緩解。這種集成提供了全面的 AI 技術(shù)輔助保護(hù),增強(qiáng)了網(wǎng)絡(luò)安全態(tài)勢(shì)。”

微軟合作伙伴EY(安永)也利用新的 Microsoft Purview SDK,將 Microsoft Purview 的價(jià)值嵌入其生成式 AI 計(jì)劃中。EY創(chuàng)新與新興科技合作伙伴蘇曼塔·卡爾(Sumanta Kar)指出:“我們不僅在構(gòu)建 AI 工具,我們正在創(chuàng)建從一開(kāi)始就具備信任、安全性和透明度的智能體解決方案,這些特性通過(guò) Microsoft Purview SDK 提供的策略控制得到支持。在使用 Microsoft Purview SDK 構(gòu)建安全功能時(shí),我們看到了25%到30%的時(shí)間節(jié)省。”

Microsoft Purview與Microsoft Azure AI Foundry (國(guó)際版)原生集成

組織平均開(kāi)發(fā)14個(gè)自定義 AI 應(yīng)用程序。而 AI 技術(shù)創(chuàng)新的快速步伐,可能使安全團(tuán)隊(duì)無(wú)法意識(shí)到其環(huán)境中的潛在數(shù)據(jù)安全和合規(guī)風(fēng)險(xiǎn)。

Microsoft Azure AI Foundry (國(guó)際版)信號(hào)現(xiàn)在直接與 Purview Data Security Posture Management for AI 、 Insider Risk Management 和數(shù)據(jù)合規(guī)控制集成,最大限度地減少了額外開(kāi)發(fā)工作的需求。

例如,對(duì)于使用 Microsoft Azure AI Foundry (國(guó)際版)模型構(gòu)建的 AI 應(yīng)用程序和智能體,數(shù)據(jù)安全團(tuán)隊(duì)可以在 Microsoft Purview DSPM for AI 中獲得 AI 技術(shù)使用情況和數(shù)據(jù)風(fēng)險(xiǎn)的可見(jiàn)性,而無(wú)需開(kāi)發(fā)人員進(jìn)行額外工作。數(shù)據(jù)安全團(tuán)隊(duì)還可以通過(guò) Microsoft Purview Insider Risk Management (IRM) 策略檢測(cè)、調(diào)查和響應(yīng)惡意和無(wú)意用戶活動(dòng),例如離職員工利用 AI 智能體檢索異常數(shù)量的敏感數(shù)據(jù)。最后,Microsoft Azure AI 應(yīng)用和智能體中的用戶提示和 AI 技術(shù)響應(yīng),現(xiàn)在可以如上所述被攝取到 Microsoft Purview 合規(guī)工具中。

02|Microsoft Purview 數(shù)據(jù)保護(hù)擴(kuò)展到基于 Microsoft Dataverse 數(shù)據(jù)的 Microsoft Copilot Studio 智能體

即將在6月推出的預(yù)覽版中,Microsoft Purview 信息保護(hù)將自動(dòng)標(biāo)記和標(biāo)簽繼承覆蓋范圍擴(kuò)展到 Dataverse ,以幫助防止過(guò)度共享和數(shù)據(jù)泄露。信息保護(hù)使組織能夠更輕松地大規(guī)模自動(dòng)分類和保護(hù)敏感數(shù)據(jù)。

一個(gè)常見(jiàn)的挑戰(zhàn)是敏感數(shù)據(jù)通常從各種來(lái)源進(jìn)入 Dataverse,但沒(méi)有一致的標(biāo)記或保護(hù)。如果數(shù)據(jù)沒(méi)有得到適當(dāng)保護(hù),快速采用使用 Microsoft Copilot Studio 構(gòu)建并基于 Dataverse 數(shù)據(jù)的智能體,會(huì)增加數(shù)據(jù)過(guò)度共享和泄露的風(fēng)險(xiǎn)。

通過(guò)自動(dòng)標(biāo)記,存儲(chǔ)在 Dataverse 表中的數(shù)據(jù)可以根據(jù) Microsoft Purview 中設(shè)置的策略自動(dòng)標(biāo)記,無(wú)論其來(lái)源如何。這減少了手動(dòng)標(biāo)記的工作量,并在數(shù)據(jù)進(jìn)入 Dataverse 時(shí)立即保護(hù)敏感信息。

通過(guò)標(biāo)簽繼承,基于 Dataverse 數(shù)據(jù)的 AI 智能體響應(yīng)將自動(dòng)攜帶并遵循源數(shù)據(jù)的敏感度標(biāo)簽。如果響應(yīng)從具有不同標(biāo)簽的多個(gè)表中提取數(shù)據(jù),則將應(yīng)用最嚴(yán)格的標(biāo)簽以確保一致的保護(hù)。

例如,在 Microsoft Copilot Studio 中構(gòu)建智能體的財(cái)務(wù)顧問(wèn)可能會(huì)連接多個(gè) Dataverse表,其中一些標(biāo)記為“普通”,另一些標(biāo)記為“高度機(jī)密”。如果響應(yīng)從兩者中提取數(shù)據(jù),它將繼承最嚴(yán)格的標(biāo)簽,在本例中為“高度機(jī)密”,以防止未經(jīng)授權(quán)的訪問(wèn),并確保對(duì)智能體的創(chuàng)建者和用戶都應(yīng)用適當(dāng)?shù)谋Wo(hù)。

總之, Dataverse 中的自動(dòng)標(biāo)記和標(biāo)簽繼承為 AI 技術(shù)提供了更安全、自動(dòng)化的基礎(chǔ)。

2471641e-40d8-11f0-b715-92fbcf53809c.png

▲ 敏感度標(biāo)簽將自動(dòng)應(yīng)用于 Dataverse 中的數(shù)據(jù)。

24985eca-40d8-11f0-b715-92fbcf53809c.png

▲ AI 技術(shù)生成的響應(yīng)將繼承并遵循源數(shù)據(jù)的敏感度標(biāo)簽。

03|Microsoft Purview DSPM for AI

現(xiàn)在可以提供對(duì)與 Microsoft Copilot Studio 智能體的未認(rèn)證交互的可見(jiàn)性

隨著組織越來(lái)越多地使用 Microsoft Copilot Studio 部署 AI 智能體以進(jìn)行一線客戶互動(dòng),獲取對(duì)未認(rèn)證用戶交互的可見(jiàn)性并主動(dòng)緩解風(fēng)險(xiǎn)變得越來(lái)越重要。

基于現(xiàn)有的 Microsoft Purview 和 Microsoft Copilot Studio 集成,我們?cè)?Microsoft Copilot Studio 中擴(kuò)展了 DSPM for AI 和 Audit ,以提供對(duì)未經(jīng)身份驗(yàn)證的交互的可見(jiàn)性,現(xiàn)在提供預(yù)覽版。這使組織能夠更全面地了解跨認(rèn)證和未認(rèn)證用戶的 AI 技術(shù)相關(guān)數(shù)據(jù)安全風(fēng)險(xiǎn)。

例如,托管面向客戶的外部智能體助手的醫(yī)療保健提供商必須能夠檢測(cè)和響應(yīng)未認(rèn)證用戶嘗試訪問(wèn)敏感患者數(shù)據(jù)的行為。借助 DSPM for AI 中的這些新功能,數(shù)據(jù)安全團(tuán)隊(duì)現(xiàn)在可以識(shí)別這些交互,評(píng)估敏感數(shù)據(jù)的潛在暴露,并采取相應(yīng)行動(dòng)。此外,與 Microsoft Purview Audit 的集成為團(tuán)隊(duì)提供了無(wú)縫訪問(wèn)審計(jì)要求所需的信息。

24b6fbbe-40d8-11f0-b715-92fbcf53809c.png

▲ 獲取對(duì)所有 AI 技術(shù)交互的可見(jiàn)性,包括來(lái)自未認(rèn)證用戶的交互。

04| Microsoft Purview 數(shù)據(jù)丟失防護(hù)擴(kuò)展到更多 Microsoft 365 智能體場(chǎng)景

為了幫助組織防止通過(guò) AI 技術(shù)過(guò)度共享數(shù)據(jù),在微軟 Ignite 2024大會(huì)上,我們宣布數(shù)據(jù)安全管理員可以阻止智能 Microsoft 365 Copilot 副駕駛使用某些標(biāo)記的文檔作為基礎(chǔ)數(shù)據(jù)生成摘要或響應(yīng)。

此控件現(xiàn)在處于預(yù)覽階段,還將擴(kuò)展到基于Microsoft 365 數(shù)據(jù)發(fā)布的智能體,包括預(yù)構(gòu)建的 Microsoft 365智能體、使用 Agent Builder 構(gòu)建的智能體和使用 Microsoft Copilot Studio 構(gòu)建的智能體。這有助于確保包含敏感內(nèi)容的文件被 AI 智能體適當(dāng)使用。

例如,包含高度專業(yè)化語(yǔ)言的機(jī)密法律文件如果被 AI 智能體摘要可能會(huì)導(dǎo)致不當(dāng)指導(dǎo),或者“僅限內(nèi)部”的文檔不應(yīng)被用于生成可以在組織外部共享的內(nèi)容。

24e1b75a-40d8-11f0-b715-92fbcf53809c.png

將數(shù)據(jù)丟失防護(hù)(DLP)策略擴(kuò)展到智能 Microsoft 365 Copilot 副駕駛智能體以保護(hù)敏感數(shù)據(jù)。

我們擴(kuò)展至 Agent Builder 和 Microsoft Copilot Studio 智能體的數(shù)據(jù)保護(hù)能力,展示了我們對(duì)加強(qiáng) Copilot 控制系統(tǒng)(CSS)的安全與治理支柱的持續(xù)投資。CCS 提供集成控件,幫助 IT 和安全團(tuán)隊(duì)保護(hù)、管理和監(jiān)控 Microsoft 365 中的智能Microsoft Copilot 副駕駛和智能體,涵蓋治理、管理和報(bào)告。

在 AI 技術(shù)快速發(fā)展的今天,確保 AI 技術(shù)全生命周期的安全防護(hù)已成為每個(gè)組織的關(guān)鍵任務(wù)。Microsoft Security 提供從代碼開(kāi)發(fā)到運(yùn)行維護(hù)的全方位安全工具與資源,幫助開(kāi)發(fā)者和安全團(tuán)隊(duì)持續(xù)抵御新興威脅,為 AI 模型、應(yīng)用和智能體構(gòu)建堅(jiān)固的安全防線。我們誠(chéng)摯邀請(qǐng)你深入了解這些解決方案,共同探索 AI 技術(shù)安全的最佳實(shí)踐,為企業(yè)的智能化轉(zhuǎn)型保駕護(hù)航。

*本文中介紹的智能Security Copilot副駕駛服務(wù)適用于國(guó)際版企業(yè)級(jí)服務(wù)。

[1]《2025年預(yù)測(cè):應(yīng)對(duì)迫在眉睫的AI安全挑戰(zhàn)》,作者:Jeremy D'Hoinne、Akif Khan、Manuel Acosta、Avivah Litan、Deepak Seth、Bart Willemsen,2025年2月10日發(fā)布。

[2] IBM《2024年數(shù)據(jù)泄露成本報(bào)告:金融行業(yè)》,IBM Think,2024年8月13日發(fā)布,原文鏈接:https://www.ibm.com/think/insights/cost-of-a-data-breach-2024-financial-industry;

Cser, Tamas《軟件開(kāi)發(fā)生命周期中后期發(fā)現(xiàn)缺陷的成本》,F(xiàn)unctionize,2023年1月5日發(fā)布,原文鏈接:

https://www.functionize.com/blog/the-cost-of-finding-bugs-later-in-the-sdlc

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 微軟
    +關(guān)注

    關(guān)注

    4

    文章

    6673

    瀏覽量

    105386
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    34294

    瀏覽量

    275481
  • Build
    +關(guān)注

    關(guān)注

    0

    文章

    28

    瀏覽量

    12267
  • 智能體
    +關(guān)注

    關(guān)注

    1

    文章

    267

    瀏覽量

    10969
  • CoPilot
    +關(guān)注

    關(guān)注

    1

    文章

    53

    瀏覽量

    6312

原文標(biāo)題:微軟 Build 2025:筑牢智能體時(shí)代的安全新防線

文章出處:【微信號(hào):mstech2014,微信公眾號(hào):微軟科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    微軟Build 2025大會(huì):Copilot Studio升級(jí),引領(lǐng)多智能體協(xié)作時(shí)代

    今年,Microsoft Copilot Studio 帶來(lái)了一系列強(qiáng)大的智能新功能:從多智能體協(xié)同編排 (Multi-Agent Orchestration) 到更豐富的創(chuàng)作者控制 (Maker Controls),從
    的頭像 發(fā)表于 06-04 09:23 ?322次閱讀
    <b class='flag-5'>微軟</b><b class='flag-5'>Build</b> <b class='flag-5'>2025</b><b class='flag-5'>大會(huì)</b>:Copilot Studio升級(jí),引領(lǐng)多<b class='flag-5'>智能</b>體協(xié)作<b class='flag-5'>時(shí)代</b>

    智慧路燈網(wǎng)絡(luò)安全防線,為智慧城市發(fā)展保駕護(hù)航

    功能的不斷拓展和聯(lián)網(wǎng)設(shè)備的激增,其面臨的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)也日益凸顯。從設(shè)備層的漏洞利用到網(wǎng)絡(luò)層的數(shù)據(jù)竊取,再到應(yīng)用層的系統(tǒng)入侵,每一個(gè)環(huán)節(jié)的安全隱患都可能成為威脅智慧城市安全運(yùn)行的 “定時(shí)炸彈”。因此,
    的頭像 發(fā)表于 05-28 22:27 ?62次閱讀
    <b class='flag-5'>筑</b><b class='flag-5'>牢</b>智慧路燈網(wǎng)絡(luò)<b class='flag-5'>安全防線</b>,為智慧城市發(fā)展保駕護(hù)航

    Arm攜手微軟云計(jì)算和PC未來(lái)

    Arm 和微軟正攜手共未來(lái),從而使創(chuàng)新不受設(shè)備功耗或不同部署環(huán)境的限制。在上周舉行的微軟 Build 大會(huì)上,Arm 的愿景實(shí)現(xiàn)再次得到體
    的頭像 發(fā)表于 05-28 14:08 ?244次閱讀

    SAE 2025國(guó)際汽車安全大會(huì)圓滿收官

    由SAE International 主辦,上海國(guó)際汽車城與TüV北德協(xié)辦的第七屆SAE 2025 國(guó)際汽車安全大會(huì)于5月16日在上海國(guó)際汽車城圓滿閉幕。大會(huì)聚焦“
    的頭像 發(fā)表于 05-21 14:28 ?270次閱讀

    礦井作業(yè)必備!云翎智能煤礦井用防爆巡檢記錄儀安全生產(chǎn)防線

    作業(yè)中不可或缺的工具,為安全生產(chǎn)防線提供了有力支持。云翎智能礦用防爆工作記錄儀一、防爆設(shè)計(jì):守護(hù)生命的堅(jiān)固
    的頭像 發(fā)表于 05-21 10:15 ?114次閱讀
    礦井作業(yè)必備!云翎<b class='flag-5'>智能</b>煤礦井用防爆巡檢記錄儀<b class='flag-5'>筑</b><b class='flag-5'>牢</b><b class='flag-5'>安全</b>生產(chǎn)<b class='flag-5'>防線</b>

    云翎智能國(guó)產(chǎn)單北斗電力巡檢執(zhí)法記錄儀,電力設(shè)施安全防線

    云翎智能國(guó)產(chǎn)單北斗電力巡檢執(zhí)法記錄儀通過(guò)深度融合北斗高精度定位、5G通信、AI智能分析及國(guó)產(chǎn)化技術(shù)鏈,構(gòu)建了覆蓋電力設(shè)施巡檢全流程的智能安全防護(hù)體系,具體體現(xiàn)在以下核心維度:云翎
    的頭像 發(fā)表于 05-15 10:23 ?123次閱讀
    云翎<b class='flag-5'>智能</b>國(guó)產(chǎn)單北斗電力巡檢執(zhí)法記錄儀,<b class='flag-5'>筑</b><b class='flag-5'>牢</b>電力設(shè)施<b class='flag-5'>安全防線</b>

    宇視科技2025合作伙伴大會(huì)丨業(yè)內(nèi)首次提出“AIoT智能”新理念

    4月29日,春滿長(zhǎng)安,雁塔風(fēng)起,2025宇視合作伙伴大會(huì)在西安國(guó)際會(huì)展中心隆重舉行。宇視和近兩千名合作伙伴齊聚古都,共探AIoT與行業(yè)大模型深度融合的創(chuàng)新實(shí)踐,共繪智能
    的頭像 發(fā)表于 04-30 11:08 ?295次閱讀
    宇視科技<b class='flag-5'>2025</b>合作伙伴<b class='flag-5'>大會(huì)</b>丨業(yè)內(nèi)首次提出“AIoT<b class='flag-5'>智能</b><b class='flag-5'>體</b>”新理念

    MediaTek舉辦天璣開(kāi)發(fā)者大會(huì)MDDC 2025,聯(lián)合產(chǎn)業(yè)伙伴加速智能AI體驗(yàn)普及和發(fā)展

    2025 年4月11日 – MediaTek今日舉辦天璣開(kāi)發(fā)者大會(huì)2025(MDDC 2025),本屆大會(huì)以“AI隨芯,應(yīng)用無(wú)界”為主題,聚
    發(fā)表于 04-11 11:34 ?242次閱讀

    季豐嘉善量產(chǎn)測(cè)試廠無(wú)塵室為精密的芯片生產(chǎn)關(guān)鍵防線

    在芯片制造這個(gè)高科技領(lǐng)域,無(wú)塵室堪稱幕后英雄,它就像一個(gè)精心打造的 “純凈世界”,為精密的芯片生產(chǎn)了關(guān)鍵防線。 今天,就帶大家走進(jìn)浙江季豐電子科技有限公司的嘉善測(cè)試廠,深度揭秘其無(wú)塵室的神秘之處
    的頭像 發(fā)表于 03-08 13:55 ?827次閱讀

    “開(kāi)放·連接 ”2025玄鐵 RISC-V 生態(tài)大會(huì)議程公布!

    2025年2月28日,我們誠(chéng)邀您參與“開(kāi)放·連接 ”2025玄鐵 RISC-V 生態(tài)大會(huì)。與來(lái)自全球的行業(yè)專家、技術(shù)領(lǐng)袖、企業(yè)決策者和 RISC-V 資深工程師共赴北京,一同探討技術(shù)趨勢(shì)、行業(yè)洞見(jiàn)及產(chǎn)業(yè)未來(lái),齊心共
    發(fā)表于 02-24 16:25

    AI智能規(guī)模化應(yīng)用前夜:英偉達(dá)NeMo Guardrails安全防線

    隨著AI智能的快速發(fā)展,它們正變得日益復(fù)雜、自主且功能多樣,應(yīng)用范圍也在持續(xù)擴(kuò)大。然而,在AI智能即將步入“規(guī)模就業(yè)”的新階段之前,安全
    的頭像 發(fā)表于 01-23 16:16 ?715次閱讀

    河道水位流量一化在線監(jiān)測(cè)系統(tǒng):快速響應(yīng)水位變化,保障城市安全

    河道,是城市生態(tài)的重要脈絡(luò),其水位流量的變化與城市安全息息相關(guān)。極端天氣增多,河道水情越發(fā)復(fù)雜,傳統(tǒng)監(jiān)測(cè)方式難以及時(shí)準(zhǔn)確掌握動(dòng)態(tài)。河道水位流量一化在線監(jiān)測(cè)系統(tǒng)應(yīng)運(yùn)而生,以快速響應(yīng)水位變化之能,為城市安全
    的頭像 發(fā)表于 01-13 09:42 ?362次閱讀
    河道水位流量一<b class='flag-5'>體</b>化在線監(jiān)測(cè)系統(tǒng):快速響應(yīng)水位變化,保障城市<b class='flag-5'>安全</b>

    小區(qū)電動(dòng)車充電樁消防設(shè)備整體方案:安全防線,守護(hù)綠色出行

    方案,旨在安全防線,守護(hù)每一位居民的綠色出行。 首先,電盾智能配備了適用于電氣設(shè)備火災(zāi)的滅火器。這些滅火器包括干粉滅火器和二氧化碳滅火器等,它們被放置在充電樁附近易于取用的位置。我
    的頭像 發(fā)表于 12-27 15:15 ?508次閱讀

    賽思×廣東移動(dòng) | 賽思攜手國(guó)內(nèi)最大運(yùn)營(yíng)商省公司,超1.1億用戶移動(dòng)通信安全防線

    賽思攜手廣東移動(dòng),增強(qiáng)核心骨干同步網(wǎng)授時(shí)性能,移動(dòng)網(wǎng)絡(luò)安全每一道防線,讓時(shí)間“黑客”無(wú)機(jī)可乘!
    的頭像 發(fā)表于 11-23 20:16 ?779次閱讀
    賽思×廣東移動(dòng) | 賽思攜手國(guó)內(nèi)最大運(yùn)營(yíng)商省公司,<b class='flag-5'>筑</b><b class='flag-5'>牢</b>超1.1億用戶移動(dòng)通信<b class='flag-5'>安全防線</b>!

    海瑞思雙工位電解液質(zhì)譜檢漏解決方案為新能源汽車產(chǎn)業(yè)持續(xù)發(fā)展安全防線

    。 海瑞思,作為密封泄漏檢測(cè)行業(yè)的佼佼者,響應(yīng)市場(chǎng)需求,以HM-200在線質(zhì)譜分析儀為核心,打造鋰電池漏液一站式解決方案,精準(zhǔn)高效檢測(cè),助力電池廠家嚴(yán)守質(zhì)量關(guān),為新能源汽車產(chǎn)業(yè)持續(xù)發(fā)展安全防線。 成功案例解析:電池漏液檢測(cè)
    的頭像 發(fā)表于 11-23 17:25 ?921次閱讀