作者:盧·阿德西達(dá)(LouAdesida)
隨著AI應(yīng)用進(jìn)入規(guī)模化部署,數(shù)據(jù)泄露、提示注入攻擊和智能體失控等風(fēng)險(xiǎn),正威脅著企業(yè)的數(shù)字化轉(zhuǎn)型。在微軟Build 2025大會(huì)上,微軟宣布通過(guò)Microsoft Azure AI Foundry(國(guó)際版)、Microsoft Purview與Microsoft Defender的深度協(xié)同,構(gòu)建覆蓋開(kāi)發(fā)、部署、運(yùn)維全流程的智能體防護(hù)體系,為企業(yè)的智能化轉(zhuǎn)型保駕護(hù)航。
AI 技術(shù)領(lǐng)域的創(chuàng)新正以前所未有的速度發(fā)展,越來(lái)越多的 AI 應(yīng)用項(xiàng)目正從實(shí)驗(yàn)階段轉(zhuǎn)向部署階段,以推動(dòng)切實(shí)的業(yè)務(wù)影響。隨著組織通過(guò)自定義 AI 應(yīng)用和智能體加速創(chuàng)新,新的風(fēng)險(xiǎn)也出現(xiàn)在軟件開(kāi)發(fā)生命周期和 AI 技術(shù)棧中,涉及數(shù)據(jù)過(guò)度共享與泄露、新型漏洞與威脅,以及嚴(yán)格的監(jiān)管合規(guī)要求。
到了2025年,針對(duì)企業(yè) AI 應(yīng)用的惡意攻擊中,軟件供應(yīng)鏈和基礎(chǔ)設(shè)施技術(shù)棧投毒的占比將超過(guò)70%1,這凸顯了開(kāi)發(fā)早期階段可能存在的威脅。當(dāng)前數(shù)據(jù)泄露的平均成本為488萬(wàn)美元,但如果能在開(kāi)發(fā)過(guò)程中早期發(fā)現(xiàn)安全問(wèn)題,這一數(shù)字可大幅降至每起事件80美元2。
信息非常明確:安全問(wèn)題不能事后考慮。它必須成為整個(gè)組織的團(tuán)隊(duì)協(xié)作,從開(kāi)始就嵌入并貫穿整個(gè)開(kāi)發(fā)生命周期。因此,開(kāi)發(fā)者和安全團(tuán)隊(duì)需要在流程和工具上達(dá)成一致,將安全融入 AI 技術(shù)開(kāi)發(fā)生命周期的每個(gè)階段,并為安全從業(yè)者提供風(fēng)險(xiǎn)可見(jiàn)性和緩解能力。
為了應(yīng)對(duì)這些日益增長(zhǎng)的挑戰(zhàn),并幫助客戶在開(kāi)發(fā)與安全團(tuán)隊(duì)間保護(hù)、治理 AI 技術(shù)工作負(fù)載,微軟正在:
賦能 Microsoft Azure AI Foundry (國(guó)際版)和 Microsoft Copilot Studio ,提供業(yè)界領(lǐng)先的基礎(chǔ)能力以保護(hù)和管理 AI 技術(shù)工作負(fù)載;
將 Microsoft Purview 、 Microsoft Defender 和 Microsoft Entra 的行業(yè)領(lǐng)先功能,深度集成并嵌入到 Microsoft Azure AI Foundry (國(guó)際版) 和 Microsoft Copilot Studio 中;
近期,3,000名開(kāi)發(fā)者齊聚西雅圖參加年度微軟Build大會(huì),還有更多開(kāi)發(fā)人員在線參與學(xué)習(xí),從而快速掌握 AI 應(yīng)用和智能體創(chuàng)新的實(shí)用技能。為了支持他們的 AI 技術(shù)創(chuàng)新之旅,我們很高興宣布多項(xiàng)新功能,幫助開(kāi)發(fā)者和組織來(lái)保護(hù)及治理 AI 應(yīng)用與智能體。
01
Microsoft Azure AI Foundry (國(guó)際版)
新基礎(chǔ)能力:構(gòu)建 AI 技術(shù)工作
負(fù)載的全生命周期防護(hù)
01|AI安全與防護(hù)增強(qiáng):主動(dòng)防御體系升級(jí)
Microsoft Azure AI Foundry (國(guó)際版)已服務(wù)70,000家客戶,本季度處理100萬(wàn)億個(gè)token 并支持每日20億次企業(yè)搜索查詢。它已從單一應(yīng)用層發(fā)展為綜合性平臺(tái),支持構(gòu)建具備規(guī)劃、執(zhí)行和學(xué)習(xí)能力的智能體,以達(dá)成實(shí)際業(yè)務(wù)目標(biāo)。
為助力組織安全構(gòu)建和部署 AI 應(yīng)用,我們?yōu)?Microsoft Azure AI Foundry (國(guó)際版)開(kāi)發(fā)者推出以下新防護(hù)能力:
?聚光功能( Spotlighting ):實(shí)時(shí)檢測(cè)并阻斷提示注入攻擊
隨著 AI 技術(shù)系統(tǒng)更多依賴外部數(shù)據(jù)源,間接提示注入攻擊這類新型威脅已開(kāi)始出現(xiàn)。此類攻擊通過(guò)在文檔、電子郵件和網(wǎng)頁(yè)中嵌入隱藏指令,誘使模型在無(wú)用戶直接輸入時(shí)執(zhí)行未授權(quán)操作。傳統(tǒng)過(guò)濾手段難以有效防御。
Microsoft Azure AI 內(nèi)容安全現(xiàn)推出聚光功能(預(yù)覽版),通過(guò)增強(qiáng)提示防護(hù)欄(Prompt Shields)的能力,檢測(cè)并阻斷潛在間接提示注入攻擊,防止模型執(zhí)行隱蔽惡意指令。
▲在 Microsoft Azure AI Content Safety 中啟用聚光功能,以檢測(cè)潛在的間接提示注入攻擊。
?智能體任務(wù)遵從性(預(yù)覽版):確保智能體在既定范圍內(nèi)運(yùn)作
隨著開(kāi)發(fā)者構(gòu)建更強(qiáng)大的智能體,組織面臨越來(lái)越大的壓力來(lái)確保這些智能體在定義的指令和政策邊界內(nèi)運(yùn)作。即使微小偏差也可能導(dǎo)致工具誤用、工作流中斷或敏感數(shù)據(jù)意外暴露等風(fēng)險(xiǎn)。為此,Microsoft Azure AI Foundry (國(guó)際版)現(xiàn)包含智能體任務(wù)遵從性(預(yù)覽版),由兩個(gè)組件驅(qū)動(dòng):實(shí)時(shí)評(píng)估和 Microsoft Azure AI Content Safety 中的新控制項(xiàng)。
Microsoft Azure AI Content Safety 中的實(shí)時(shí)任務(wù)遵從性評(píng)估 API是核心。該 API 通過(guò)分析用戶查詢、系統(tǒng)指令、計(jì)劃工具調(diào)用和智能體響應(yīng),評(píng)估智能體行為是否符合分配任務(wù)。評(píng)估框架基于微軟智能體評(píng)估器構(gòu)建,可測(cè)量意圖解析度、工具選擇準(zhǔn)確性、響應(yīng)完整性和對(duì)原始請(qǐng)求的整體符合性。開(kāi)發(fā)者可使用 Microsoft Azure AI 評(píng)估 SDK 中的任務(wù)遵從性評(píng)估器在本地運(yùn)行評(píng)分邏輯,采用從完全不符合到完全符合的五級(jí)評(píng)分。這為團(tuán)隊(duì)提供了靈活透明的方式,在問(wèn)題影響下游前檢查任務(wù)級(jí)行為。
任務(wù)遵從性通過(guò) Microsoft Azure AI Content Safety中的新控制項(xiàng)執(zhí)行。如果智能體偏離任務(wù),控制項(xiàng)可阻止工具使用、暫停執(zhí)行或觸發(fā)人工審核。在 Microsoft Azure AI 智能體服務(wù)中,該功能作為可選功能自動(dòng)運(yùn)行。結(jié)合實(shí)時(shí)評(píng)估,該控制項(xiàng)幫助確保智能體保持任務(wù)專注、遵循指令并按企業(yè)政策運(yùn)作。
? 持續(xù)評(píng)估與監(jiān)控:部署后智能體健康度實(shí)時(shí)追蹤
在部署后保持 AI 智能體的高性能和合規(guī)性,是一項(xiàng)日益嚴(yán)峻的挑戰(zhàn)。如果缺乏持續(xù)的監(jiān)督,性能下降、安全風(fēng)險(xiǎn)或資源無(wú)意濫用等問(wèn)題可能會(huì)被忽視。
Microsoft Azure AI Foundry (國(guó)際版)推出的智能體系統(tǒng)持續(xù)評(píng)估和監(jiān)控(預(yù)覽版),通過(guò)統(tǒng)一儀表板實(shí)時(shí)跟蹤性能、質(zhì)量、安全性和資源使用等關(guān)鍵指標(biāo)。持續(xù)評(píng)估以生產(chǎn)使用量的抽樣率運(yùn)行質(zhì)量和安全評(píng)估,結(jié)果在 Microsoft Azure AI Foundry (國(guó)際版)監(jiān)控儀表板顯示并發(fā)布至 Application Insights 。開(kāi)發(fā)者可設(shè)置警報(bào)檢測(cè)漂移或回歸,并使用 Microsoft Azure Monitor 獲得 AI 技術(shù)系統(tǒng)的全棧可見(jiàn)性。
例如,使用 AI 智能體處理客戶任務(wù)的組織可監(jiān)控?cái)?shù)據(jù)真實(shí)性,當(dāng)智能體開(kāi)始引用無(wú)關(guān)信息時(shí)檢測(cè)質(zhì)量下降,幫助團(tuán)隊(duì)在影響用戶信任前采取行動(dòng)。
02 | 合規(guī)評(píng)估自動(dòng)化:與 Purview / CredoAI / Saidot的深度集成
AI 技術(shù)法規(guī)和標(biāo)準(zhǔn)對(duì)高風(fēng)險(xiǎn) AI 技術(shù)系統(tǒng)提出了透明度、文檔管理和風(fēng)險(xiǎn)管理的新要求。開(kāi)發(fā)者在構(gòu)建 AI 應(yīng)用和智能體時(shí),可能需要基于這些要求的風(fēng)險(xiǎn)評(píng)估指導(dǎo)工具,并與合規(guī)和風(fēng)險(xiǎn)團(tuán)隊(duì)無(wú)縫共享控制及評(píng)估洞察。
今天,我們宣布 Microsoft Azure AI Foundry (國(guó)際版)評(píng)估工具與合規(guī)管理解決方案Microsoft Purview 合規(guī)管理器及 AI 治理解決方案CredoAI和Saidot的集成預(yù)覽。這些集成幫助定義風(fēng)險(xiǎn)參數(shù)、運(yùn)行建議的合規(guī)評(píng)估,并為控制測(cè)試和審計(jì)收集證據(jù)。
例如,在歐洲構(gòu)建 AI 智能體的開(kāi)發(fā)者,可能需要合規(guī)團(tuán)隊(duì)完成數(shù)據(jù)保護(hù)影響評(píng)估(DPIA)和算法影響評(píng)估(AIA),以滿足內(nèi)部風(fēng)險(xiǎn)管理和技術(shù)文檔要求。基于 Microsoft Purview 合規(guī)管理器的分步控制實(shí)施和測(cè)試指南,合規(guī)團(tuán)隊(duì)可評(píng)估潛在偏見(jiàn)、網(wǎng)絡(luò)安全漏洞或模型行為缺乏透明度等風(fēng)險(xiǎn)。
在 Microsoft Azure AI Foundry (國(guó)際版)完成評(píng)估后,開(kāi)發(fā)者可獲得記錄風(fēng)險(xiǎn)、緩解措施和剩余風(fēng)險(xiǎn)的報(bào)告,供合規(guī)團(tuán)隊(duì)上傳至合規(guī)管理器以支持審計(jì)并向監(jiān)管機(jī)構(gòu)或外部利益相關(guān)方提供證據(jù)。
▲根據(jù)新興AI技術(shù)治理標(biāo)準(zhǔn)評(píng)估 Microsoft Azure AI Foundry (國(guó)際版)的控制措施。
02
微軟安全能力擴(kuò)展:
為 AI 應(yīng)用注入企業(yè)級(jí)控制
01|智能體身份治理:Microsoft Entra Agent ID 解決身份泛濫難題
組織正快速構(gòu)建自有 AI 智能體,導(dǎo)致智能體泛濫和集中化管理缺失。安全團(tuán)隊(duì)常疲于應(yīng)對(duì),無(wú)法掌握現(xiàn)有智能體及其引入的安全或合規(guī)風(fēng)險(xiǎn)。如果沒(méi)有適當(dāng)?shù)谋O(jiān)督,智能體會(huì)擴(kuò)大攻擊面并增加非人類身份管理難度。
為此,我們宣布推出Microsoft Entra Agent ID(公開(kāi)預(yù)覽版),這是 Microsoft Entra管理中心的新功能,讓安全管理員對(duì) Microsoft Copilot Studio 和 Microsoft Azure AI Foundry (國(guó)際版)構(gòu)建的 AI 智能體獲得可見(jiàn)性和控制權(quán)。通過(guò)該功能,Microsoft Copilot Studio 或 Microsoft Azure AI Foundry (國(guó)際版)創(chuàng)建的智能體將自動(dòng)分配身份,無(wú)需開(kāi)發(fā)者額外工作。這是管理保護(hù)非人類身份的長(zhǎng)期計(jì)劃的第一步。
▲安全與身份管理員可在 Microsoft Entra 管理中心
查看 Microsoft Copilot Studio 和 Microsoft Azure AI Foundry (國(guó)際版)構(gòu)建的 AI 智能體。
這項(xiàng)新功能為即將登陸 Microsoft Entra 的進(jìn)階能力奠定了基礎(chǔ)。
我們深知,安全防護(hù)從來(lái)不是單打獨(dú)斗。在保護(hù) AI 智能體及其身份的新時(shí)代,協(xié)同合作尤為重要。兩周前,我們宣布支持 Agent-to-Agent(A2A)協(xié)議,并開(kāi)始與合作伙伴共同塑造 AI 身份工作流的未來(lái)。
我們更欣喜地宣布與 ServiceNow 和 Workday 達(dá)成全新合作。通過(guò)將 Microsoft Entra Agent ID 與 ServiceNow AI 平臺(tái)及 Workday 智能體記錄系統(tǒng)集成,未來(lái)可實(shí)現(xiàn)數(shù)字化員工身份的自動(dòng)化配置。
02|威脅防護(hù)直通開(kāi)發(fā)流程: Microsoft Defender 安全警報(bào)和建議已無(wú)縫集成至Microsoft Azure AI Foundry (國(guó)際版)
隨著更多 AI 應(yīng)用部署至生產(chǎn)環(huán)境,組織需要通過(guò)原生集成的安全控制措施來(lái)預(yù)測(cè)和防止?jié)撛诘?AI 技術(shù)威脅,這些控制由行業(yè)領(lǐng)先的生成式 AI 和威脅情報(bào)支持。開(kāi)發(fā)者需要安全團(tuán)隊(duì)的關(guān)鍵信號(hào),以有效緩解 AI 應(yīng)用部署相關(guān)風(fēng)險(xiǎn)。
當(dāng)這些信號(hào)存在于開(kāi)發(fā)者體驗(yàn)之外的獨(dú)立系統(tǒng)時(shí),可能導(dǎo)致緩解延遲,使 AI 應(yīng)用和智能體成為負(fù)擔(dān),并暴露組織于各種威脅和違規(guī)風(fēng)險(xiǎn)。
Microsoft Defender for Cloud(預(yù)覽版)能夠直接將 AI 技術(shù)安全態(tài)勢(shì)管理建議和運(yùn)行時(shí)威脅防護(hù)警報(bào),集成至 Microsoft Azure AI Foundry (國(guó)際版)門戶中。
這些功能作為更廣泛的 Microsoft Defender for Cloud 解決方案的一部分,現(xiàn)已原生擴(kuò)展至 Microsoft Azure AI Foundry (國(guó)際版)中,使開(kāi)發(fā)者無(wú)需離開(kāi)工作流即可訪問(wèn)警報(bào)和建議,實(shí)時(shí)查看安全風(fēng)險(xiǎn)、錯(cuò)誤配置和針對(duì)特定 Microsoft Azure AI 項(xiàng)目的主動(dòng)威脅,無(wú)需切換工具或等待安全團(tuán)隊(duì)提供詳細(xì)信息。
Microsoft Defender for Cloud 的安全洞察幫助開(kāi)發(fā)者識(shí)別和應(yīng)對(duì)越獄攻擊、敏感數(shù)據(jù)泄露和系統(tǒng)資源濫用等威脅,包括:
AI 技術(shù)安全態(tài)勢(shì)建議:識(shí)別 AI 技術(shù)服務(wù)中的錯(cuò)誤配置和漏洞并提供降險(xiǎn)最佳實(shí)踐
AI 技術(shù)服務(wù)威脅防護(hù)警報(bào):通知開(kāi)發(fā)者主動(dòng)威脅并提供緩解指導(dǎo),覆蓋超過(guò)15種檢測(cè)類型
例如,構(gòu)建 AI 智能體的開(kāi)發(fā)者可收到建議使用 Microsoft Azure Private Link 連接Microsoft Azure AI 服務(wù)資源,通過(guò) Microsoft Azure 主干網(wǎng)絡(luò)處理連接以降低數(shù)據(jù)泄露風(fēng)險(xiǎn)。每個(gè)建議包含可操作的修復(fù)步驟,幫助團(tuán)隊(duì)在部署前后階段識(shí)別和緩解風(fēng)險(xiǎn)。這有助于在不減慢創(chuàng)新速度的情況下,顯著降低風(fēng)險(xiǎn)。
▲ 開(kāi)發(fā)者可在 Microsoft Azure AI Foundry (國(guó)際版)的"風(fēng)險(xiǎn)+警報(bào)"頁(yè)面查看安全警報(bào)。
▲開(kāi)發(fā)者可在 Microsoft Azure AI Foundry (國(guó)際版)的"防護(hù)欄+控制"頁(yè)面查看建議。
該集成目前為預(yù)覽版,將于2025年6月在 Microsoft Azure AI Foundry (國(guó)際版)全面上市。
03
Microsoft Purview數(shù)據(jù)安全擴(kuò)展:保護(hù)和管理自定義 AI 應(yīng)用
與智能體中的數(shù)據(jù)
數(shù)據(jù)過(guò)度共享和泄露,是 AI 技術(shù)采用的主要擔(dān)憂,也是許多監(jiān)管要求的核心。為了讓組織自信地部署 AI 應(yīng)用和智能體,低代碼和專業(yè)開(kāi)發(fā)者都需要將安全合規(guī)控制無(wú)縫嵌入 AI 技術(shù)創(chuàng)作中。如果沒(méi)有簡(jiǎn)單、對(duì)開(kāi)發(fā)人員友好的解決方案,安全漏洞很快就會(huì)成為阻礙因素,從而在應(yīng)用程序從開(kāi)發(fā)轉(zhuǎn)移到生產(chǎn)環(huán)境時(shí)延遲部署并增加風(fēng)險(xiǎn)。
如今,Microsoft Purview 正在擴(kuò)展其企業(yè)級(jí)數(shù)據(jù)安全與合規(guī)能力,使低代碼和專業(yè)開(kāi)發(fā)者都能更輕松地將數(shù)據(jù)安全和合規(guī)集成到他們的 AI 應(yīng)用程序和智能體中,無(wú)論他們使用何種工具或平臺(tái)。
例如,通過(guò)本次更新,Microsoft Purview DSPM for AI 成為數(shù)據(jù)安全團(tuán)隊(duì)可以查看所有數(shù)據(jù)風(fēng)險(xiǎn)洞察的一站式平臺(tái),涵蓋智能Microsoft 365 Copilot 副駕駛、通過(guò) Agent Builder 和 Microsoft Copilot Studio 構(gòu)建的智能體,以及在 Microsoft Azure AI Foundry (國(guó)際版)和其他平臺(tái)上構(gòu)建的自定義 AI 應(yīng)用和智能體。管理員可以輕松深入地查看特定 AI 應(yīng)用或智能體的安全和合規(guī)洞察,從而更輕松地調(diào)查潛在風(fēng)險(xiǎn)并采取行動(dòng)。
▲數(shù)據(jù)安全管理員現(xiàn)在可以在 Microsoft Purview DSPM for AI 中查看跨智能 Microsoft 365 Copilot 副駕駛、通過(guò) Agent Builder 和 Microsoft Copilot Studio 構(gòu)建的智能體,以及自定義 AI 應(yīng)用和智能體的數(shù)據(jù)安全與合規(guī)洞察。
在以下部分,我們將詳細(xì)介紹 Microsoft Purview 在各種 AI 技術(shù)工作負(fù)載中的能力更新。
01|Microsoft Purview 數(shù)據(jù)安全與合規(guī)控制,現(xiàn)在可以通過(guò)新的 Microsoft Purview SDK 或 Microsoft Purview 與 Microsoft Azure AI Foundry (國(guó)際版)的原生集成,擴(kuò)展到任何自定義構(gòu)建的 AI 應(yīng)用程序和智能體中。
這些新功能使安全團(tuán)隊(duì)能夠輕松地將目前適用于智能Microsoft 365 Copilot副駕駛的企業(yè)級(jí)數(shù)據(jù)安全合規(guī)控制,擴(kuò)展到自定義 AI 應(yīng)用程序和智能體,從而使組織能夠:
在 Microsoft Purview AI 數(shù)據(jù)安全態(tài)勢(shì)管理 (DSPM)中,發(fā)現(xiàn)數(shù)據(jù)安全風(fēng)險(xiǎn)(例如用戶提示中的敏感數(shù)據(jù))和數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)(例如有害內(nèi)容),并獲取建議措施以主動(dòng)降低風(fēng)險(xiǎn);
通過(guò) Microsoft Purview 數(shù)據(jù)安全策略保護(hù)敏感數(shù)據(jù),防范數(shù)據(jù)泄露和內(nèi)部風(fēng)險(xiǎn);
使用審計(jì)、數(shù)據(jù)生命周期管理、電子數(shù)據(jù)展示和通信合規(guī)功能管理 AI 應(yīng)用交互。
Microsoft Purview SDK
Microsoft Purview 現(xiàn)在提供 Purview SDK,這是一組 REST API、文檔和代碼示例(目前為預(yù)覽版),使開(kāi)發(fā)者能夠在任何集成開(kāi)發(fā)環(huán)境(IDE)中將 Microsoft Purview 的數(shù)據(jù)安全和合規(guī)能力集成到 AI 應(yīng)用程序或智能體中。
▲ 數(shù)通過(guò)將 Microsoft Purview API 嵌入 IDE,開(kāi)發(fā)者可以幫助確保其 AI 應(yīng)用在運(yùn)行時(shí)受到保護(hù)和治理。
例如,使用 AWS 模型構(gòu)建 AI 智能體的開(kāi)發(fā)者,可以在暴露給模型之前使用Microsoft Purview SDK使其 AI 應(yīng)用能夠自動(dòng)識(shí)別并阻止用戶輸入的敏感數(shù)據(jù),同時(shí)為安全團(tuán)隊(duì)提供支持合規(guī)的有價(jià)值信號(hào)。
通過(guò) Microsoft Purview SDK,初創(chuàng)公司、獨(dú)立軟件供應(yīng)商(ISV)和合作伙伴現(xiàn)在可以將Microsoft Purview 行業(yè)領(lǐng)先的能力直接嵌入其 AI 應(yīng)用軟件解決方案中,使這些解決方案具備 Microsoft Purview 感知能力,并使其客戶更容易在 AI 技術(shù)解決方案中保護(hù)和治理數(shù)據(jù)。
例如,Infosys網(wǎng)絡(luò)安全實(shí)踐副總裁兼交付主管阿希什·阿德瓦里尤(Ashish Adhvaryu)表示:“Infosys Cyber Next 平臺(tái)集成 Microsoft Purview 以提供增強(qiáng)的 AI 技術(shù)安全能力。我們的解決方案是面向 SOC 分析師的 Cyber Next AI 助手(Cyber Advisor),它利用 Microsoft Purview SDK 通過(guò)實(shí)時(shí)監(jiān)控和審計(jì)能力,推動(dòng)主動(dòng)威脅緩解。這種集成提供了全面的 AI 技術(shù)輔助保護(hù),增強(qiáng)了網(wǎng)絡(luò)安全態(tài)勢(shì)。”
微軟合作伙伴EY(安永)也利用新的 Microsoft Purview SDK,將 Microsoft Purview 的價(jià)值嵌入其生成式 AI 計(jì)劃中。EY創(chuàng)新與新興科技合作伙伴蘇曼塔·卡爾(Sumanta Kar)指出:“我們不僅在構(gòu)建 AI 工具,我們正在創(chuàng)建從一開(kāi)始就具備信任、安全性和透明度的智能體解決方案,這些特性通過(guò) Microsoft Purview SDK 提供的策略控制得到支持。在使用 Microsoft Purview SDK 構(gòu)建安全功能時(shí),我們看到了25%到30%的時(shí)間節(jié)省。”
Microsoft Purview與Microsoft Azure AI Foundry (國(guó)際版)原生集成
組織平均開(kāi)發(fā)14個(gè)自定義 AI 應(yīng)用程序。而 AI 技術(shù)創(chuàng)新的快速步伐,可能使安全團(tuán)隊(duì)無(wú)法意識(shí)到其環(huán)境中的潛在數(shù)據(jù)安全和合規(guī)風(fēng)險(xiǎn)。
Microsoft Azure AI Foundry (國(guó)際版)信號(hào)現(xiàn)在直接與 Purview Data Security Posture Management for AI 、 Insider Risk Management 和數(shù)據(jù)合規(guī)控制集成,最大限度地減少了額外開(kāi)發(fā)工作的需求。
例如,對(duì)于使用 Microsoft Azure AI Foundry (國(guó)際版)模型構(gòu)建的 AI 應(yīng)用程序和智能體,數(shù)據(jù)安全團(tuán)隊(duì)可以在 Microsoft Purview DSPM for AI 中獲得 AI 技術(shù)使用情況和數(shù)據(jù)風(fēng)險(xiǎn)的可見(jiàn)性,而無(wú)需開(kāi)發(fā)人員進(jìn)行額外工作。數(shù)據(jù)安全團(tuán)隊(duì)還可以通過(guò) Microsoft Purview Insider Risk Management (IRM) 策略檢測(cè)、調(diào)查和響應(yīng)惡意和無(wú)意用戶活動(dòng),例如離職員工利用 AI 智能體檢索異常數(shù)量的敏感數(shù)據(jù)。最后,Microsoft Azure AI 應(yīng)用和智能體中的用戶提示和 AI 技術(shù)響應(yīng),現(xiàn)在可以如上所述被攝取到 Microsoft Purview 合規(guī)工具中。
02|Microsoft Purview 數(shù)據(jù)保護(hù)擴(kuò)展到基于 Microsoft Dataverse 數(shù)據(jù)的 Microsoft Copilot Studio 智能體
即將在6月推出的預(yù)覽版中,Microsoft Purview 信息保護(hù)將自動(dòng)標(biāo)記和標(biāo)簽繼承覆蓋范圍擴(kuò)展到 Dataverse ,以幫助防止過(guò)度共享和數(shù)據(jù)泄露。信息保護(hù)使組織能夠更輕松地大規(guī)模自動(dòng)分類和保護(hù)敏感數(shù)據(jù)。
一個(gè)常見(jiàn)的挑戰(zhàn)是敏感數(shù)據(jù)通常從各種來(lái)源進(jìn)入 Dataverse,但沒(méi)有一致的標(biāo)記或保護(hù)。如果數(shù)據(jù)沒(méi)有得到適當(dāng)保護(hù),快速采用使用 Microsoft Copilot Studio 構(gòu)建并基于 Dataverse 數(shù)據(jù)的智能體,會(huì)增加數(shù)據(jù)過(guò)度共享和泄露的風(fēng)險(xiǎn)。
通過(guò)自動(dòng)標(biāo)記,存儲(chǔ)在 Dataverse 表中的數(shù)據(jù)可以根據(jù) Microsoft Purview 中設(shè)置的策略自動(dòng)標(biāo)記,無(wú)論其來(lái)源如何。這減少了手動(dòng)標(biāo)記的工作量,并在數(shù)據(jù)進(jìn)入 Dataverse 時(shí)立即保護(hù)敏感信息。
通過(guò)標(biāo)簽繼承,基于 Dataverse 數(shù)據(jù)的 AI 智能體響應(yīng)將自動(dòng)攜帶并遵循源數(shù)據(jù)的敏感度標(biāo)簽。如果響應(yīng)從具有不同標(biāo)簽的多個(gè)表中提取數(shù)據(jù),則將應(yīng)用最嚴(yán)格的標(biāo)簽以確保一致的保護(hù)。
例如,在 Microsoft Copilot Studio 中構(gòu)建智能體的財(cái)務(wù)顧問(wèn)可能會(huì)連接多個(gè) Dataverse表,其中一些標(biāo)記為“普通”,另一些標(biāo)記為“高度機(jī)密”。如果響應(yīng)從兩者中提取數(shù)據(jù),它將繼承最嚴(yán)格的標(biāo)簽,在本例中為“高度機(jī)密”,以防止未經(jīng)授權(quán)的訪問(wèn),并確保對(duì)智能體的創(chuàng)建者和用戶都應(yīng)用適當(dāng)?shù)谋Wo(hù)。
總之, Dataverse 中的自動(dòng)標(biāo)記和標(biāo)簽繼承為 AI 技術(shù)提供了更安全、自動(dòng)化的基礎(chǔ)。
▲ 敏感度標(biāo)簽將自動(dòng)應(yīng)用于 Dataverse 中的數(shù)據(jù)。
▲ AI 技術(shù)生成的響應(yīng)將繼承并遵循源數(shù)據(jù)的敏感度標(biāo)簽。
03|Microsoft Purview DSPM for AI
現(xiàn)在可以提供對(duì)與 Microsoft Copilot Studio 智能體的未認(rèn)證交互的可見(jiàn)性
隨著組織越來(lái)越多地使用 Microsoft Copilot Studio 部署 AI 智能體以進(jìn)行一線客戶互動(dòng),獲取對(duì)未認(rèn)證用戶交互的可見(jiàn)性并主動(dòng)緩解風(fēng)險(xiǎn)變得越來(lái)越重要。
基于現(xiàn)有的 Microsoft Purview 和 Microsoft Copilot Studio 集成,我們?cè)?Microsoft Copilot Studio 中擴(kuò)展了 DSPM for AI 和 Audit ,以提供對(duì)未經(jīng)身份驗(yàn)證的交互的可見(jiàn)性,現(xiàn)在提供預(yù)覽版。這使組織能夠更全面地了解跨認(rèn)證和未認(rèn)證用戶的 AI 技術(shù)相關(guān)數(shù)據(jù)安全風(fēng)險(xiǎn)。
例如,托管面向客戶的外部智能體助手的醫(yī)療保健提供商必須能夠檢測(cè)和響應(yīng)未認(rèn)證用戶嘗試訪問(wèn)敏感患者數(shù)據(jù)的行為。借助 DSPM for AI 中的這些新功能,數(shù)據(jù)安全團(tuán)隊(duì)現(xiàn)在可以識(shí)別這些交互,評(píng)估敏感數(shù)據(jù)的潛在暴露,并采取相應(yīng)行動(dòng)。此外,與 Microsoft Purview Audit 的集成為團(tuán)隊(duì)提供了無(wú)縫訪問(wèn)審計(jì)要求所需的信息。
▲ 獲取對(duì)所有 AI 技術(shù)交互的可見(jiàn)性,包括來(lái)自未認(rèn)證用戶的交互。
04| Microsoft Purview 數(shù)據(jù)丟失防護(hù)擴(kuò)展到更多 Microsoft 365 智能體場(chǎng)景
為了幫助組織防止通過(guò) AI 技術(shù)過(guò)度共享數(shù)據(jù),在微軟 Ignite 2024大會(huì)上,我們宣布數(shù)據(jù)安全管理員可以阻止智能 Microsoft 365 Copilot 副駕駛使用某些標(biāo)記的文檔作為基礎(chǔ)數(shù)據(jù)生成摘要或響應(yīng)。
此控件現(xiàn)在處于預(yù)覽階段,還將擴(kuò)展到基于Microsoft 365 數(shù)據(jù)發(fā)布的智能體,包括預(yù)構(gòu)建的 Microsoft 365智能體、使用 Agent Builder 構(gòu)建的智能體和使用 Microsoft Copilot Studio 構(gòu)建的智能體。這有助于確保包含敏感內(nèi)容的文件被 AI 智能體適當(dāng)使用。
例如,包含高度專業(yè)化語(yǔ)言的機(jī)密法律文件如果被 AI 智能體摘要可能會(huì)導(dǎo)致不當(dāng)指導(dǎo),或者“僅限內(nèi)部”的文檔不應(yīng)被用于生成可以在組織外部共享的內(nèi)容。
▲將數(shù)據(jù)丟失防護(hù)(DLP)策略擴(kuò)展到智能 Microsoft 365 Copilot 副駕駛智能體以保護(hù)敏感數(shù)據(jù)。
我們擴(kuò)展至 Agent Builder 和 Microsoft Copilot Studio 智能體的數(shù)據(jù)保護(hù)能力,展示了我們對(duì)加強(qiáng) Copilot 控制系統(tǒng)(CSS)的安全與治理支柱的持續(xù)投資。CCS 提供集成控件,幫助 IT 和安全團(tuán)隊(duì)保護(hù)、管理和監(jiān)控 Microsoft 365 中的智能Microsoft Copilot 副駕駛和智能體,涵蓋治理、管理和報(bào)告。
在 AI 技術(shù)快速發(fā)展的今天,確保 AI 技術(shù)全生命周期的安全防護(hù)已成為每個(gè)組織的關(guān)鍵任務(wù)。Microsoft Security 提供從代碼開(kāi)發(fā)到運(yùn)行維護(hù)的全方位安全工具與資源,幫助開(kāi)發(fā)者和安全團(tuán)隊(duì)持續(xù)抵御新興威脅,為 AI 模型、應(yīng)用和智能體構(gòu)建堅(jiān)固的安全防線。我們誠(chéng)摯邀請(qǐng)你深入了解這些解決方案,共同探索 AI 技術(shù)安全的最佳實(shí)踐,為企業(yè)的智能化轉(zhuǎn)型保駕護(hù)航。
*本文中介紹的智能Security Copilot副駕駛服務(wù)適用于國(guó)際版企業(yè)級(jí)服務(wù)。
[1]《2025年預(yù)測(cè):應(yīng)對(duì)迫在眉睫的AI安全挑戰(zhàn)》,作者:Jeremy D'Hoinne、Akif Khan、Manuel Acosta、Avivah Litan、Deepak Seth、Bart Willemsen,2025年2月10日發(fā)布。
[2] IBM《2024年數(shù)據(jù)泄露成本報(bào)告:金融行業(yè)》,IBM Think,2024年8月13日發(fā)布,原文鏈接:https://www.ibm.com/think/insights/cost-of-a-data-breach-2024-financial-industry;
Cser, Tamas《軟件開(kāi)發(fā)生命周期中后期發(fā)現(xiàn)缺陷的成本》,F(xiàn)unctionize,2023年1月5日發(fā)布,原文鏈接:
https://www.functionize.com/blog/the-cost-of-finding-bugs-later-in-the-sdlc
-
微軟
+關(guān)注
關(guān)注
4文章
6673瀏覽量
105386 -
AI
+關(guān)注
關(guān)注
87文章
34294瀏覽量
275481 -
Build
+關(guān)注
關(guān)注
0文章
28瀏覽量
12267 -
智能體
+關(guān)注
關(guān)注
1文章
267瀏覽量
10969 -
CoPilot
+關(guān)注
關(guān)注
1文章
53瀏覽量
6312
原文標(biāo)題:微軟 Build 2025:筑牢智能體時(shí)代的安全新防線
文章出處:【微信號(hào):mstech2014,微信公眾號(hào):微軟科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
微軟Build 2025大會(huì):Copilot Studio升級(jí),引領(lǐng)多智能體協(xié)作時(shí)代

筑牢智慧路燈網(wǎng)絡(luò)安全防線,為智慧城市發(fā)展保駕護(hù)航

Arm攜手微軟共筑云計(jì)算和PC未來(lái)
SAE 2025國(guó)際汽車安全大會(huì)圓滿收官
礦井作業(yè)必備!云翎智能煤礦井用防爆巡檢記錄儀筑牢安全生產(chǎn)防線

云翎智能國(guó)產(chǎn)單北斗電力巡檢執(zhí)法記錄儀,筑牢電力設(shè)施安全防線

宇視科技2025合作伙伴大會(huì)丨業(yè)內(nèi)首次提出“AIoT智能體”新理念

MediaTek舉辦天璣開(kāi)發(fā)者大會(huì)MDDC 2025,聯(lián)合產(chǎn)業(yè)伙伴加速智能體AI體驗(yàn)普及和發(fā)展
季豐嘉善量產(chǎn)測(cè)試廠無(wú)塵室為精密的芯片生產(chǎn)筑牢關(guān)鍵防線
“開(kāi)放·連接 ”2025玄鐵 RISC-V 生態(tài)大會(huì)議程公布!
AI智能體規(guī)模化應(yīng)用前夜:英偉達(dá)NeMo Guardrails筑牢安全防線
河道水位流量一體化在線監(jiān)測(cè)系統(tǒng):快速響應(yīng)水位變化,保障城市安全

小區(qū)電動(dòng)車充電樁消防設(shè)備整體方案:筑牢安全防線,守護(hù)綠色出行
賽思×廣東移動(dòng) | 賽思攜手國(guó)內(nèi)最大運(yùn)營(yíng)商省公司,筑牢超1.1億用戶移動(dòng)通信安全防線!

評(píng)論