作者：盧·阿德西達(dá)（LouAdesida）


隨著AI應(yīng)用進(jìn)入規(guī)模化部署，數(shù)據(jù)泄露、提示注入攻擊和智能體失控等風(fēng)險(xiǎn)，正威脅著企業(yè)的數(shù)字化轉(zhuǎn)型。在微軟Build 2025大會(huì)上，微軟宣布通過(guò)Microsoft Azure AI Foundry(國(guó)際版)、Microsoft Purview與Microsoft Defender的深度協(xié)同，構(gòu)建覆蓋開(kāi)發(fā)、部署、運(yùn)維全流程的智能體防護(hù)體系，為企業(yè)的智能化轉(zhuǎn)型保駕護(hù)航。

AI 技術(shù)領(lǐng)域的創(chuàng)新正以前所未有的速度發(fā)展，越來(lái)越多的 AI 應(yīng)用項(xiàng)目正從實(shí)驗(yàn)階段轉(zhuǎn)向部署階段，以推動(dòng)切實(shí)的業(yè)務(wù)影響。隨著組織通過(guò)自定義 AI 應(yīng)用和智能體加速創(chuàng)新，新的風(fēng)險(xiǎn)也出現(xiàn)在軟件開(kāi)發(fā)生命周期和 AI 技術(shù)棧中，涉及數(shù)據(jù)過(guò)度共享與泄露、新型漏洞與威脅，以及嚴(yán)格的監(jiān)管合規(guī)要求。

到了2025年，針對(duì)企業(yè) AI 應(yīng)用的惡意攻擊中，軟件供應(yīng)鏈和基礎(chǔ)設(shè)施技術(shù)棧投毒的占比將超過(guò)70%1，這凸顯了開(kāi)發(fā)早期階段可能存在的威脅。當(dāng)前數(shù)據(jù)泄露的平均成本為488萬(wàn)美元，但如果能在開(kāi)發(fā)過(guò)程中早期發(fā)現(xiàn)安全問(wèn)題，這一數(shù)字可大幅降至每起事件80美元2。

信息非常明確：安全問(wèn)題不能事后考慮。它必須成為整個(gè)組織的團(tuán)隊(duì)協(xié)作，從開(kāi)始就嵌入并貫穿整個(gè)開(kāi)發(fā)生命周期。因此，開(kāi)發(fā)者和安全團(tuán)隊(duì)需要在流程和工具上達(dá)成一致，將安全融入 AI 技術(shù)開(kāi)發(fā)生命周期的每個(gè)階段，并為安全從業(yè)者提供風(fēng)險(xiǎn)可見(jiàn)性和緩解能力。

為了應(yīng)對(duì)這些日益增長(zhǎng)的挑戰(zhàn)，并幫助客戶在開(kāi)發(fā)與安全團(tuán)隊(duì)間保護(hù)、治理 AI 技術(shù)工作負(fù)載，微軟正在：

賦能 Microsoft Azure AI Foundry (國(guó)際版)和 Microsoft Copilot Studio ，提供業(yè)界領(lǐng)先的基礎(chǔ)能力以保護(hù)和管理 AI 技術(shù)工作負(fù)載；

將 Microsoft Purview 、 Microsoft Defender 和 Microsoft Entra 的行業(yè)領(lǐng)先功能，深度集成并嵌入到 Microsoft Azure AI Foundry (國(guó)際版) 和 Microsoft Copilot Studio 中；

近期，3,000名開(kāi)發(fā)者齊聚西雅圖參加年度微軟Build大會(huì)，還有更多開(kāi)發(fā)人員在線參與學(xué)習(xí)，從而快速掌握 AI 應(yīng)用和智能體創(chuàng)新的實(shí)用技能。為了支持他們的 AI 技術(shù)創(chuàng)新之旅，我們很高興宣布多項(xiàng)新功能，幫助開(kāi)發(fā)者和組織來(lái)保護(hù)及治理 AI 應(yīng)用與智能體。

01

Microsoft Azure AI Foundry (國(guó)際版)

新基礎(chǔ)能力：構(gòu)建 AI 技術(shù)工作

負(fù)載的全生命周期防護(hù)

01|AI安全與防護(hù)增強(qiáng)：主動(dòng)防御體系升級(jí)

Microsoft Azure AI Foundry (國(guó)際版)已服務(wù)70,000家客戶，本季度處理100萬(wàn)億個(gè)token 并支持每日20億次企業(yè)搜索查詢。它已從單一應(yīng)用層發(fā)展為綜合性平臺(tái)，支持構(gòu)建具備規(guī)劃、執(zhí)行和學(xué)習(xí)能力的智能體，以達(dá)成實(shí)際業(yè)務(wù)目標(biāo)。

為助力組織安全構(gòu)建和部署 AI 應(yīng)用，我們?yōu)?Microsoft Azure AI Foundry (國(guó)際版)開(kāi)發(fā)者推出以下新防護(hù)能力：

?聚光功能（ Spotlighting ）：實(shí)時(shí)檢測(cè)并阻斷提示注入攻擊

隨著 AI 技術(shù)系統(tǒng)更多依賴外部數(shù)據(jù)源，間接提示注入攻擊這類新型威脅已開(kāi)始出現(xiàn)。此類攻擊通過(guò)在文檔、電子郵件和網(wǎng)頁(yè)中嵌入隱藏指令，誘使模型在無(wú)用戶直接輸入時(shí)執(zhí)行未授權(quán)操作。傳統(tǒng)過(guò)濾手段難以有效防御。

Microsoft Azure AI 內(nèi)容安全現(xiàn)推出聚光功能（預(yù)覽版），通過(guò)增強(qiáng)提示防護(hù)欄（Prompt Shields）的能力，檢測(cè)并阻斷潛在間接提示注入攻擊，防止模型執(zhí)行隱蔽惡意指令。

▲在 Microsoft Azure AI Content Safety 中啟用聚光功能，以檢測(cè)潛在的間接提示注入攻擊。

?智能體任務(wù)遵從性（預(yù)覽版）：確保智能體在既定范圍內(nèi)運(yùn)作

隨著開(kāi)發(fā)者構(gòu)建更強(qiáng)大的智能體，組織面臨越來(lái)越大的壓力來(lái)確保這些智能體在定義的指令和政策邊界內(nèi)運(yùn)作。即使微小偏差也可能導(dǎo)致工具誤用、工作流中斷或敏感數(shù)據(jù)意外暴露等風(fēng)險(xiǎn)。為此，Microsoft Azure AI Foundry (國(guó)際版)現(xiàn)包含智能體任務(wù)遵從性（預(yù)覽版），由兩個(gè)組件驅(qū)動(dòng)：實(shí)時(shí)評(píng)估和 Microsoft Azure AI Content Safety 中的新控制項(xiàng)。

Microsoft Azure AI Content Safety 中的實(shí)時(shí)任務(wù)遵從性評(píng)估 API是核心。該 API 通過(guò)分析用戶查詢、系統(tǒng)指令、計(jì)劃工具調(diào)用和智能體響應(yīng)，評(píng)估智能體行為是否符合分配任務(wù)。評(píng)估框架基于微軟智能體評(píng)估器構(gòu)建，可測(cè)量意圖解析度、工具選擇準(zhǔn)確性、響應(yīng)完整性和對(duì)原始請(qǐng)求的整體符合性。開(kāi)發(fā)者可使用 Microsoft Azure AI 評(píng)估 SDK 中的任務(wù)遵從性評(píng)估器在本地運(yùn)行評(píng)分邏輯，采用從完全不符合到完全符合的五級(jí)評(píng)分。這為團(tuán)隊(duì)提供了靈活透明的方式，在問(wèn)題影響下游前檢查任務(wù)級(jí)行為。

任務(wù)遵從性通過(guò) Microsoft Azure AI Content Safety中的新控制項(xiàng)執(zhí)行。如果智能體偏離任務(wù)，控制項(xiàng)可阻止工具使用、暫停執(zhí)行或觸發(fā)人工審核。在 Microsoft Azure AI 智能體服務(wù)中，該功能作為可選功能自動(dòng)運(yùn)行。結(jié)合實(shí)時(shí)評(píng)估，該控制項(xiàng)幫助確保智能體保持任務(wù)專注、遵循指令并按企業(yè)政策運(yùn)作。

? 持續(xù)評(píng)估與監(jiān)控：部署后智能體健康度實(shí)時(shí)追蹤

在部署后保持 AI 智能體的高性能和合規(guī)性，是一項(xiàng)日益嚴(yán)峻的挑戰(zhàn)。如果缺乏持續(xù)的監(jiān)督，性能下降、安全風(fēng)險(xiǎn)或資源無(wú)意濫用等問(wèn)題可能會(huì)被忽視。

Microsoft Azure AI Foundry (國(guó)際版)推出的智能體系統(tǒng)持續(xù)評(píng)估和監(jiān)控（預(yù)覽版），通過(guò)統(tǒng)一儀表板實(shí)時(shí)跟蹤性能、質(zhì)量、安全性和資源使用等關(guān)鍵指標(biāo)。持續(xù)評(píng)估以生產(chǎn)使用量的抽樣率運(yùn)行質(zhì)量和安全評(píng)估，結(jié)果在 Microsoft Azure AI Foundry (國(guó)際版)監(jiān)控儀表板顯示并發(fā)布至 Application Insights 。開(kāi)發(fā)者可設(shè)置警報(bào)檢測(cè)漂移或回歸，并使用 Microsoft Azure Monitor 獲得 AI 技術(shù)系統(tǒng)的全棧可見(jiàn)性。

例如，使用 AI 智能體處理客戶任務(wù)的組織可監(jiān)控?cái)?shù)據(jù)真實(shí)性，當(dāng)智能體開(kāi)始引用無(wú)關(guān)信息時(shí)檢測(cè)質(zhì)量下降，幫助團(tuán)隊(duì)在影響用戶信任前采取行動(dòng)。

02 | 合規(guī)評(píng)估自動(dòng)化：與 Purview / CredoAI / Saidot的深度集成

AI 技術(shù)法規(guī)和標(biāo)準(zhǔn)對(duì)高風(fēng)險(xiǎn) AI 技術(shù)系統(tǒng)提出了透明度、文檔管理和風(fēng)險(xiǎn)管理的新要求。開(kāi)發(fā)者在構(gòu)建 AI 應(yīng)用和智能體時(shí)，可能需要基于這些要求的風(fēng)險(xiǎn)評(píng)估指導(dǎo)工具，并與合規(guī)和風(fēng)險(xiǎn)團(tuán)隊(duì)無(wú)縫共享控制及評(píng)估洞察。

今天，我們宣布 Microsoft Azure AI Foundry (國(guó)際版)評(píng)估工具與合規(guī)管理解決方案Microsoft Purview 合規(guī)管理器及 AI 治理解決方案CredoAI和Saidot的集成預(yù)覽。這些集成幫助定義風(fēng)險(xiǎn)參數(shù)、運(yùn)行建議的合規(guī)評(píng)估，并為控制測(cè)試和審計(jì)收集證據(jù)。

例如，在歐洲構(gòu)建 AI 智能體的開(kāi)發(fā)者，可能需要合規(guī)團(tuán)隊(duì)完成數(shù)據(jù)保護(hù)影響評(píng)估（DPIA）和算法影響評(píng)估（AIA），以滿足內(nèi)部風(fēng)險(xiǎn)管理和技術(shù)文檔要求。基于 Microsoft Purview 合規(guī)管理器的分步控制實(shí)施和測(cè)試指南，合規(guī)團(tuán)隊(duì)可評(píng)估潛在偏見(jiàn)、網(wǎng)絡(luò)安全漏洞或模型行為缺乏透明度等風(fēng)險(xiǎn)。

在 Microsoft Azure AI Foundry (國(guó)際版)完成評(píng)估后，開(kāi)發(fā)者可獲得記錄風(fēng)險(xiǎn)、緩解措施和剩余風(fēng)險(xiǎn)的報(bào)告，供合規(guī)團(tuán)隊(duì)上傳至合規(guī)管理器以支持審計(jì)并向監(jiān)管機(jī)構(gòu)或外部利益相關(guān)方提供證據(jù)。

▲根據(jù)新興AI技術(shù)治理標(biāo)準(zhǔn)評(píng)估 Microsoft Azure AI Foundry (國(guó)際版)的控制措施。

02

微軟安全能力擴(kuò)展：

為 AI 應(yīng)用注入企業(yè)級(jí)控制

01|智能體身份治理：Microsoft Entra Agent ID 解決身份泛濫難題

組織正快速構(gòu)建自有 AI 智能體，導(dǎo)致智能體泛濫和集中化管理缺失。安全團(tuán)隊(duì)常疲于應(yīng)對(duì)，無(wú)法掌握現(xiàn)有智能體及其引入的安全或合規(guī)風(fēng)險(xiǎn)。如果沒(méi)有適當(dāng)?shù)谋O(jiān)督，智能體會(huì)擴(kuò)大攻擊面并增加非人類身份管理難度。

為此，我們宣布推出Microsoft Entra Agent ID（公開(kāi)預(yù)覽版），這是 Microsoft Entra管理中心的新功能，讓安全管理員對(duì) Microsoft Copilot Studio 和 Microsoft Azure AI Foundry (國(guó)際版)構(gòu)建的 AI 智能體獲得可見(jiàn)性和控制權(quán)。通過(guò)該功能，Microsoft Copilot Studio 或 Microsoft Azure AI Foundry (國(guó)際版)創(chuàng)建的智能體將自動(dòng)分配身份，無(wú)需開(kāi)發(fā)者額外工作。這是管理保護(hù)非人類身份的長(zhǎng)期計(jì)劃的第一步。

▲安全與身份管理員可在 Microsoft Entra 管理中心

查看 Microsoft Copilot Studio 和 Microsoft Azure AI Foundry (國(guó)際版)構(gòu)建的 AI 智能體。

這項(xiàng)新功能為即將登陸 Microsoft Entra 的進(jìn)階能力奠定了基礎(chǔ)。

我們深知，安全防護(hù)從來(lái)不是單打獨(dú)斗。在保護(hù) AI 智能體及其身份的新時(shí)代，協(xié)同合作尤為重要。兩周前，我們宣布支持 Agent-to-Agent（A2A）協(xié)議，并開(kāi)始與合作伙伴共同塑造 AI 身份工作流的未來(lái)。

我們更欣喜地宣布與 ServiceNow 和 Workday 達(dá)成全新合作。通過(guò)將 Microsoft Entra Agent ID 與 ServiceNow AI 平臺(tái)及 Workday 智能體記錄系統(tǒng)集成，未來(lái)可實(shí)現(xiàn)數(shù)字化員工身份的自動(dòng)化配置。

02|威脅防護(hù)直通開(kāi)發(fā)流程： Microsoft Defender 安全警報(bào)和建議已無(wú)縫集成至Microsoft Azure AI Foundry (國(guó)際版)

隨著更多 AI 應(yīng)用部署至生產(chǎn)環(huán)境，組織需要通過(guò)原生集成的安全控制措施來(lái)預(yù)測(cè)和防止?jié)撛诘?AI 技術(shù)威脅，這些控制由行業(yè)領(lǐng)先的生成式 AI 和威脅情報(bào)支持。開(kāi)發(fā)者需要安全團(tuán)隊(duì)的關(guān)鍵信號(hào)，以有效緩解 AI 應(yīng)用部署相關(guān)風(fēng)險(xiǎn)。

當(dāng)這些信號(hào)存在于開(kāi)發(fā)者體驗(yàn)之外的獨(dú)立系統(tǒng)時(shí)，可能導(dǎo)致緩解延遲，使 AI 應(yīng)用和智能體成為負(fù)擔(dān)，并暴露組織于各種威脅和違規(guī)風(fēng)險(xiǎn)。

Microsoft Defender for Cloud（預(yù)覽版）能夠直接將 AI 技術(shù)安全態(tài)勢(shì)管理建議和運(yùn)行時(shí)威脅防護(hù)警報(bào)，集成至 Microsoft Azure AI Foundry (國(guó)際版)門戶中。

這些功能作為更廣泛的 Microsoft Defender for Cloud 解決方案的一部分，現(xiàn)已原生擴(kuò)展至 Microsoft Azure AI Foundry (國(guó)際版)中，使開(kāi)發(fā)者無(wú)需離開(kāi)工作流即可訪問(wèn)警報(bào)和建議，實(shí)時(shí)查看安全風(fēng)險(xiǎn)、錯(cuò)誤配置和針對(duì)特定 Microsoft Azure AI 項(xiàng)目的主動(dòng)威脅，無(wú)需切換工具或等待安全團(tuán)隊(duì)提供詳細(xì)信息。

Microsoft Defender for Cloud 的安全洞察幫助開(kāi)發(fā)者識(shí)別和應(yīng)對(duì)越獄攻擊、敏感數(shù)據(jù)泄露和系統(tǒng)資源濫用等威脅，包括：

AI 技術(shù)安全態(tài)勢(shì)建議：識(shí)別 AI 技術(shù)服務(wù)中的錯(cuò)誤配置和漏洞并提供降險(xiǎn)最佳實(shí)踐

AI 技術(shù)服務(wù)威脅防護(hù)警報(bào)：通知開(kāi)發(fā)者主動(dòng)威脅并提供緩解指導(dǎo)，覆蓋超過(guò)15種檢測(cè)類型

例如，構(gòu)建 AI 智能體的開(kāi)發(fā)者可收到建議使用 Microsoft Azure Private Link 連接Microsoft Azure AI 服務(wù)資源，通過(guò) Microsoft Azure 主干網(wǎng)絡(luò)處理連接以降低數(shù)據(jù)泄露風(fēng)險(xiǎn)。每個(gè)建議包含可操作的修復(fù)步驟，幫助團(tuán)隊(duì)在部署前后階段識(shí)別和緩解風(fēng)險(xiǎn)。這有助于在不減慢創(chuàng)新速度的情況下，顯著降低風(fēng)險(xiǎn)。

▲ 開(kāi)發(fā)者可在 Microsoft Azure AI Foundry (國(guó)際版)的"風(fēng)險(xiǎn)+警報(bào)"頁(yè)面查看安全警報(bào)。

▲開(kāi)發(fā)者可在 Microsoft Azure AI Foundry (國(guó)際版)的"防護(hù)欄+控制"頁(yè)面查看建議。

該集成目前為預(yù)覽版，將于2025年6月在 Microsoft Azure AI Foundry (國(guó)際版)全面上市。

03

Microsoft Purview數(shù)據(jù)安全擴(kuò)展：保護(hù)和管理自定義 AI 應(yīng)用

與智能體中的數(shù)據(jù)

數(shù)據(jù)過(guò)度共享和泄露，是 AI 技術(shù)采用的主要擔(dān)憂，也是許多監(jiān)管要求的核心。為了讓組織自信地部署 AI 應(yīng)用和智能體，低代碼和專業(yè)開(kāi)發(fā)者都需要將安全合規(guī)控制無(wú)縫嵌入 AI 技術(shù)創(chuàng)作中。如果沒(méi)有簡(jiǎn)單、對(duì)開(kāi)發(fā)人員友好的解決方案，安全漏洞很快就會(huì)成為阻礙因素，從而在應(yīng)用程序從開(kāi)發(fā)轉(zhuǎn)移到生產(chǎn)環(huán)境時(shí)延遲部署并增加風(fēng)險(xiǎn)。

如今，Microsoft Purview 正在擴(kuò)展其企業(yè)級(jí)數(shù)據(jù)安全與合規(guī)能力，使低代碼和專業(yè)開(kāi)發(fā)者都能更輕松地將數(shù)據(jù)安全和合規(guī)集成到他們的 AI 應(yīng)用程序和智能體中，無(wú)論他們使用何種工具或平臺(tái)。

例如，通過(guò)本次更新，Microsoft Purview DSPM for AI 成為數(shù)據(jù)安全團(tuán)隊(duì)可以查看所有數(shù)據(jù)風(fēng)險(xiǎn)洞察的一站式平臺(tái)，涵蓋智能Microsoft 365 Copilot 副駕駛、通過(guò) Agent Builder 和 Microsoft Copilot Studio 構(gòu)建的智能體，以及在 Microsoft Azure AI Foundry (國(guó)際版)和其他平臺(tái)上構(gòu)建的自定義 AI 應(yīng)用和智能體。管理員可以輕松深入地查看特定 AI 應(yīng)用或智能體的安全和合規(guī)洞察，從而更輕松地調(diào)查潛在風(fēng)險(xiǎn)并采取行動(dòng)。

▲數(shù)據(jù)安全管理員現(xiàn)在可以在 Microsoft Purview DSPM for AI 中查看跨智能 Microsoft 365 Copilot 副駕駛、通過(guò) Agent Builder 和 Microsoft Copilot Studio 構(gòu)建的智能體，以及自定義 AI 應(yīng)用和智能體的數(shù)據(jù)安全與合規(guī)洞察。

在以下部分，我們將詳細(xì)介紹 Microsoft Purview 在各種 AI 技術(shù)工作負(fù)載中的能力更新。

01|Microsoft Purview 數(shù)據(jù)安全與合規(guī)控制，現(xiàn)在可以通過(guò)新的 Microsoft Purview SDK 或 Microsoft Purview 與 Microsoft Azure AI Foundry (國(guó)際版)的原生集成，擴(kuò)展到任何自定義構(gòu)建的 AI 應(yīng)用程序和智能體中。

這些新功能使安全團(tuán)隊(duì)能夠輕松地將目前適用于智能Microsoft 365 Copilot副駕駛的企業(yè)級(jí)數(shù)據(jù)安全合規(guī)控制，擴(kuò)展到自定義 AI 應(yīng)用程序和智能體，從而使組織能夠：

在 Microsoft Purview AI 數(shù)據(jù)安全態(tài)勢(shì)管理 (DSPM)中，發(fā)現(xiàn)數(shù)據(jù)安全風(fēng)險(xiǎn)（例如用戶提示中的敏感數(shù)據(jù)）和數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)（例如有害內(nèi)容），并獲取建議措施以主動(dòng)降低風(fēng)險(xiǎn)；

通過(guò) Microsoft Purview 數(shù)據(jù)安全策略保護(hù)敏感數(shù)據(jù)，防范數(shù)據(jù)泄露和內(nèi)部風(fēng)險(xiǎn)；

使用審計(jì)、數(shù)據(jù)生命周期管理、電子數(shù)據(jù)展示和通信合規(guī)功能管理 AI 應(yīng)用交互。

Microsoft Purview SDK

Microsoft Purview 現(xiàn)在提供 Purview SDK，這是一組 REST API、文檔和代碼示例（目前為預(yù)覽版），使開(kāi)發(fā)者能夠在任何集成開(kāi)發(fā)環(huán)境（IDE）中將 Microsoft Purview 的數(shù)據(jù)安全和合規(guī)能力集成到 AI 應(yīng)用程序或智能體中。

▲ 數(shù)通過(guò)將 Microsoft Purview API 嵌入 IDE，開(kāi)發(fā)者可以幫助確保其 AI 應(yīng)用在運(yùn)行時(shí)受到保護(hù)和治理。

例如，使用 AWS 模型構(gòu)建 AI 智能體的開(kāi)發(fā)者，可以在暴露給模型之前使用Microsoft Purview SDK使其 AI 應(yīng)用能夠自動(dòng)識(shí)別并阻止用戶輸入的敏感數(shù)據(jù)，同時(shí)為安全團(tuán)隊(duì)提供支持合規(guī)的有價(jià)值信號(hào)。

通過(guò) Microsoft Purview SDK，初創(chuàng)公司、獨(dú)立軟件供應(yīng)商（ISV）和合作伙伴現(xiàn)在可以將Microsoft Purview 行業(yè)領(lǐng)先的能力直接嵌入其 AI 應(yīng)用軟件解決方案中，使這些解決方案具備 Microsoft Purview 感知能力，并使其客戶更容易在 AI 技術(shù)解決方案中保護(hù)和治理數(shù)據(jù)。

例如，Infosys網(wǎng)絡(luò)安全實(shí)踐副總裁兼交付主管阿希什·阿德瓦里尤（Ashish Adhvaryu）表示：“Infosys Cyber Next 平臺(tái)集成 Microsoft Purview 以提供增強(qiáng)的 AI 技術(shù)安全能力。我們的解決方案是面向 SOC 分析師的 Cyber Next AI 助手（Cyber Advisor），它利用 Microsoft Purview SDK 通過(guò)實(shí)時(shí)監(jiān)控和審計(jì)能力，推動(dòng)主動(dòng)威脅緩解。這種集成提供了全面的 AI 技術(shù)輔助保護(hù)，增強(qiáng)了網(wǎng)絡(luò)安全態(tài)勢(shì)。”

微軟合作伙伴EY（安永）也利用新的 Microsoft Purview SDK，將 Microsoft Purview 的價(jià)值嵌入其生成式 AI 計(jì)劃中。EY創(chuàng)新與新興科技合作伙伴蘇曼塔·卡爾（Sumanta Kar）指出：“我們不僅在構(gòu)建 AI 工具，我們正在創(chuàng)建從一開(kāi)始就具備信任、安全性和透明度的智能體解決方案，這些特性通過(guò) Microsoft Purview SDK 提供的策略控制得到支持。在使用 Microsoft Purview SDK 構(gòu)建安全功能時(shí)，我們看到了25%到30%的時(shí)間節(jié)省。”

Microsoft Purview與Microsoft Azure AI Foundry (國(guó)際版)原生集成

組織平均開(kāi)發(fā)14個(gè)自定義 AI 應(yīng)用程序。而 AI 技術(shù)創(chuàng)新的快速步伐，可能使安全團(tuán)隊(duì)無(wú)法意識(shí)到其環(huán)境中的潛在數(shù)據(jù)安全和合規(guī)風(fēng)險(xiǎn)。

Microsoft Azure AI Foundry (國(guó)際版)信號(hào)現(xiàn)在直接與 Purview Data Security Posture Management for AI 、 Insider Risk Management 和數(shù)據(jù)合規(guī)控制集成，最大限度地減少了額外開(kāi)發(fā)工作的需求。

例如，對(duì)于使用 Microsoft Azure AI Foundry (國(guó)際版)模型構(gòu)建的 AI 應(yīng)用程序和智能體，數(shù)據(jù)安全團(tuán)隊(duì)可以在 Microsoft Purview DSPM for AI 中獲得 AI 技術(shù)使用情況和數(shù)據(jù)風(fēng)險(xiǎn)的可見(jiàn)性，而無(wú)需開(kāi)發(fā)人員進(jìn)行額外工作。數(shù)據(jù)安全團(tuán)隊(duì)還可以通過(guò) Microsoft Purview Insider Risk Management （IRM） 策略檢測(cè)、調(diào)查和響應(yīng)惡意和無(wú)意用戶活動(dòng)，例如離職員工利用 AI 智能體檢索異常數(shù)量的敏感數(shù)據(jù)。最后，Microsoft Azure AI 應(yīng)用和智能體中的用戶提示和 AI 技術(shù)響應(yīng)，現(xiàn)在可以如上所述被攝取到 Microsoft Purview 合規(guī)工具中。

02|Microsoft Purview 數(shù)據(jù)保護(hù)擴(kuò)展到基于 Microsoft Dataverse 數(shù)據(jù)的 Microsoft Copilot Studio 智能體

即將在6月推出的預(yù)覽版中，Microsoft Purview 信息保護(hù)將自動(dòng)標(biāo)記和標(biāo)簽繼承覆蓋范圍擴(kuò)展到 Dataverse ，以幫助防止過(guò)度共享和數(shù)據(jù)泄露。信息保護(hù)使組織能夠更輕松地大規(guī)模自動(dòng)分類和保護(hù)敏感數(shù)據(jù)。

一個(gè)常見(jiàn)的挑戰(zhàn)是敏感數(shù)據(jù)通常從各種來(lái)源進(jìn)入 Dataverse，但沒(méi)有一致的標(biāo)記或保護(hù)。如果數(shù)據(jù)沒(méi)有得到適當(dāng)保護(hù)，快速采用使用 Microsoft Copilot Studio 構(gòu)建并基于 Dataverse 數(shù)據(jù)的智能體，會(huì)增加數(shù)據(jù)過(guò)度共享和泄露的風(fēng)險(xiǎn)。

通過(guò)自動(dòng)標(biāo)記，存儲(chǔ)在 Dataverse 表中的數(shù)據(jù)可以根據(jù) Microsoft Purview 中設(shè)置的策略自動(dòng)標(biāo)記，無(wú)論其來(lái)源如何。這減少了手動(dòng)標(biāo)記的工作量，并在數(shù)據(jù)進(jìn)入 Dataverse 時(shí)立即保護(hù)敏感信息。

通過(guò)標(biāo)簽繼承，基于 Dataverse 數(shù)據(jù)的 AI 智能體響應(yīng)將自動(dòng)攜帶并遵循源數(shù)據(jù)的敏感度標(biāo)簽。如果響應(yīng)從具有不同標(biāo)簽的多個(gè)表中提取數(shù)據(jù)，則將應(yīng)用最嚴(yán)格的標(biāo)簽以確保一致的保護(hù)。

例如，在 Microsoft Copilot Studio 中構(gòu)建智能體的財(cái)務(wù)顧問(wèn)可能會(huì)連接多個(gè) Dataverse表，其中一些標(biāo)記為“普通”，另一些標(biāo)記為“高度機(jī)密”。如果響應(yīng)從兩者中提取數(shù)據(jù)，它將繼承最嚴(yán)格的標(biāo)簽，在本例中為“高度機(jī)密”，以防止未經(jīng)授權(quán)的訪問(wèn)，并確保對(duì)智能體的創(chuàng)建者和用戶都應(yīng)用適當(dāng)?shù)谋Ｗo(hù)。

總之， Dataverse 中的自動(dòng)標(biāo)記和標(biāo)簽繼承為 AI 技術(shù)提供了更安全、自動(dòng)化的基礎(chǔ)。

▲ 敏感度標(biāo)簽將自動(dòng)應(yīng)用于 Dataverse 中的數(shù)據(jù)。

▲ AI 技術(shù)生成的響應(yīng)將繼承并遵循源數(shù)據(jù)的敏感度標(biāo)簽。

03|Microsoft Purview DSPM for AI

現(xiàn)在可以提供對(duì)與 Microsoft Copilot Studio 智能體的未認(rèn)證交互的可見(jiàn)性

隨著組織越來(lái)越多地使用 Microsoft Copilot Studio 部署 AI 智能體以進(jìn)行一線客戶互動(dòng)，獲取對(duì)未認(rèn)證用戶交互的可見(jiàn)性并主動(dòng)緩解風(fēng)險(xiǎn)變得越來(lái)越重要。

基于現(xiàn)有的 Microsoft Purview 和 Microsoft Copilot Studio 集成，我們?cè)?Microsoft Copilot Studio 中擴(kuò)展了 DSPM for AI 和 Audit ，以提供對(duì)未經(jīng)身份驗(yàn)證的交互的可見(jiàn)性，現(xiàn)在提供預(yù)覽版。這使組織能夠更全面地了解跨認(rèn)證和未認(rèn)證用戶的 AI 技術(shù)相關(guān)數(shù)據(jù)安全風(fēng)險(xiǎn)。

例如，托管面向客戶的外部智能體助手的醫(yī)療保健提供商必須能夠檢測(cè)和響應(yīng)未認(rèn)證用戶嘗試訪問(wèn)敏感患者數(shù)據(jù)的行為。借助 DSPM for AI 中的這些新功能，數(shù)據(jù)安全團(tuán)隊(duì)現(xiàn)在可以識(shí)別這些交互，評(píng)估敏感數(shù)據(jù)的潛在暴露，并采取相應(yīng)行動(dòng)。此外，與 Microsoft Purview Audit 的集成為團(tuán)隊(duì)提供了無(wú)縫訪問(wèn)審計(jì)要求所需的信息。

▲ 獲取對(duì)所有 AI 技術(shù)交互的可見(jiàn)性，包括來(lái)自未認(rèn)證用戶的交互。

04| Microsoft Purview 數(shù)據(jù)丟失防護(hù)擴(kuò)展到更多 Microsoft 365 智能體場(chǎng)景

為了幫助組織防止通過(guò) AI 技術(shù)過(guò)度共享數(shù)據(jù)，在微軟 Ignite 2024大會(huì)上，我們宣布數(shù)據(jù)安全管理員可以阻止智能 Microsoft 365 Copilot 副駕駛使用某些標(biāo)記的文檔作為基礎(chǔ)數(shù)據(jù)生成摘要或響應(yīng)。

此控件現(xiàn)在處于預(yù)覽階段，還將擴(kuò)展到基于Microsoft 365 數(shù)據(jù)發(fā)布的智能體，包括預(yù)構(gòu)建的 Microsoft 365智能體、使用 Agent Builder 構(gòu)建的智能體和使用 Microsoft Copilot Studio 構(gòu)建的智能體。這有助于確保包含敏感內(nèi)容的文件被 AI 智能體適當(dāng)使用。

例如，包含高度專業(yè)化語(yǔ)言的機(jī)密法律文件如果被 AI 智能體摘要可能會(huì)導(dǎo)致不當(dāng)指導(dǎo)，或者“僅限內(nèi)部”的文檔不應(yīng)被用于生成可以在組織外部共享的內(nèi)容。

▲將數(shù)據(jù)丟失防護(hù)（DLP）策略擴(kuò)展到智能 Microsoft 365 Copilot 副駕駛智能體以保護(hù)敏感數(shù)據(jù)。

我們擴(kuò)展至 Agent Builder 和 Microsoft Copilot Studio 智能體的數(shù)據(jù)保護(hù)能力，展示了我們對(duì)加強(qiáng) Copilot 控制系統(tǒng)（CSS）的安全與治理支柱的持續(xù)投資。CCS 提供集成控件，幫助 IT 和安全團(tuán)隊(duì)保護(hù)、管理和監(jiān)控 Microsoft 365 中的智能Microsoft Copilot 副駕駛和智能體，涵蓋治理、管理和報(bào)告。

在 AI 技術(shù)快速發(fā)展的今天，確保 AI 技術(shù)全生命周期的安全防護(hù)已成為每個(gè)組織的關(guān)鍵任務(wù)。Microsoft Security 提供從代碼開(kāi)發(fā)到運(yùn)行維護(hù)的全方位安全工具與資源，幫助開(kāi)發(fā)者和安全團(tuán)隊(duì)持續(xù)抵御新興威脅，為 AI 模型、應(yīng)用和智能體構(gòu)建堅(jiān)固的安全防線。我們誠(chéng)摯邀請(qǐng)你深入了解這些解決方案，共同探索 AI 技術(shù)安全的最佳實(shí)踐，為企業(yè)的智能化轉(zhuǎn)型保駕護(hù)航。

*本文中介紹的智能Security Copilot副駕駛服務(wù)適用于國(guó)際版企業(yè)級(jí)服務(wù)。

[1]《2025年預(yù)測(cè)：應(yīng)對(duì)迫在眉睫的AI安全挑戰(zhàn)》，作者：Jeremy D'Hoinne、Akif Khan、Manuel Acosta、Avivah Litan、Deepak Seth、Bart Willemsen，2025年2月10日發(fā)布。

[2] IBM《2024年數(shù)據(jù)泄露成本報(bào)告：金融行業(yè)》，IBM Think，2024年8月13日發(fā)布，原文鏈接：https://www.ibm.com/think/insights/cost-of-a-data-breach-2024-financial-industry；

Cser, Tamas《軟件開(kāi)發(fā)生命周期中后期發(fā)現(xiàn)缺陷的成本》，F(xiàn)unctionize，2023年1月5日發(fā)布，原文鏈接：

https://www.functionize.com/blog/the-cost-of-finding-bugs-later-in-the-sdlc