你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。
AI 工作负载警报
本文列出了从 Microsoft Defender for Cloud 获取的 AI 工作负载以及启用的任何Microsoft Defender 计划的安全警报。 环境中显示的警报取决于要保护的资源和服务以及自定义的配置。
注意
某些最近添加的、由 Microsoft Defender 威胁智能和 Microsoft Defender for Endpoint 提供支持的警报可能未记录。
注意
来自不同源的警报可能在不同的时间后出现。 例如，需要分析网络流量的警报的出现时间，可能比虚拟机上运行的可疑进程的相关警报要晚一些。
AI 工作负荷警报
检测到 Azure OpenAI 模型部署上的凭据被盗尝试
（AI.Azure_CredentialTheftAttempt）
说明：凭据盗窃警报旨在当 GenAI 模型内检测到凭据时通知 SOC，以响应用户提示，指示潜在的泄露。 此警报对于检测凭据泄漏或盗窃案例至关重要，这对于生成 AI 来说是唯一的，如果成功，可能会产生严重后果。
MITRE 策略：凭据访问、横向移动、外泄
严重性：中等
Azure AI 内容安全提示防护阻止了对 Azure OpenAI 模型部署的越狱尝试
（AI.Azure_Jailbreak.ContentFiltering.BlockedAttempt）
说明：使用直接提示注入技术执行的越狱警报旨在通知 SOC，试图操纵系统提示以绕过生成 AI 的安全措施，可能访问敏感数据或特权功能。 它表示，Azure 负责任的 AI 内容安全（AKA Prompt Shields）阻止了此类尝试，确保 AI 资源和数据安全的完整性。
MITRE 策略：特权提升、防御规避
严重性：中等
Azure AI 内容安全提示盾检测到对 Azure OpenAI 模型部署的越狱尝试
（AI.Azure_Jailbreak.ContentFiltering.DetectedAttempt）
说明：使用直接提示注入技术执行的越狱警报旨在通知 SOC，试图操纵系统提示以绕过生成 AI 的安全措施，可能访问敏感数据或特权功能。 它表示，Azure 负责任的 AI 内容安全（AKA 提示盾牌）检测到此类尝试，但由于内容筛选设置或置信度低，未阻止此类尝试。
MITRE 策略：特权提升、防御规避
严重性：中等
Azure OpenAI 模型部署中检测到的敏感数据泄露
（AI.Azure_DataLeakInModelResponse.Sensitive）
说明：敏感数据泄露警报旨在通知 SOC，GenAI 模型使用敏感信息响应用户提示，这可能是由于恶意用户试图绕过生成 AI 的安全措施来访问未经授权的敏感数据。
MITRE 策略：集合
严重性：中等
注意
对于处于预览状态的警报：Azure 预览版补充条款包含适用于 beta 版、预览版或其他尚未正式发布的 Azure 功能的其他法律条款。