Yapay zeka iş yükleri için uyarılar (Önizleme)
Bu makalede, Bulut için Microsoft Defender yapay zeka iş yükleri ve etkinleştirdiğiniz tüm Microsoft Defender planları için alabileceğiniz güvenlik uyarıları listelenir. Ortamınızda gösterilen uyarılar, koruduğunuz kaynaklara ve hizmetlere ve özelleştirilmiş yapılandırmanıza bağlıdır.
Not
Microsoft Defender Tehdit Analizi ve Uç Nokta için Microsoft Defender tarafından desteklenen son eklenen uyarılardan bazıları belgelenmemiş olabilir.
Bu uyarılara nasıl yanıt vereceğinizi öğrenin.
Uyarıları dışarı aktarmayı öğrenin.
Not
Farklı kaynaklardan gelen uyarıların görünmesi farklı zaman alabilir. Örneğin, ağ trafiğinin analizini gerektiren uyarıların görünmesi, sanal makinelerde çalışan şüpheli işlemlerle ilgili uyarılardan daha uzun sürebilir.
Yapay zeka iş yükü uyarıları
Azure OpenAI modeli dağıtımında kimlik bilgisi hırsızlığı denemeleri algılandı
(AI. Azure_CredentialTheftAttempt)
Açıklama: Kimlik bilgisi hırsızlığı uyarısı, bir kullanıcı istemine verilen GenAI modeli yanıtlarında kimlik bilgileri algılandığında SOC'ye bildirimde bulunarak olası bir ihlal olduğunu göstermek üzere tasarlanmıştır. Bu uyarı, kimlik bilgisi sızıntısı veya hırsızlık durumlarını algılamak için çok önemlidir. Bu durum yapay zekaya özgüdür ve başarılı olursa ciddi sonuçlara yol açabilir.
MITRE taktikleri: Kimlik Bilgisi Erişimi, YanAl Hareket, Sızdırma
Önem Derecesi: Orta
Azure OpenAI model dağıtımında jailbreak girişimi, Azure AI İçerik Güvenliği İstem Kalkanları tarafından engellendi
(AI. Azure_Jailbreak.ContentFiltering.BlockedAttempt)
Açıklama: Doğrudan istem ekleme tekniği kullanılarak gerçekleştirilen Jailbreak uyarısı, soC'ye yapay zekanın korumalarını atlayarak hassas verilere veya ayrıcalıklı işlevlere erişme olasılığı olan sistem istemini değiştirme girişimi olduğunu bildirmek için tasarlanmıştır. Bu tür girişimlerin Azure Sorumlu Yapay Zeka İçerik Güvenliği (AKA prompt Shields) tarafından engellendiğini ve yapay zeka kaynaklarının ve veri güvenliğinin bütünlüğünü sağladığını belirtti.
MITRE taktikleri: Privilege Escalation, Defense Evasion
Önem Derecesi: Orta
Azure OpenAI model dağıtımında Jailbreak girişimi, Azure AI İçerik Güvenliği İstem Kalkanları tarafından algılandı
(AI. Azure_Jailbreak.ContentFiltering.DetectedAttempt)
Açıklama: Doğrudan istem ekleme tekniği kullanılarak gerçekleştirilen Jailbreak uyarısı, soC'ye yapay zekanın korumalarını atlayarak hassas verilere veya ayrıcalıklı işlevlere erişme olasılığı olan sistem istemini değiştirme girişimi olduğunu bildirmek için tasarlanmıştır. Bu tür girişimlerin Azure Sorumlu Yapay Zeka İçerik Güvenliği (AKA prompt Shields) tarafından algılandığını, ancak içerik filtreleme ayarları nedeniyle veya düşük güvenilirlik nedeniyle engellenmediğini belirtti.
MITRE taktikleri: Privilege Escalation, Defense Evasion
Önem Derecesi: Orta
Azure OpenAI Model Dağıtımında Hassas Veri Açığa Çıkarma Algılandı
(AI. Azure_DataLeakInModelResponse.Sensitive)
Açıklama: Hassas veri sızıntısı uyarısı, bir GenAI modelinin kullanıcı istemine hassas bilgilerle yanıt verdiğini, potansiyel olarak kötü amaçlı bir kullanıcının yetkisiz hassas verilere erişmek için yapay zekanın korumalarını atlamasından kaynaklandığını soC'ye bildirmek için tasarlanmıştır.
MITRE taktikleri: Koleksiyon
Önem Derecesi: Orta
Bozuk yapay zeka uygulaması\model\data, kullanıcıya kimlik avı girişimini yönlendirdi
(AI. Azure_PhishingContentInModelResponse)
Açıklama: Bu uyarı, kuruluş tarafından geliştirilen bir yapay zeka uygulamasının bozulmasını gösterir. Bunun nedeni, kimlik avı için kullanılan bilinen kötü amaçlı URL'yi bir kullanıcıyla etkin bir şekilde paylaşmasıdır. URL uygulamanın kendisinden, yapay zeka modelinden veya uygulamanın erişebileceği veriden kaynaklanır.
MITRE taktikleri: Etki (Yok Edici)
Önem Derecesi: Yüksek
Yapay zeka uygulamasında paylaşılan kimlik avı URL'si
(AI. Azure_PhishingContentInAIApplication)
Açıklama: Bu uyarı, yapay zeka uygulamasının bozulma olasılığını veya son kullanıcılardan birinin kimlik avı girişimini gösterir. Uyarı, kimlik avı için kullanılan kötü amaçlı bir URL'nin yapay zeka uygulaması aracılığıyla bir konuşma sırasında geçirildiğini belirler, ancak URL'nin (kullanıcı veya uygulama) kaynağı belirsizdir.
MITRE taktikleri: Etki (Yok Edici), Koleksiyon
Önem Derecesi: Yüksek
Yapay zeka uygulamasında kimlik avı girişimi algılandı
(AI. Azure_PhishingContentInUserPrompt)
Açıklama: Bu uyarı, bir kullanıcı tarafından bir yapay zeka uygulamasına kimlik avı saldırısı için kullanılan bir URL'nin gönderildiğini gösterir. İçerik genellikle ziyaretçileri kurumsal kimlik bilgilerini veya finansal bilgilerini meşru görünen bir web sitesine girmeye yönlendirir. Bunu bir yapay zeka uygulamasına göndermek, bunu bozmak, erişimi olan veri kaynaklarını zehirleme veya uygulamanın araçları aracılığıyla çalışanlara veya diğer müşterilere erişim kazanmak için olabilir.
MITRE taktikleri: Koleksiyon
Önem Derecesi: Yüksek
Not
Önizleme aşamasındaki uyarılar için: Azure Önizleme Ek Koşulları beta, önizleme veya başka bir şekilde genel kullanıma sunulmamış Azure özellikleri için geçerli olan ek yasal koşulları içerir.