Azure'da yapay zeka iş yükleri için güvenlik önerileri

Bu makale, Azure'da yapay zeka iş yükleri çalıştıran kuruluşlar için güvenlik önerileri sunar. Azure AI Studio, Azure OpenAI, Azure Machine Learning ve Azure AI Services gibi Azure AI hizmet olarak platform (PaaS) çözümlerine odaklanır. Hem üretken hem de yaratıcı olmayan yapay zeka iş yüklerini kapsar.

Yapay zeka iş operasyonlarıyla daha tümleşik hale geldikçe, bu kaynakların olası tehditlerden korunması veri bütünlüğünü ve uyumluluğunu korumak için çok önemlidir. Standartlaştırılmış güvenlik temelleri uygulamak ve iyi tasarlanmış çerçeveler uygulamak, kuruluşların yapay zeka altyapılarını güvenlik açıklarına karşı korumalarına yardımcı olur.

Yapay zeka kaynaklarının güvenliğini sağlama

Yapay zeka kaynaklarının güvenliğini sağlamak, Azure'da yapay zeka iş yükleri için kullanılan altyapıyı korumak için güvenlik temelleri ve en iyi yöntemlerin uygulanması anlamına gelir. Bu koruma, dış tehditlere karşı riskleri en aza indirir ve kuruluş genelinde tutarlı bir güvenlik duruşu sağlar.

Azure AI platformlarının güvenliğini sağlama. Her yapay zeka kaynağı için Azure güvenlik temelleri uygulamasını standartlaştırın. Azure İyi Tasarlanmış Çerçeve içindeki Azure Hizmet Kılavuzları'ndaki güvenlik önerilerini izleyin.

Yapay zeka modellerinin güvenliğini sağlama

Yapay zeka modellerinin güvenliğini sağlamak tehdit koruması uygulamayı, istemi ekleme risklerini izlemeyi, model bütünlüğünü doğrulamayı ve idareyi merkezileştirmeyi ifade eder. Bu uygulamalar yapay zeka modellerinin kötü amaçlı işlemeye karşı güvende kalmasını, güvenilirliğini korumasını ve doğru sonuçlar sağlamasını sağlar.

• Tüm yapay zeka modelleri için tehdit koruması uygulayın. yapay zeka modellerini istem ekleme saldırıları ve model işleme gibi tehditlerden korumak için Bulut için Microsoft Defender kullanın. Bu araç, yapay zeka iş yüklerinin sürekli izlenmesini sağlayarak ortaya çıkan tehditleri algılamaya ve önlemeye yardımcı olur. Bu korumanın tüm iş yüklerinde uygulanması, kuruluş genelinde tutarlı bir güvenlik duruşu sağlar.

• Çıkışları izleyin ve istem korumasını uygulayın. Kötü amaçlı veya öngörülemeyen kullanıcı istemleriyle ilişkili riskleri algılamak ve azaltmak için yapay zeka modelleri tarafından döndürülen verileri düzenli olarak inceleyin. Üretici Al modellerinde kullanıcı girişi saldırısı riski için metin taramak için İstem Kalkanları uygulayın.

• Model doğrulamayı güvence altına alma. Kullanımda olan tüm yapay zeka modellerinin meşru ve güvenli olduğundan emin olmak için şirket genelinde doğrulama mekanizmaları oluşturun. Açık kaynak modeller kullanıyorsanız, yapay zeka modellerinin orijinalliğini onaylamak için model imzalarını veya diğer doğrulama işlemlerini kullanarak yetkisiz veya kurcalanmış modellerin dağıtılmasını önleyin.

• AI Gateway kullanmayı göz önünde bulundurun. Azure API Management (APIM), yapay zeka iş yüklerinde tutarlı bir güvenlik sağlamaya yardımcı olabilir. Trafik denetimi ve güvenlik zorlaması için yerleşik ilkelerini kullanın. Kimlik doğrulamasını ve yetkilendirmeyi merkezileştirmek ve yalnızca yetkili kullanıcıların veya uygulamaların yapay zeka modellerinizle etkileşimde olduğundan emin olmak için APIM'yi Microsoft Entra ID ile tümleştirin. Ters proxy'nin yönetilen kimliğinde en az ayrıcalık erişimi yapılandırdığınızdan emin olun. Daha fazla bilgi için bkz. APIM ile yapay zeka kimlik doğrulaması

Güvenli yapay zeka erişimi

Yapay zeka erişiminin güvenliğini sağlamak, hem yönetim düzlemi hem de yapay zeka kaynaklarına dış erişim için kimlik doğrulaması ve yetkilendirme denetimleri oluşturmayı içerir. Uygun erişim yönetimi, kaynak kullanımını yalnızca doğrulanmış izinlere sahip kullanıcılarla kısıtlar. Yapay zeka modelleriyle yetkisiz etkileşim olasılığını azaltır. Rol tabanlı erişim ve koşullu erişim ilkeleri gibi güçlü erişim denetimleri, hassas verilerin korunmasına ve güvenlik standartlarıyla uyumluluğun korunmasına yardımcı olur.

• Kaynakları ve erişim denetimlerini düzenleyin. Veri kümeleri, modeller ve denemeler gibi yapay zeka yapıtlarını düzenlemek ve yönetmek için farklı çalışma alanları kullanın. Çalışma alanları kaynak yönetimini merkezileştirir ve erişim denetimini basitleştirir. Örneğin, kaynakları ve izinleri verimli bir şekilde yönetmek ve güvenlik sınırlarını korurken işbirliğini kolaylaştırmak için Azure AI Studio içindeki projeleri kullanın.

• Kimlik doğrulaması için Microsoft Entra Id kullanın. Mümkün olduğunda, kimlik doğrulaması için Microsoft Entra Id'ye uygun statik API anahtarlarını ortadan kaldırın. Bu adım, merkezi kimlik yönetimi aracılığıyla güvenliği artırır ve gizli dizi yönetimi ek yükünü azaltır. Ayrıca API anahtarlarının dağıtımını sınırlayın. Bunun yerine, kimlik doğrulaması için API anahtarları yerine Microsoft Entra ID kimliklerini tercih edin. Geçerli olduğundan emin olmak için API anahtarı erişimine sahip kişilerin listesini kontrol edin. Kimlik doğrulama kılavuzu için bkz . Azure AI Studio, Azure OpenAI, Azure AI hizmetleri, Azure Machine Learning.

• Kimlik doğrulamayı yapılandırın. Çok faktörlü kimlik doğrulamasını (MFA) etkinleştirin ve hassas hesaplar için privileged Identity Management (PIM) ile ikincil yönetim hesaplarını veya tam zamanında erişimi tercih edin. Azure Bastion gibi hizmetleri özel ağlara güvenli giriş noktaları olarak kullanarak denetim düzlemi erişimini sınırlayın.

• Koşullu Erişim İlkeleri'ni kullanın. Olağan dışı oturum açma etkinliğine veya şüpheli davranışa yanıt veren risk tabanlı koşullu erişim ilkeleri uygulayın. Ek doğrulama adımlarını tetikleme amacıyla kullanıcı konumu, cihaz durumu ve oturum açma davranışı gibi sinyalleri kullanın. Güvenliği geliştirmek için kritik yapay zeka kaynaklarına erişmek için MFA gerektir. Coğrafi konumlara veya güvenilen IP aralıklarına göre yapay zeka altyapısına erişimi kısıtlayın. Yapay zeka kaynaklarına yalnızca uyumlu cihazların (güvenlik gereksinimlerini karşılayan cihazlar) erişebildiğinden emin olun.

• En az ayrıcalık erişimini yapılandırın. Verilere ve hizmetlere en az erişim sağlamak için rol tabanlı erişim denetimi (RBAC) uygulayarak en az ayrıcalık erişimini yapılandırın. Kullanıcılara ve gruplara sorumluluklarına göre roller atayın. Sanal makineler ve depolama hesapları gibi belirli kaynaklar için erişim denetiminde ince ayar yapmak için Azure RBAC kullanın. Kullanıcıların görevlerini gerçekleştirmek için gereken en düşük erişim düzeyine sahip olduğundan emin olun. Ayrıcalıkların yayılmasını önlemek için izinleri düzenli olarak gözden geçirin ve ayarlayın. Örneğin,

  Role	Örnek izinler
  Veri bilimcileri	Veri depolamaya okuma/yazma erişimi, eğitim işlerini çalıştırma izni ve model eğitim ortamlarına erişim.
  Yapay zeka geliştiricileri	Geliştirme ortamlarına erişim, dağıtım izinleri ve yapay zeka uygulamalarını değiştirme olanağı.
  BT yöneticileri	Altyapıyı, ağ yapılandırmalarını ve güvenlik ilkelerini yönetmek için tam erişim.

• Azure hizmet-hizmet etkileşimlerinin güvenliğini sağlama. Azure hizmetlerinin kimlik bilgilerini yönetmeden birbirleri için kimlik doğrulamasına izin vermek için yönetilen kimliği kullanın.

• Yapay zeka modeli uç noktalarına dış erişimin güvenliğini sağlama. İstemcilerin yapay zeka modeli uç noktalarına erişirken Microsoft Entra Id kullanarak kimlik doğrulaması gerçekleştirmesini zorunlu kılar. Erişim ilkelerini zorunlu kılmak, kullanımı denetlemek ve izleme özellikleri sağlamak için Yapay Zeka modeli uç noktalarının önünde Azure API Management'ı yapay zeka ağ geçidi olarak kullanmayı göz önünde bulundurun.

Güvenli yapay zeka yürütme

Yapay zeka yürütmenin güvenliğini sağlamak, sanal yardımcılar veya otonom aracılar gibi yapay zeka aracılarının kullanıcı isteklerine yanıt olarak kod çalıştırdığı işlemlerin korunmasını içerir. Yürütme ortamlarını yalıtın, kod incelemeleri yapın ve kaynak sınırlarını ayarlayın. Bu ölçüler, bu yürütmelerin sistem kararlılığını veya güvenliğini tehlikeye atmamasını sağlamaya yardımcı olur. Bu uygulamalar kötü amaçlı etkinlikleri önler ve yapay zeka aracılarının çalıştığı sistemlerin bütünlüğünü koruyarak güvenli bir çerçeve içinde güvenilir bir şekilde çalışmalarına olanak tanır.

• Yalıtım mekanizmaları uygulayın. Her kod yürütme işleminin kullanımdan sonra yok edilen yeni, yalıtılmış bir ortamda gerçekleşmesini sağlamak için Azure Container Apps'teki Dinamik Oturumlar gibi dinamik oturum yönetimini kullanın.

• Güvenli yürütme kodu. Yapay zeka aracıları tarafından yürütülmeye yönelik betikleri dağıtmadan önce kapsamlı kod incelemeleri ve test gerçekleştirin. Bu işlem olası güvenlik açıklarını belirlemeye ve azaltmaya yardımcı olur. Kod değişikliklerini yönetmek ve betiklerin yalnızca onaylı sürümlerinin yürütülmesini sağlamak için sürüm denetim sistemlerini kullanın.

• Kaynak sınırlarını uygulama. Tek bir yürütmenin aşırı kaynak kullanmasını ve diğer hizmetleri kesintiye uğratmasını önlemek için kod yürütme ortamları için kaynak sınırları (CPU, bellek, disk kullanımı) ayarlayın. Uzun süre çalışan veya takılmış olabilecek işlemlerin otomatik olarak sonlandırıldığından emin olmak için yürütme zaman aşımlarını tanımlayın.

Daha fazla bilgi için bkz . Azure OpenAI Hizmeti ile Yardımcı oluşturma, Azure OpenAI Yardımcıları işlevini çağırma ve Aracı uygulaması kullanma.

Sonraki adım