Yapay zekayı yönetme – Azure'da yapay zeka iş yüklerini yöneten kuruluşlara yönelik öneriler
Bu makalede yapay zeka iş yüklerini yönetmeye yönelik kuruluş süreci özetlenmiştir. NIST Yapay Zeka Risk Yönetimi Çerçevesi (AI RMF) ve NIST AI RMF Playbook'u izler. Ayrıca CAF İdaresi'ndeki çerçeveyle uyumludur.
Bu kılavuz, yapay zeka risk yönetimini daha geniş risk yönetimi stratejileriyle tümleştirmenize yardımcı olmayı amaçlar. Bu tümleştirme, birleşik bir idare yaklaşımı için yapay zeka, siber güvenlik ve gizlilik risklerinin daha uyumlu bir şekilde ele alınmasını sağlar.
Yapay zeka kurumsal risklerini değerlendirme
Yapay zeka risk değerlendirmesi, yapay zeka teknolojileri tarafından ortaya çıkabilecek riskleri tanımlar ve giderir. Bu işlem yapay zeka sistemlerine güven oluşturur ve istenmeyen sonuçları azaltır. Kurumsal riskleri ele almak, yapay zeka dağıtımlarının kuruluşun değerleri, risk toleransı ve operasyonel hedefleriyle uyumlu olmasını sağlar.
Yapay zeka iş yüklerini anlama. Yapay zeka risklerini azaltmak için yapay zeka iş yüklerinizi anlamanız gerekir. Her yapay zeka iş yükünün kapsamını ve amacını netleştirerek ilişkili riskleri eşleyebilirsiniz. Bu açıklama, yapay zeka iş yüküyle ilgili varsayımları ve sınırlamaları içermelidir.
Riskleri belirlemek için Sorumlu yapay zeka ilkelerini kullanın. Bu ilkeler, yapay zeka risklerini değerlendirmeye yönelik bir çerçeve sağlar. Yapay zeka ilkelerinin yapılandırılmış bir değerlendirmesiyle riskleri belirlemek ve azaltmak için aşağıdaki tabloyu kullanın.
Sorumlu yapay zeka ilkesi Tanım Risk değerlendirmesi sorusu Yapay Zeka Gizliliği ve Güvenliği Yapay zeka iş yükleri gizliliği dikkate almalı ve güvenli olmalıdır. Yapay zeka iş yükleri hassas verileri nasıl işleyebilir veya güvenlik ihlallerine karşı nasıl savunmasız hale gelebilir? Güvenilirlik ve Güvenlik Yapay zeka iş yükleri güvenli ve güvenilir bir şekilde çalışmalıdır. Yapay zeka iş yükleri hangi durumlarda güvenli bir şekilde çalışamaz veya güvenilir olmayan sonuçlar üretebilir? Eşitlik Yapay zeka iş yükleri insanlara adil davranmalıdır. Yapay zeka iş yükleri karar alma sürecinde eşit olmayan işleme veya istenmeyen sapmalara nasıl yol açabilir? Kapsayıcılık Yapay zeka iş yükleri kapsayıcı ve güçlendirici olmalıdır. Yapay zeka iş yüklerinin tasarımında veya dağıtımında belirli gruplar nasıl dışlanabilir veya dezavantajlı olabilir? Saydamlık Yapay zeka iş yükleri anlaşılabilir olmalıdır. Kullanıcıların yapay zeka karar verme sürecinin hangi yönlerini anlaması veya açıklaması zor olabilir? Hesap verilebilirlik Kişilerin yapay zeka iş yüklerinden sorumlu olması gerekir. Yapay zekanın geliştirilmesinde veya kullanımında sorumluluk nerede belirsiz veya zor olabilir? Yapay zeka risklerini belirleme. Olası veri ihlalleri, yetkisiz erişim veya kötüye kullanım dahil olmak üzere yapay zeka iş yüklerinin güvenlik risklerini değerlendirerek başlayın. Paydaşlara danışarak daha az görünür riskleri ortaya çıkarın ve kuruluşun risk toleransını belirlemek için itibar riskleri de dahil olmak üzere nitel ve nicel etkileri değerlendirin.
Dış bağımlılıkların risklerini belirleme. Üçüncü taraf veri kaynakları, yazılımlar ve tümleştirmelerle ilgili riskleri değerlendirin. Kurumsal gizlilik ve uyumluluk standartlarıyla uyumlu olmasını sağlayan ilkeler oluşturarak güvenlik açıkları, yanlılık ve fikri mülkiyet riskleri gibi sorunları giderin.
Tümleştirme risklerini değerlendirme. Yapay zeka iş yüklerinin mevcut iş yükleri ve süreçlerle tümleştirilmesini değerlendirin. Diğer iş yüklerine bağımlılık, artan karmaşıklık veya işlevselliği etkileyebilecek uyumsuzluklar gibi olası riskleri belgele.
Belge AI idare ilkeleri
Yapay zeka idare ilkeleri, sorumlu yapay zeka kullanımı için yapılandırılmış bir çerçeve sağlar. Bu ilkeler yapay zeka etkinliklerini etik standartlara, mevzuat gereksinimlerine ve iş hedeflerine uygun hale getirir. İlkeleri belgeleme, yapay zeka modellerini, verilerini ve işlemlerini yönetmeye yönelik açık yönergeler sağlar.
| Yapay zeka idare ilkesi alanı | Yapay zeka idare ilkesi önerileri |
|---|---|
| Modelleri seçme ve ekleme ilkeleri tanımlama | ▪ Yapay zeka modellerini seçmek için ilkeler oluşturun. İlkeler, kuruluş değerlerini, özelliklerini ve maliyet kısıtlamalarını karşılayan modelleri seçme ölçütlerini özetlemelidir. Olası modelleri risk toleransı ve hedeflenen görev gereksinimleriyle uyumlu hale getirmek için gözden geçirin. ▪ Yapılandırılmış ilkelerle yeni modeller ekleme. Model eklemeye yönelik resmi bir işlem, model gerekçelendirme, doğrulama ve onay açısından tutarlılığı korur. İlk denemeler için korumalı alan ortamlarını kullanın, ardından çoğaltmayı önlemek için üretim kataloğundaki modelleri doğrulayın ve gözden geçirin. |
| Üçüncü taraf araçları ve verileri kullanmak için ilkeler tanımlama | ▪ Üçüncü taraf araçları için denetimleri ayarlayın. Üçüncü taraf araçlar için inceleme işlemi güvenlik, uyumluluk ve hizalama risklerine karşı koruma sağlar. İlkeler, dış veri kümelerini kullanırken veri gizliliği, güvenlik ve etik standartlara yönelik yönergeler içermelidir. ▪ Veri duyarlılığı standartlarını tanımlama. Yapay zeka risklerini azaltmak için hassas ve genel verileri ayrı tutmak çok önemlidir. Veri işleme ve ayırma ile ilgili ilkeler oluşturun. ▪ Veri kalitesi standartlarını tanımlayın. "Altın veri kümesi", yapay zeka modeli testi ve değerlendirmesi için güvenilir bir karşılaştırma sağlar. Yüksek performans ve güvenilir çıkışlar sağlamak için veri tutarlılığı ve kalitesi için net ilkeler oluşturun. |
| Modelleri korumak ve izlemek için ilkeler tanımlama | ▪ Kullanım örneğine göre yeniden eğitme sıklığını belirtin. Sık sık yeniden eğitme, yüksek riskli yapay zeka iş yükleri için doğruluğu destekler. Özellikle sağlık ve finans gibi sektörler için her modelin kullanım örneğini ve risk düzeyini dikkate alan yönergeler tanımlayın. ▪ Performans düşüşünü izleyin. Zaman içindeki model performansını izleme, sorunları sonuçları etkilemeden önce algılamaya yardımcı olur. Karşılaştırmaları belgeleyin ve modelin performansı azalırsa yeniden eğitme veya gözden geçirme işlemi başlatın. |
| Mevzuat uyumluluğu için ilke tanımlama | ▪ Bölgesel yasal gereksinimlere uyun. Bölgesel yasaları anlamak, yapay zeka işlemlerinin konumlar arasında uyumlu kalmasını sağlar. Veri gizliliği yasaları, etik standartlar ve sektör düzenlemeleri gibi her dağıtım alanı için geçerli düzenlemeleri araştır. ▪ Bölgeye özgü ilkeler geliştirin. Yapay zeka ilkelerini bölgesel konulara uyarlamak, yerel standartlara uyumluluğu destekler. İlkeler dil desteğini, veri depolama protokollerini ve kültürel uyarlamaları içerebilir. ▪ Yapay zekayı bölgesel değişkenlik için uyarla. Yapay zeka iş yüklerindeki esneklik, konuma özgü işlevsellik ayarlamalarına olanak tanır. Genel operasyonlar için, yerelleştirilmiş eğitim verileri ve özellik kısıtlamaları gibi bölgeye özgü uyarlamaları belgeleyin. |
| Kullanıcı kullanım ilkeleri tanımlama | ▪ Kötüye kullanım için risk azaltma stratejilerini tanımlayın. Kötüye kullanımı önleme ilkeleri, kasıtlı veya kasıtsız zararlara karşı korunmaya yardımcı olur. Olası kötüye kullanım senaryolarını özetler ve kısıtlı işlevler veya yanlış kullanım algılama özellikleri gibi denetimleri birleştirir. ▪ Kullanıcı yürütme yönergelerini ayarlayın. Kullanıcı sözleşmeleri yapay zeka iş yüküyle etkileşim kurarken kabul edilebilir davranışları netleştirerek kötüye kullanım riskini azaltır. Standartları iletmek ve sorumlu yapay zeka etkileşimini desteklemek için açık kullanım koşullarını taslak olarak belirleyin. |
| Yapay zeka tümleştirme ve değiştirme ilkeleri tanımlama | ▪ Anahat tümleştirme ilkeleri. Tümleştirme yönergeleri, yapay zeka iş yüklerinin iş yükü arasında geçiş sırasında veri bütünlüğünü ve güvenliğini korumasını sağlar. Teknik gereksinimleri, veri paylaşım protokollerini ve güvenlik ölçülerini belirtin. ▪ Geçiş ve değiştirme için planlayın. Geçiş ilkeleri, eski işlemleri yapay zeka iş yükleriyle değiştirirken yapı sağlar. Değişiklik boyunca eski süreçleri, eğitim personelini ve izleme performansını kullanıma sunma adımlarını özetleyin. |
Yapay zeka idare ilkelerini zorunlu kılma
Yapay zeka idare ilkelerini zorunlu tutma, kuruluş içinde tutarlı ve etik yapay zeka uygulamaları sağlar. Otomatik araçlar ve el ile müdahaleler, dağıtımlar arasında ilkeye bağlı kalmayı destekler. Uygun uygulama, uyumluluğun korunmasına yardımcı olur ve insan hatalarını en aza indirir.
Mümkün olduğunda ilke zorlamayı otomatikleştirme yapay zeka dağıtımlarında ilkeleri otomatik olarak uygulamak için Azure İlkesi ve Microsoft Purview gibi platformları kullanın ve bu da insan hatasını azaltır. Otomasyonun ilkeye bağlılığı geliştirebileceği alanları düzenli olarak değerlendirin.
Yapay zeka ilkelerini el ile zorunlu kılma. Çalışanların yapay zeka idaresindeki rollerini anlamalarını sağlamak için yapay zeka riski ve uyumluluk eğitimi sağlayın. Düzenli atölyeler personeli yapay zeka ilkeleri konusunda güncel tutar ve düzenli denetimler, uyumu izlemeye ve iyileştirme alanlarını belirlemeye yardımcı olur.
İş yüküne özgü idare kılavuzlarını kullanın. Azure platform hizmetlerinde (PaaS) ve Azure altyapısında (IaaS) yapay zeka iş yükleri için ayrıntılı güvenlik kılavuzu sağlanır. Bu iş yükü türleri içindeki yapay zeka modellerini, kaynaklarını ve verilerini yönetmek için bu kılavuzu kullanın.
Yapay zeka kurumsal risklerini izleme
Yapay zeka risklerini izleme, kuruluşların yeni riskleri belirlemesine ve bunları hemen ele almalarına olanak tanır. Düzenli değerlendirmeler, yapay zeka iş yüklerinin beklendiği gibi çalıştığından emin olur. Tutarlı izleme, kuruluşların gelişen koşullara uyum sağlamasına ve yapay zeka sistemlerinden olumsuz etkileri önlemesine yardımcı olur.
Devam eden risk değerlendirmesi için yordamlar oluşturun. Yeni riskleri belirlemek için düzenli incelemeler ayarlayın ve paydaşları yapay zekanın daha geniş kapsamlı etkilerini değerlendirmeye alın. Risk yeniden değerlendirmesine ve gerekli ayarlamalara olanak sağlamak için ortaya çıkan sorunlar için bir yanıt planı geliştirin.
Bir ölçüm planı geliştirin. Net bir ölçüm planı tutarlı veri toplama ve analiz sağlar. İşletimsel ölçümler için otomatik günlük kaydı ve nitel geri bildirim için anketler gibi veri toplama yöntemlerini tanımlayın. Ölçümlerin sıklığını ve kapsamını belirleyin, yüksek riskli alanlara odaklanın ve paydaş girişlerine göre risk değerlendirmelerini iyileştirmek için geri bildirim döngüleri oluşturun.
Yapay zeka risklerini ölçme ve niteleme. İş yükünün amacına uygun nicel ölçümleri (hata oranları, doğruluk) ve nitel göstergeleri (kullanıcı geri bildirimi, etik endişeler) seçin. Yapay zekanın etkilerini, güvenilirliğini ve performansını izlemek için performansı sektör standartlarına göre karşılaştırın.
Belge ve rapor ölçümü sonuçları. Düzenli belgeler ve raporlar şeffaflığı ve sorumluluk düzeyini artırır. Karar alma sürecine yol göstermek için ölçümleri, bulguları ve anomalileri özetleyen standartlaştırılmış raporlar oluşturun. Bu içgörüleri paydaşlarla paylaşın ve bunları kullanarak risk azaltma stratejilerini geliştirin ve gelecekteki dağıtımları geliştirin.
Bağımsız gözden geçirme süreçleri oluşturun. Düzenli bağımsız incelemeler, dış veya istemsiz iç gözden geçirenleri kullanarak yapay zeka risklerinin ve uyumluluğunun objektif değerlendirmelerini sağlar. Risk değerlendirmelerini güçlendirmek ve idare ilkelerini iyileştirmek için bulguları kullanın.
Sonraki adım
Örnek yapay zeka risk azaltmaları
Aşağıdaki tabloda bazı yaygın yapay zeka riskleri listelenir ve her biri için bir azaltma stratejisi ve örnek ilke sağlanır. Tablo, eksiksiz bir risk kümesini listelemez.
| Risk Kimliği | Yapay zeka riski | Risk azaltma | İlke |
|---|---|---|---|
| R001 | Veri koruma yasalarıyla uyumsuzluk | Veri uyumluluğunu değerlendirmek için Microsoft Purview Uyumluluk Yöneticisi'ni kullanın. | Tüm yapay zeka geliştirme ve dağıtımlarının veri koruma yasalarına uygun olduğundan emin olmak için Güvenlik Geliştirme Yaşam Döngüsü uygulanmalıdır. |
| R005 | Yapay zeka karar alma sürecinde saydamlık eksikliği | Yapay zeka süreçlerinde ve karar alma süreçlerinde şeffaflığı geliştirmek için standartlaştırılmış bir çerçeve ve dil uygulayın. | NIST AI Risk Management Framework benimsenmeli ve tüm yapay zeka modellerinin şeffaflığını korumak için tüm yapay zeka modellerinin ayrıntılı bir şekilde belgelenmesi gerekir. |
| R006 | Yanlış tahminler | Doğruluk ve güvenilirlik sağlamak için Yapay Zeka modeli ölçümlerini izlemek için Azure API Management'ı kullanın. | Yapay zeka modeli tahminlerinin doğru olduğundan emin olmak için sürekli performans izleme ve insan geri bildirimi kullanılmalıdır. |
| R007 | Saldırgan saldırı | Yapay zeka iş yüklerini güvenlik açıklarına karşı test etmek ve savunmayı güçlendirmek için PyRIT kullanın. | Yapay zeka iş yüklerinin saldırgan saldırılara karşı güvenliğini sağlamak için Güvenlik Geliştirme Yaşam Döngüsü ve yapay zeka kırmızı ekip testi kullanılmalıdır. |
| R008 | Insider tehditleri | Gizli verilere içeriden erişimi sınırlamak üzere rollere ve grup üyeliklerine dayalı katı erişim denetimlerini zorunlu kılmak için Microsoft Entra Id kullanın. | İç tehditleri azaltmak için sıkı kimlik ve erişim yönetimi ve sürekli izleme kullanılmalıdır. |
| R009 | Beklenmeyen maliyetler | Verimli kaynak kullanımı sağlamak ve maliyet artışlarını önlemek için CPU, GPU, bellek ve depolama kullanımını izlemek için Microsoft Maliyet Yönetimi'ni kullanın. | Beklenmeyen maliyetleri yönetmek için kaynak kullanımını izleme ve iyileştirme ve maliyet taşmalarının otomatik olarak algılanması gerekir. |
| R010 | Yapay zeka kaynaklarının az kullanımı | Kullanımı iyileştirmek için istek oranları ve yanıt süreleri gibi yapay zeka hizmeti ölçümlerini izleyin. | Yapay zeka kaynak kullanımını iyileştirmek için performans ölçümleri ve otomatik ölçeklenebilirlik kullanılmalıdır. |