Sorumlu yapay zeka nedir?

  • Makale

ŞUNLAR IÇIN GEÇERLIDIR: Azure CLI ml uzantısı v2 (geçerli)Python SDK azure-ai-ml v2 (geçerli)

Sorumlu Yapay Zeka (Sorumlu Yapay Zeka), yapay zeka sistemlerini güvenli, güvenilir ve etik bir şekilde geliştirmeye, değerlendirmeye ve dağıtmaya yönelik bir yaklaşımdır. Yapay zeka sistemleri, bunları geliştiren ve dağıtanların verdiği birçok kararın ürünü. Sorumlu yapay zeka, sistem amacından insanların yapay zeka sistemleriyle etkileşim kurmasına kadar bu kararların daha faydalı ve eşitlikçi sonuçlara doğru proaktif bir şekilde yönlendirebilmesine yardımcı olabilir. Bu, insanları ve hedeflerini sistem tasarımı kararlarının merkezinde tutmak ve eşitlik, güvenilirlik ve şeffaflık gibi kalıcı değerlere saygı duyma anlamına gelir.

Microsoft, Sorumlu Yapay Zeka Standardı geliştirdi. Altı ilkeye göre yapay zeka sistemleri oluşturmaya yönelik bir çerçevedir: eşitlik, güvenilirlik ve güvenlik, gizlilik ve güvenlik, kapsayıcılık, saydamlık ve sorumluluk. Microsoft için bu ilkeler, özellikle akıllı teknoloji insanların her gün kullandığı ürün ve hizmetlerde daha yaygın hale geldikçe yapay zekaya yönelik sorumlu ve güvenilir bir yaklaşımın temel taşıdır.

Bu makalede, Azure Machine Learning'in geliştiricilerin ve veri bilimcilerinin altı ilkeyi uygulamasına ve kullanıma hazır hale getirmesine olanak sağlayan araçları nasıl desteklediği gösterilmektedir.

Eşitlik, güvenilirlik ve güvenlik, gizlilik ve güvenlik, kapsayıcılık, saydamlık ve sorumluluk gibi altı Microsoft Sorumlu yapay zeka ilkesinin diyagramı.

Eşitlik ve kapsayıcılık

Yapay zeka sistemlerinin herkese eşit davranması ve benzer konumlandırılmış kişi gruplarını farklı yollarla etkilemekten kaçınması gerekir. Örneğin, yapay zeka sistemleri tıbbi tedavi, kredi başvuruları veya istihdam konusunda rehberlik sağladığında benzer belirtilere, finansal koşullara veya profesyonel niteliklere sahip herkese aynı önerileri sunmalıdır.

Azure Machine Learning'de eşitlik ve kapsayıcılık: Sorumlu yapay zeka panosunun eşitlik değerlendirmesi bileşeni, veri bilimcilerinin ve geliştiricilerin cinsiyet, etnik köken, yaş ve diğer özellikler açısından tanımlanan hassas gruplar genelinde model eşitliğini değerlendirmesine olanak tanır.

Güvenilirlik ve güvenlik

Güven oluşturmak için yapay zeka sistemlerinin güvenilir, güvenli ve tutarlı bir şekilde çalışması kritik önem taşır. Bu sistemler ilk tasarlandıkları şekilde çalışabilmeli, beklenmeyen koşullara güvenle karşılık verebilmeli ve zararlı etkilere karşı koyabilmelidir. Nasıl davrandıkları ve işleyebilecekleri çeşitli koşullar, geliştiricilerin tasarım ve test sırasında tahmin ettikleri durum ve koşullar aralığını yansıtır.

Azure Machine Learning'de güvenilirlik ve güvenlik: Sorumlu yapay zeka panosunun hata analizi bileşeni, veri bilimciler ve geliştiricilerin şunları gerçekleştirmesini sağlar:

  • Bir model için hatanın nasıl dağıtıldığı hakkında ayrıntılı bilgi edinin.
  • Genel karşılaştırmadan daha yüksek hata oranına sahip veri kohortlarını (alt kümeleri) tanımlayın.

Bu tutarsızlıklar, sistem veya model belirli demografik gruplar veya eğitim verilerinde seyrek gözlemlenen giriş koşulları için yetersiz performans gösterdiğinde ortaya çıkabilir.

Saydamlık

Yapay zeka sistemleri, insanların yaşamları üzerinde çok büyük etkileri olan kararları bilgilendirmeye yardımcı olduğunda, insanların bu kararların nasıl alındığını anlaması kritik önem taşır. Örneğin, bir banka bir kişinin kredi değeri olup olmadığına karar vermek için yapay zeka sistemi kullanabilir. Bir şirket, işe alınabilecek en nitelikli adayları belirlemek için bir yapay zeka sistemi kullanabilir.

Saydamlığın önemli bir kısmı yorumlanabilirliktir: yapay zeka sistemlerinin ve bileşenlerinin davranışının yararlı açıklaması. Yorumlanabilirliği geliştirmek için paydaşların yapay zeka sistemlerinin nasıl ve neden çalıştıklarını anlamaları gerekir. Paydaşlar daha sonra olası performans sorunlarını, eşitlik sorunlarını, dışlayıcı uygulamaları veya istenmeyen sonuçları belirleyebilir.

Azure Machine Learning'de saydamlık: Sorumlu yapay zeka panosunun model yorumlanabilirliği ve karşıt durum bileşenleri, veri bilimcilerinin ve geliştiricilerin modelin tahminlerinin insan tarafından anlaşılabilen açıklamaları oluşturmasını sağlar.

Model yorumlanabilirliği bileşeni, modelin davranışına birden çok görünüm sağlar:

  • Genel açıklamalar. Örneğin, bir kredi ayırma modelinin genel davranışını hangi özellikler etkiler?
  • Yerel açıklamalar. Örneğin, bir müşterinin kredi başvurusu neden onaylandı veya reddedildi?
  • Seçili veri noktası kohortunun model açıklamaları. Örneğin, düşük gelirli başvuru sahipleri için kredi ayırma modelinin genel davranışını hangi özellikler etkiler?

Karşıt durum bileşeni, özellik değişikliklerine ve pertürbasyonlarına nasıl tepki verdiği açısından makine öğrenmesi modelinin anlaşılmasını ve hata ayıklamasını sağlar.

Azure Machine Learning, Sorumlu yapay zeka karnesi de destekler. Karne, geliştiricilerin veri kümeleri ve modelleri hakkında eğitmek, uyumluluk elde etmek ve güven oluşturmak için teknik ve teknik olmayan paydaşlarını kolayca yapılandırabileceği, oluşturabileceği, indirebileceği ve paylaşabileceği özelleştirilebilir bir PDF raporudur. Bu karne, makine öğrenmesi modellerinin özelliklerini ortaya çıkarmak için denetim incelemelerinde de kullanılabilir.

Gizlilik ve güvenlik

Yapay zeka daha yaygın hale geldikçe gizliliğin korunması, kişisel ve iş bilgilerinin güvenliğinin sağlanması daha önemli ve karmaşık hale gelmektedir. Yapay zeka ile, yapay zeka sistemlerinin kişiler hakkında doğru ve bilinçli tahminler ve kararlar vermesi için verilere erişim çok önemli olduğundan gizlilik ve veri güvenliği çok dikkat gerektirir. Yapay zeka sistemleri aşağıdaki gizlilik yasalarına uymalıdır:

  • Verilerin toplanması, kullanılması ve depolanması hakkında saydamlık gerektirir.
  • Tüketicilerin verilerinin nasıl kullanılacağını seçmek için uygun denetimlere sahip olmasını zorunlu kılın.

Azure Machine Learning'de gizlilik ve güvenlik: Azure Machine Learning, yöneticilerin ve geliştiricilerin şirket ilkelerine uygun güvenli bir yapılandırma oluşturmasına olanak tanır. Azure Machine Learning ve Azure platformu ile kullanıcılar şunları yapabilir:

  • Kullanıcı hesabına veya grubuna göre kaynaklara ve işlemlere erişimi kısıtlayın.
  • Gelen ve giden ağ iletişimlerini kısıtlayın.
  • Aktarımdaki ve bekleyen verileri şifreleyin.
  • Güvenlik açıklarını tarayın.
  • Yapılandırma ilkelerini uygulama ve denetleme.

Microsoft ayrıca, gizlilik ve güvenlik ilkelerinin daha fazla uygulanmasını sağlayabilen iki açık kaynak paketi de oluşturmuştur:

  • SmartNoise: Değişiklik gizliliği, bireylerin verilerini güvenli ve gizli tutmaya yardımcı olan bir dizi sistem ve uygulamadır. Makine öğrenmesi çözümlerinde mevzuat uyumluluğu için değişiklik gizliliği gerekebilir. SmartNoise, küresel olarak farklı özel sistemler oluşturmaya yönelik bileşenler içeren açık kaynaklı bir projedir (Microsoft tarafından birlikte geliştirilmiştir).

  • Counterfit: Counterfit, geliştiricilerin yapay zeka sistemlerine karşı siber saldırı simülasyonu yapmalarına olanak sağlayan bir komut satırı aracı ve genel otomasyon katmanından oluşan açık kaynak bir projedir. Herkes aracı indirebilir ve tarayıcıda çalıştırmak için Azure Cloud Shell aracılığıyla dağıtabilir veya anaconda Python ortamında yerel olarak dağıtabilir. Çeşitli bulut ortamlarında, şirket içinde veya uçta barındırılan yapay zeka modellerini değerlendirebilir. Araç yapay zeka modellerine karşı bağımsızdır ve metin, görüntü veya genel giriş gibi çeşitli veri türlerini destekler.

Hesap verilebilirlik

Yapay zeka sistemlerini tasarlayan ve dağıtan kişiler sistemlerinin çalışmasıyla ilgili sorumluluğu üstlenmelidir. Kuruluşlar sorumluluk normları geliştirmek için endüstri standartlarından yararlanmalıdır. Bu normlar, yapay zeka sistemlerinin insanların hayatını etkileyen herhangi bir karar üzerinde son yetkili olmamasını sağlayabilir. Ayrıca, insanların yüksek oranda otonom yapay zeka sistemleri üzerinde anlamlı bir denetime sahip olmasını da sağlayabilirler.

Azure Machine Learning'de sorumluluk: Makine öğrenmesi işlemleri (MLOps), yapay zeka iş akışlarının verimliliğini artıran DevOps ilkelerini ve uygulamalarını temel alır. Azure Machine Learning, yapay zeka sistemlerinizin daha iyi hesap vermesi için aşağıdaki MLOps özelliklerini sağlar:

  • Modelleri her yerden kaydedin, paketleyip dağıtın. Modeli kullanmak için gereken ilişkili meta verileri de izleyebilirsiniz.
  • Uçtan uca makine öğrenmesi yaşam döngüsü için idare verilerini yakalayın. Günlüğe kaydedilen köken bilgileri, modelleri kimin yayımladığını, değişikliklerin neden yapıldığını ve modellerin üretim ortamında ne zaman dağıtıldığını veya kullanıldığını içerebilir.
  • Makine öğrenmesi yaşam döngüsündeki olayları bilgilendirin ve uyarın. Deneme tamamlama, model kaydı, model dağıtımı ve veri kayması algılama örnekleri verilebilir.
  • Makine öğrenmesi ile ilgili operasyonel sorunlar ve sorunlar için uygulamaları izleyin. Eğitim ve çıkarım arasındaki model girişlerini karşılaştırın, modele özgü ölçümleri keşfedin ve makine öğrenmesi altyapınızda izleme ve uyarılar sağlayın.

MLOps özelliklerinin yanı sıra Azure Machine Learning'deki Sorumlu Yapay Zeka karnesi, paydaşlar arası iletişimleri etkinleştirerek sorumluluk oluşturur. Karne ayrıca geliştiricilerin yapay zeka verileri ve model durumu hakkında teknik ve teknik olmayan paydaşlarıyla model durumu içgörülerini yapılandırmalarına, indirmelerine ve paylaşmalarına olanak sağlayarak sorumluluk oluşturur. Bu içgörüleri paylaşmak güven oluşturmaya yardımcı olabilir.

Makine öğrenmesi platformu, aşağıdakiler aracılığıyla iş kararlarını bilgilendirerek karar almayı da sağlar:

  • Paydaşların yalnızca geçmiş verileri kullanarak bir sonuç üzerindeki nedensel işlem etkilerini anlamasına yardımcı olmak için veri odaklı içgörüler. Örneğin, "bir ilaç hastanın kan basıncını nasıl etkiler?" Bu içgörüler, Sorumlu yapay zeka panosunun nedensel çıkarım bileşeni aracılığıyla sağlanır.
  • Model temelli içgörüler, kullanıcıların eyleme geçebilmeleri için kullanıcıların sorularını (örneğin, "Bir dahaki sefere yapay zekanızdan farklı bir sonuç elde etmek için ne yapabilirim?") yanıtlamak için. Bu tür içgörüler, Sorumlu yapay zeka panosunun karşıt durum bileşeni aracılığıyla veri bilimciler için sağlanır.

Sonraki adımlar