YAML ve Python ile Sorumlu yapay zeka içgörüleri oluşturma

ŞUNLAR IÇIN GEÇERLIDIR: Azure CLI ml uzantısı v2 (geçerli)Python SDK azure-ai-ml v2 (geçerli)

Sorumlu yapay zeka bileşenlerini kullanarak bir işlem hattı işi aracılığıyla Sorumlu yapay zeka panosu ve karne oluşturabilirsiniz. Sorumlu AI panoları oluşturmaya yönelik birkaç yardımcı bileşen ile birlikte altı temel bileşen vardır. Örnek bir deneme grafı aşağıda verilmişti:

Sorumlu yapay zeka bileşenleri

Azure Machine Learning'de Sorumlu Yapay Zeka panosunu oluşturmak için temel bileşenler şunlardır:

• RAI Insights dashboard constructor
• Araç bileşenleri:
  • Add Explanation to RAI Insights dashboard
  • Add Causal to RAI Insights dashboard
  • Add Counterfactuals to RAI Insights dashboard
  • Add Error Analysis to RAI Insights dashboard
  • Gather RAI Insights dashboard
  • Gather RAI Insights score card

RAI Insights dashboard constructor ile Gather RAI Insights dashboard bileşenleri ve en az bir araç bileşeni her zaman gereklidir. Ancak, her Sorumlu yapay zeka panosundaki tüm araçları kullanmak gerekli değildir.

Aşağıdaki bölümlerde, YaML ve Python'da Sorumlu Yapay Zeka bileşenlerinin belirtimleri ve kod parçacıkları örnekleri verilmiştir.

Sınırlamalar

Geçerli bileşen kümesinin kullanımlarıyla ilgili birçok sınırlaması vardır:

• Tüm modellerin Azure Machine Learning'de MLflow biçiminde bir sklearn (scikit-learn) tadıyla kaydedilmesi gerekir.
• Modellerin bileşen ortamına yüklenebilmesi gerekir.
• Modeller turşulu olmalıdır.
• Modeller, sağladığımız bileşen kullanılarak Sorumlu yapay zeka bileşenlerine Fetch Registered Model sağlanmalıdır.
• Veri kümesi girişleri biçiminde olmalıdır mltable .
• Yalnızca verilerin nedensel analizi gerçekleştirilse bile bir model sağlanmalıdır. Bu amaçla scikit-learn'den ve DummyRegressor tahmin aracılarını kullanabilirsinizDummyClassifier.

R Yapay Zeka İçgörüleri pano oluşturucu

Bu bileşenin üç giriş bağlantı noktası vardır:

• Makine öğrenmesi modeli
• Eğitim veri kümesi
• Test veri kümesi

Hata analizi ve Model açıklamaları gibi bileşenlerle model hata ayıklama içgörüleri oluşturmak için modelinizi eğitirken kullandığınız eğitim ve test veri kümesini kullanın. Model gerektirmeyen nedensel analiz gibi bileşenler için, nedensel içgörüleri oluşturmak üzere nedensel modeli eğitmek için eğitim veri kümesini kullanırsınız. Sorumlu yapay zeka panosu görselleştirmelerinizi doldurmak için test veri kümesini kullanırsınız.

Modeli sağlamanın en kolay yolu, giriş modelini kaydetmek ve bu makalenin devamında ele aldığımız bileşenin RAI Insight Constructor model giriş bağlantı noktasına aynı modele başvurmaktır.

İki veri kümesinin biçiminde olması mltable gerekir. Sağlanan eğitim ve test veri kümelerinin modeli eğitmek için kullanılan veri kümeleri ile aynı olması gerekmez, ancak bunlar aynı olabilir. Varsayılan olarak, performans nedeniyle test veri kümesi görselleştirme kullanıcı arabiriminin 5.000 satırıyla sınırlıdır.

Oluşturucu bileşeni aşağıdaki parametreleri de kabul eder:

¹ Listeler , , classesfeature_metadata girişleri için categorical_column_namestek bir JSON ile kodlanmış dize olarak sağlanmalıdır.

Oluşturucu bileşeninin adlı rai_insights_dashboardtek bir çıkışı vardır. Bu, tek tek araç bileşenlerinin üzerinde çalıştığı boş bir panodur. Tüm sonuçlar sonunda bileşen tarafından Gather RAI Insights dashboard bir araya getirilir.

 create_rai_job: 

    type: command 
    component: azureml://registries/azureml/components/microsoft_azureml_rai_tabular_insight_constructor/versions/<get current version>
    inputs: 
      title: From YAML snippet 
      task_type: regression
      type: mlflow_model
      path: azureml:<registered_model_name>:<registered model version> 
      train_dataset: ${{parent.inputs.my_training_data}} 
      test_dataset: ${{parent.inputs.my_test_data}} 
      target_column_name: ${{parent.inputs.target_column_name}} 
      categorical_column_names: '["location", "style", "job title", "OS", "Employer", "IDE", "Programming language"]' 

# First load the component:

        rai_constructor_component = ml_client_registry.components.get(name="microsoft_azureml_rai_tabular_insight_constructor", label="latest")

#Then inside the pipeline:

            construct_job = rai_constructor_component( 
                title="From Python", 
                task_type="classification", 
                model_input= model_input= Input(type=AssetTypes.MLFLOW_MODEL, path="<azureml:model_name:model_id>"),
                train_dataset=train_data, 
                test_dataset=test_data, 
                target_column_name=target_column_name, 
                categorical_column_names='["location", "style", "job title", "OS", "Employer", "IDE", "Programming language"]', 
                maximum_rows_for_test_dataset=5000, 
                classes="[]", 
            ) 

R Yapay Zeka İçgörüleri panosuna Nedensel ekleme

Bu bileşen, sağlanan veri kümelerinde nedensel analiz gerçekleştirir. Çıkışını RAI Insights dashboard constructorkabul eden tek bir giriş bağlantı noktası vardır. Ayrıca aşağıdaki parametreleri kabul eder:

² Parametreler için list : Parametrelerin birkaçı diğer tür listelerini (dizeler, sayılar, hatta diğer listeler) kabul eder. Bunları bileşene geçirmek için önce JSON ile tek bir dizeye kodlanmış olmaları gerekir.

Bu bileşen, bileşenin giriş bağlantı noktalarından insight_[n] birine bağlanabilen tek bir çıkış bağlantı noktasına Gather RAI Insights Dashboard sahiptir.

  causal_01: 
    type: command 
    component: azureml://registries/azureml/components/microsoft_azureml_rai_tabular_causal/versions/<version>
    inputs: 
      rai_insights_dashboard: ${{parent.jobs.create_rai_job.outputs.rai_insights_dashboard}} 
      treatment_features: `["Number of GitHub repos contributed to", "YOE"]' 

#First load the component: 

        rai_causal_component = ml_client_registry.components.get(name="microsoft_azureml_rai_tabular_causal", label="latest")

#Use it inside a pipeline definition: 
            causal_job = rai_causal_component( 
                rai_insights_dashboard=construct_job.outputs.rai_insights_dashboard, 
                treatment_features='`["Number of GitHub repos contributed to", "YOE"]', 
            ) 

R Yapay Zeka İçgörüleri panosuna Counterfactuals ekleme

Bu bileşen, sağlanan test veri kümesi için karşıt noktalar oluşturur. R Yapay Zeka İçgörüleri pano oluşturucusunun çıkışını kabul eden tek bir giriş bağlantı noktası vardır. Ayrıca aşağıdaki parametreleri kabul eder:

³ Skaler olmayan parametreler için: Listeler veya sözlükler olan parametreler tek JSON ile kodlanmış dizeler olarak geçirilmelidir.

Bu bileşen, bileşenin giriş bağlantı noktalarından insight_[n] birine bağlanabilen tek bir çıkış bağlantı noktasına Gather RAI Insights dashboard sahiptir.

 counterfactual_01: 
    type: command 
    component: azureml://registries/azureml/components/microsoft_azureml_rai_tabular_counterfactual/versions/<version>
    inputs: 
      rai_insights_dashboard: ${{parent.jobs.create_rai_job.outputs.rai_insights_dashboard}} 
      total_CFs: 10 
      desired_range: "[5, 10]" 

#First load the component: 
        rai_counterfactual_component = ml_client_registry.components.get(name="microsoft_azureml_rai_tabular_counterfactual", label="latest")

#Use it in a pipeline function: 
            counterfactual_job = rai_counterfactual_component( 
                rai_insights_dashboard=create_rai_job.outputs.rai_insights_dashboard, 
                total_cfs=10, 
                desired_range="[5, 10]", 
            ) 

R Yapay Zeka İçgörüleri panosuna Hata Analizi ekleme

Bu bileşen model için bir hata analizi oluşturur. Çıkışını RAI Insights Dashboard Constructorkabul eden tek bir giriş bağlantı noktası vardır. Ayrıca aşağıdaki parametreleri kabul eder:

Bu bileşen, bileşenin giriş bağlantı noktalarından insight_[n] birine bağlanabilen tek bir çıkış bağlantı noktasına Gather RAI Insights Dashboard sahiptir.

  error_analysis_01: 
    type: command 
    component: azureml://registries/azureml/components/microsoft_azureml_rai_tabular_erroranalysis/versions/<version>
    inputs: 
      rai_insights_dashboard: ${{parent.jobs.create_rai_job.outputs.rai_insights_dashboard}} 
      filter_features: `["style", "Employer"]' 

#First load the component: 
        rai_erroranalysis_component = ml_client_registry.components.get(name="microsoft_azureml_rai_tabular_erroranalysis", label="latest")

#Use inside a pipeline: 
            erroranalysis_job = rai_erroranalysis_component( 
                rai_insights_dashboard=create_rai_job.outputs.rai_insights_dashboard, 
                filter_features='["style", "Employer"]', 
            ) 

R Yapay Zeka İçgörüleri panosuna Açıklama Ekle

Bu bileşen model için bir açıklama oluşturur. Çıkışını RAI Insights Dashboard Constructorkabul eden tek bir giriş bağlantı noktası vardır. Parametre olarak tek ve isteğe bağlı bir açıklama dizesini kabul eder.

Bu bileşenin, Toplama R Yapay Zeka İçgörüleri pano bileşeninin insight_[n] giriş bağlantı noktalarından birine bağlanabilen tek bir çıkış bağlantı noktası vardır.

  explain_01: 
    type: command 
    component: azureml://registries/azureml/components/microsoft_azureml_rai_tabular_explanation/versions/<version>
    inputs: 
      comment: My comment 
      rai_insights_dashboard: ${{parent.jobs.create_rai_job.outputs.rai_insights_dashboard}} 

#First load the component: 
        rai_explanation_component = ml_client_registry.components.get(name="microsoft_azureml_rai_tabular_explanation", label="latest"

#Use inside a pipeline: 
            explain_job = rai_explanation_component( 
                comment="My comment", 
                rai_insights_dashboard=create_rai_job.outputs.rai_insights_dashboard, 
            ) 

R Yapay Zeka İçgörüleri panosunu toplama

Bu bileşen, oluşturulan içgörüleri tek bir Sorumlu yapay zeka panosunda birleştirir. Beş giriş bağlantı noktası vardır:

• constructor R Yapay Zeka İçgörüleri pano oluşturucu bileşenine bağlanması gereken bağlantı noktası.
• Araç bileşenlerinin çıkışına bağlanabilen dört insight_[n] bağlantı noktası. Bu bağlantı noktalarından en az birinin bağlı olması gerekir.

İki çıkış bağlantı noktası vardır:

• Bağlantı dashboard noktası tamamlanmış RAIInsights nesneyi içerir.
• Bağlantı ux_json noktası, en düşük panoyu görüntülemek için gereken verileri içerir.

  gather_01: 
    type: command 
    component: azureml://registries/azureml/components/microsoft_azureml_rai_tabular_insight_gather/versions/<version>
    inputs: 
      constructor: ${{parent.jobs.create_rai_job.outputs.rai_insights_dashboard}} 
      insight_1: ${{parent.jobs.causal_01.outputs.causal}} 
      insight_2: ${{parent.jobs.counterfactual_01.outputs.counterfactual}} 
      insight_3: ${{parent.jobs.error_analysis_01.outputs.error_analysis}} 
      insight_4: ${{parent.jobs.explain_01.outputs.explanation}} 

#First load the component: 
        rai_gather_component = ml_client_registry.components.get(name="microsoft_azureml_rai_tabular_insight_gather", label="latest")
#Use in a pipeline: 
            rai_gather_job = rai_gather_component( 
                constructor=create_rai_job.outputs.rai_insights_dashboard, 
                insight_1=explain_job.outputs.explanation, 
                insight_2=causal_job.outputs.causal, 
                insight_3=counterfactual_job.outputs.counterfactual, 
                insight_4=erroranalysis_job.outputs.error_analysis, 
            ) 

Sorumlu yapay zeka karnesi oluşturma (önizleme)

Yapılandırma aşaması, model performansı ve eşitlik ölçümleri üzerinde istediğiniz hedef değerleri ayarlamak için sorun konusunda etki alanı uzmanlığınızı kullanmanızı gerektirir.

YAML işlem hattında yapılandırılan diğer Sorumlu Yapay Zeka panosu bileşenleri gibi, YAML işlem hattında karne oluşturmak için bir bileşen ekleyebilirsiniz:

scorecard_01: 

   type: command 
   component: azureml:rai_score_card@latest 
   inputs: 
     dashboard: ${{parent.jobs.gather_01.outputs.dashboard}} 
     pdf_generation_config: 
       type: uri_file 
       path: ./pdf_gen.json 
       mode: download 

     predefined_cohorts_json: 
       type: uri_file 
       path: ./cohorts.json 
       mode: download 

Burada pdf_gen.json puan kartı oluşturma yapılandırma json dosyasıdır ve önceden oluşturulmuş cohorts tanım json dosyasını predifined_cohorts_json kimliğidir.

Cohorts tanımı ve karne oluşturma yapılandırması için örnek bir JSON dosyası aşağıda verilmişti:

Kohort tanımı:

[ 
  { 
    "name": "High Yoe", 
    "cohort_filter_list": [ 
      { 
        "method": "greater", 
        "arg": [ 
          5 
        ], 
        "column": "YOE" 
      } 
    ] 
  }, 
  { 
    "name": "Low Yoe", 
    "cohort_filter_list": [ 
      { 
        "method": "less", 
        "arg": [ 
          6.5 
        ], 
        "column": "YOE" 
      } 
    ] 
  } 
] 

Aşağıda regresyon örneği olarak bir karne oluşturma yapılandırma dosyası verilmişti:

{ 
  "Model": { 
    "ModelName": "GPT-2 Access", 
    "ModelType": "Regression", 
    "ModelSummary": "This is a regression model to analyze how likely a programmer is given access to GPT-2" 
  }, 
  "Metrics": { 
    "mean_absolute_error": { 
      "threshold": "<=20" 
    }, 
    "mean_squared_error": {} 
  }, 
  "FeatureImportance": { 
    "top_n": 6 
  }, 
  "DataExplorer": { 
    "features": [ 
      "YOE", 
      "age" 
    ] 
  }, 
  "Fairness": {
    "metric": ["mean_squared_error"],
    "sensitive_features": ["YOUR SENSITIVE ATTRIBUTE"],
    "fairness_evaluation_kind": "difference OR ratio"
  },
  "Cohorts": [ 
    "High Yoe", 
    "Low Yoe" 
  ]  
} 

Sınıflandırma örneği olarak bir karne oluşturma yapılandırma dosyası aşağıda verilmişti:

{
  "Model": {
    "ModelName": "Housing Price Range Prediction",
    "ModelType": "Classification",
    "ModelSummary": "This model is a classifier that predicts whether the house will sell for more than the median price."
  },
  "Metrics" :{
    "accuracy_score": {
        "threshold": ">=0.85"
    },
  }
  "FeatureImportance": { 
    "top_n": 6 
  }, 
  "DataExplorer": { 
    "features": [ 
      "YearBuilt", 
      "OverallQual", 
      "GarageCars"
    ] 
  },
  "Fairness": {
    "metric": ["accuracy_score", "selection_rate"],
    "sensitive_features": ["YOUR SENSITIVE ATTRIBUTE"],
    "fairness_evaluation_kind": "difference OR ratio"
  }
}

Sorumlu AI karne bileşeni için girişlerin tanımı

Bu bölümde, Sorumlu AI karne bileşenini yapılandırmak için gereken parametreler listelenir ve tanımlanmıştır.

Model

Ölçümler

Eşik: Seçili ölçüm için istenen eşik. İzin verilen matematiksel belirteçler , <, >= ve <=m'dir >ve ardından gerçek bir sayı gelir. Örneğin= 0,75, >seçilen ölçümün hedefinin 0,75'ten büyük veya buna eşit olduğu anlamına gelir.

Özellik önemi

top_n: Gösterilecek özellik sayısı ve en fazla 10. 10'a kadar pozitif tamsayılara izin verilir.

Eşitlik

Karnenin eşitlik değerlendirme bileşeninizi yapılandırmak için aşağıdaki ölçümler fairness_evaluation_kindarasından öğesini seçebilirsiniz:

Giriş kısıtlamaları

Hangi model biçimleri ve tatlar desteklenir?

Modelin MLflow dizininde sklearn aroması bulunmalıdır. Ayrıca modelin Sorumlu yapay zeka bileşenleri tarafından kullanılan ortamda yüklenebilir olması gerekir.

Hangi veri biçimleri desteklenir?

Sağlanan veri kümeleri tablosal verilerle birlikte olmalıdır mltable .

Sonraki adımlar

• Sorumlu yapay zeka panonuzu oluşturduktan sonra Azure Machine Learning stüdyosu'de bu panoya nasıl erişip kullanacağınızı görüntüleyin.
• Sorumlu yapay zeka içgörülerinizi PDF dışarı aktarma olarak Sorumlu yapay zeka karnesiyle özetleyin ve paylaşın.
• Sorumlu yapay zeka panosunun arkasındaki kavramlar ve teknikler hakkında daha fazla bilgi edinin.
• Sorumlu bir şekilde veri toplama hakkında daha fazla bilgi edinin.
• YAML veya Python ile Sorumlu yapay zeka panosu oluşturmak için örnek YAML ve Python not defterlerini görüntüleyin.
• Bu teknoloji topluluğu blog gönderisinde veri ve modellerde hata ayıklamak ve daha iyi karar alma konusunda bilgi edinmek için Sorumlu yapay zeka panosunu ve karnesini kullanma hakkında daha fazla bilgi edinin.
• Sorumlu yapay zeka panosunun ve karnesinin Birleşik Krallık Ulusal Sistem Sağlığı Hizmeti (NHS) tarafından gerçek hayattaki müşteri hikayesinde nasıl kullanıldığı hakkında bilgi edinin.
• Bu etkileşimli yapay zeka laboratuvarı web tanıtımıyla Sorumlu yapay zeka panosunun özelliklerini keşfedin.