Desempenho e imparcialidade do modelo

Este artigo descreve os métodos que você pode usar para entender o desempenho e a imparcialidade do modelo no Azure Machine Learning.

O que é a imparcialidade do aprendizado de máquina?

Os sistemas de inteligência artificial e de machine learning podem exibir um comportamento injusto. Uma forma de definir o comportamento parcial é analisar os danos ou o impacto nas pessoas. Há muitos tipos de danos que os sistemas de IA podem causar. Confira a palestra do NeurIPS de 2017 de Kate Crawford para saber mais.

Dois tipos comuns de danos causados pela IA são:

• Danos de alocação: um sistema de IA estende ou retém oportunidades, recursos ou informações de determinados grupos. Os exemplos incluem contratações, admissões em escolas e empréstimos em que um modelo pode ser melhor em escolher bons candidatos entre um grupo específico de pessoas do que entre outros grupos.

• Danos de qualidade de serviço: um sistema de IA não funciona tão bem para um grupo de pessoas como funciona para outro. Por exemplo, um sistema de reconhecimento de voz pode não funcionar tão bem para mulheres como funciona para homens.

Para reduzir o comportamento injusto em sistemas de IA, você precisa avaliar e atenuar esses danos. O componente de visão geral do modelo do painel de IA Responsável contribui para a fase de identificação do ciclo de vida do modelo gerando métricas de desempenho do modelo para todo o conjunto de dados e os coortes de dados identificados. Ele gera essas métricas entre subgrupos identificados em termos de recursos ou atributos sensíveis.

Neste componente do painel de IA Responsável, a imparcialidade é conceituada por meio de uma abordagem conhecida como imparcialidade de grupo. Essa abordagem pergunta: "Quais grupos de indivíduos correm risco de sofrer danos?". O termo recursos sensíveis sugere que o designer de sistema deve ser sensível a esses recursos ao avaliar a imparcialidade do grupo.

Durante a fase de avaliação, a imparcialidade é quantificada por meio de métricas de disparidade. Essas métricas podem avaliar e comparar o comportamento do modelo entre diferentes grupos como proporções ou diferenças. O painel de IA Responsável dá suporte a duas classes de métricas de disparidade:

• Disparidade no desempenho do modelo: esses conjuntos de métricas calculam a disparidade (diferença) nos valores da métrica de desempenho selecionada em diferentes subgrupos de dados. Veja alguns exemplos:

  • Disparidade na taxa de precisão
  • Disparidade na taxa de erro
  • Disparidade na precisão
  • Disparidade no recall
  • Disparidade no MAE (erro médio absoluto)

• Disparidade na taxa de seleção: essa métrica contém a diferença na taxa de seleção (previsão favorável) entre subgrupos diferentes. Um exemplo disso é a disparidade na taxa de aprovação de empréstimo. Taxa de seleção significa a fração de pontos de dados em cada classe classificada como 1 (em classificação binária) ou distribuição de valores de previsão (em regressão).

As funcionalidades de avaliação de imparcialidade desse componente vêm do pacote Fairlearn. O Fairlearn oferece uma coleção de métricas de avaliação de imparcialidade de modelo e algoritmos de mitigação de imparcialidade.

Restrições de paridade para mitigar a parcialidade

Depois de entender os problemas de imparcialidade do modelo, você poderá usar os algoritmos de mitigação no pacote Fairlearn de código aberto para mitigar esses problemas. Esses algoritmos dão suporte a um conjunto de restrições no comportamento do previsor chamado restrições de paridade ou critérios.

As restrições de paridade exigem que alguns aspectos do comportamento do previsor sejam comparáveis em todos os grupos que os recursos sensíveis definem (por exemplo, corridas diferentes). Os algoritmos de mitigação no pacote de software livre Fairlearn usam essas restrições de paridade para mitigar os problemas de imparcialidade observados.

O pacote Fairlearn dá suporte aos seguintes tipos de restrições de paridade:

Algoritmos de mitigação

O pacote Fairlearn de código aberto inclui dois tipos de algoritmos de mitigação de parcialidade:

• Redução: esses algoritmos usam um avaliador de machine learning de caixa preta padrão (por exemplo, um modelo de LightGBM) e geram um conjunto de modelos retreinados usando uma sequência de conjuntos de dados de treinamento reponderados.

  Por exemplo, é possível aumentar o diminuir o peso de candidatos de um determinado gênero para readaptar os modelos e reduzir as disparidades em diferentes grupos de gêneros. Os usuários podem escolher um modelo que forneça a melhor compensação entre precisão (ou outra métrica de desempenho) e disparidade, com base em regras de negócio e cálculos de custo.

• Pós-processamento: esses algoritmos usam um classificador existente e o recurso sensível como entrada. Depois, eles geram uma transformação da previsão do classificador para impor as restrições de imparcialidade especificadas. A maior vantagem de um algoritmo de pós-processamento, a otimização do limite, é a simplicidade e a flexibilidade, pois não é necessário retreinar o modelo.

Próximas etapas

• Saiba como gerar o Painel de IA responsável por meio da CLI e do SDK ou da interface do usuário do Estúdio do Azure Machine Learning.
• Explore a visão geral do modelo com suporte e as visualizações de avaliação de imparcialidade do painel de IA Responsável.
• Saiba como gerar um scorecard de IA responsável com base nos insights observados no dashboard de IA responsável.
• Saiba como usar os diferentes componentes conferindo o repositório do GitHub, o guia do usuário, exemplos e notebooks de exemplo do Fairlearn.