Entenda a IA responsável
Na Microsoft, o desenvolvimento de software de IA é orientado por um conjunto de seis princípios, concebido para garantir que as aplicações de IA fornecem soluções fantásticas para problemas difíceis sem consequências negativas acidentais.
Justiça
Os sistemas de IA devem tratar todas as pessoas de forma justa. Por exemplo, imagine que cria um modelo de machine learning para suportar uma candidatura de aprovação de empréstimo a um banco. O modelo deve prever se o empréstimo deve ser aprovado ou negado sem viés. Este enviesamento pode basear-se no género, etnia ou outros fatores que resultem numa vantagem ou desvantagem injusta para grupos específicos de candidatos.
O Azure Machine Learning inclui a capacidade de interpretar modelos e quantificar em que medida cada caraterística dos dados influencia a predição do modelo. Esta capacidade ajuda os cientistas de dados e programadores a identificar e mitigar tendências no modelo.
Outro exemplo é a implementação da IA Responsável com o serviço Face pela Microsoft, que aposenta recursos de reconhecimento facial que podem ser usados para tentar inferir estados emocionais e atributos de identidade. Estas capacidades, se utilizadas indevidamente, podem sujeitar as pessoas a estereótipos, discriminação ou negação injusta de serviços.
Para obter mais detalhes sobre as considerações de equidade, veja o vídeo seguinte.
Fiabilidade e segurança
Os sistemas de IA devem ser executados de forma fiável e segura. Por exemplo, considere um sistema de software baseado em IA para um veículo autónomo ou um modelo de machine learning que diagnostica os sintomas dos pacientes e recomenda prescrições. A falta de fiabilidade neste tipo de sistemas pode resultar num risco substancial para a vida humana.
O desenvolvimento de aplicações de software baseado em IA tem de ser sujeito a processos rigorosos de gestão de implementação e teste para garantir que funcionam conforme esperado antes do lançamento.
Para obter mais informações sobre considerações de fiabilidade e segurança, veja o vídeo seguinte.
Privacidade e segurança
Os sistemas de IA devem ser seguros e respeitar a privacidade. Os modelos de machine learning nos quais os sistemas de IA se baseiam dependem de grandes volumes de dados, que podem conter dados pessoais que têm de ser mantidos em privado. Mesmo depois que os modelos são treinados e o sistema está em produção, a privacidade e a segurança precisam ser consideradas. Como o sistema usa novos dados para fazer previsões ou tomar medidas, tanto os dados quanto as decisões tomadas a partir dos dados podem estar sujeitos a preocupações de privacidade ou segurança.
Para obter mais detalhes sobre as considerações de privacidade e segurança, veja o vídeo seguinte.
Inclusão
Os sistemas de IA devem capacitar todas as pessoas e interagir com as pessoas. A IA deve trazer benefícios para toda a sociedade, independentemente da capacidade física, sexo, orientação sexual, etnia ou outros fatores.
Para obter mais detalhes sobre as considerações de inclusão, veja o vídeo seguinte.
Transparency
Os sistemas de IA devem ser compreensíveis. Os utilizadores devem saber a finalidade do sistema, como funciona e quais as limitações esperadas.
Para obter mais detalhes sobre as considerações de transparência, veja o vídeo seguinte.
Responsabilidade
As pessoas devem ser responsáveis pelos sistemas de IA. Designers e desenvolvedores de soluções baseadas em IA devem trabalhar dentro de uma estrutura de governança e princípios organizacionais que garantam que a solução atenda a padrões éticos e legais claramente definidos.
Para obter mais detalhes sobre as considerações de responsabilidade, veja o vídeo seguinte.
Os princípios da IA responsável podem ajudar a compreender alguns dos desafios enfrentados pelos programadores à medida que tentam criar soluções éticas de IA.
Mais recursos
Para obter mais recursos para colocar os princípios de IA responsável em prática, veja https://www.microsoft.com/ai/responsible-ai-resources.
Para ver essas políticas em ação, você pode ler sobre a estrutura da Microsoft para criar sistemas de IA de forma responsável.