Adote princípios de IA responsáveis e confiáveis

Os seis princípios-chave para uma IA responsável na Microsoft incluem equidade, fiabilidade e segurança, privacidade e segurança, inclusão, transparência e responsabilização. Use esses princípios para criar IA responsável e confiável à medida que você a integra em produtos e serviços convencionais ao longo de sua jornada de adoção de IA.

Princípios de IA responsável

A Microsoft compromete-se a capacitar práticas responsáveis de IA.

Seis princípios-chave definem IA responsável:

• Equidade: os sistemas de IA devem tratar todos de forma igual e fornecer as mesmas recomendações a todos os indivíduos. A equidade nos sistemas de IA evita a discriminação com base em características pessoais.

• Fiabilidade e segurança: Os sistemas de IA devem funcionar de forma fiável, segura e consistente sob várias condições para ajudar a criar confiança.

• Privacidade e segurança: os sistemas de IA devem respeitar a privacidade e manter a segurança, protegendo informações privadas e confidenciais. Eles também devem resistir a ataques e tentativas de corromper ou comprometer o sistema.

• Inclusão: os sistemas de IA devem capacitar e envolver todos. Práticas de design inclusivas podem ajudar os desenvolvedores de sistemas de IA a entender e abordar possíveis barreiras de exclusão em um produto ou serviço. A inclusão fomenta a inovação e ajuda a projetar experiências que beneficiam a todos.

• Transparência: os sistemas de IA devem ser transparentes e compreensíveis. Os sistemas de IA podem informar decisões que podem afetar profundamente a vida das pessoas, por isso é crucial que os indivíduos entendam como o sistema toma essas decisões.

• Responsabilização: os sistemas de IA e os seus criadores devem ser responsabilizados e responsabilizados.

Incorpore princípios de IA responsáveis em toda a sua jornada de adoção de IA, desde a estratégia e planejamento até a implementação. Certifique-se de aplicar esses princípios ao proteger, gerenciar e governar suas iniciativas de IA.

Estas diretrizes de adoção de IA incluem exemplos de como você pode usar a Estrutura de Adoção de Nuvem para Azure para implementar práticas de IA responsáveis. Os princípios da IA responsável são integrados nas orientações e recomendações ao longo desta jornada de adoção da IA.

A importância de uma IA responsável

A IA responsável ajuda a mitigar os seguintes riscos:

• Consequências não intencionais: planeje e supervisione sua implementação responsável de IA para reduzir o risco de efeitos imprevistos que tenham implicações éticas.

• Ameaças em evolução: Novas ameaças surgem regularmente à medida que a tecnologia de IA evolui. Para ajudar a mitigar e ficar à frente dessas ameaças, siga os princípios da IA responsável.

• Enviesamento: A mitigação de enviesamentos na IA pode ser um desafio, mas é necessária para garantir que os sistemas de IA são justos e imparciais. Use os princípios de IA responsável para ajudar a guiá-lo.

• Tecnologias sensíveis: Tecnologias como o reconhecimento facial podem ser consideradas tecnologias sensíveis devido ao risco para as liberdades fundamentais e os direitos humanos. Considere as implicações dessas tecnologias para garantir que você as use de forma responsável.

Facilitação do Azure

O Microsoft Azure fornece uma variedade de ferramentas, serviços e recursos para ajudá-lo a criar sistemas de IA responsáveis.

Usar a Segurança de Conteúdo de IA do Microsoft Azure para criar sistemas seguros

Use o Microsoft Azure AI Content Safety para detetar conteúdo prejudicial gerado pelo usuário e gerado por IA em aplicativos e serviços. A Segurança de Conteúdo ajuda você a analisar o conteúdo gerado em seus aplicativos de IA, incluindo texto e imagens, para garantir que seja seguro e apropriado para seus usuários. A Segurança de Conteúdo fornece os seguintes recursos:

• O Prompt protege o texto e os documentos quanto ao risco de um ataque de entrada do usuário, ou jailbreak, em um modelo de linguagem grande (LLM).

• A deteção de aterramento deteta se as respostas de texto de um LLM estão fundamentadas nos materiais de origem fornecidos pelos usuários.

• A deteção de material protegido deteta se as respostas de texto de um LLM contêm material protegido, como texto protegido por direitos autorais, letras de músicas, artigos e conteúdo da Web.

• A API de categorias personalizadas (rápida) define padrões emergentes de conteúdo prejudicial e verifica texto e imagens em busca de correspondências.

• A API Analisar texto analisa conteúdo de texto potencialmente prejudicial. Normalmente, identifica categorias como ódio, automutilação e conteúdo sexual ou violento.

• A API Analyze Image analisa o potencial conteúdo de imagem prejudicial. Normalmente, identifica categorias como ódio, automutilação e conteúdo sexual ou violento.

Use a IA de forma responsável nos serviços de IA do Azure

A Microsoft fornece uma lista de notas de transparência para serviços do Azure relevantes para IA. A lista inclui serviços dentro do pacote de serviços de IA do Azure. Para obter mais informações, consulte Uso responsável da IA com os serviços de IA do Azure.

Usar o painel de IA responsável para o Azure Machine Learning

Se você criar sistemas com o Azure Machine Learning, poderá usar o painel de IA responsável para avaliar seus sistemas de IA. O painel de IA responsável fornece uma interface única para ajudá-lo a implementar princípios de IA responsável. Alguns dos recursos de IA responsável incluem:

• Análise de dados: compreenda e explore suas distribuições e estatísticas de conjuntos de dados.

• Visão geral do modelo e avaliação de equidade: avalie o desempenho do seu modelo e os problemas de equidade de grupo do seu modelo.

• Análise de erros: visualize e entenda como os erros são distribuídos em seu conjunto de dados.

• Interpretabilidade do modelo: entenda as previsões do seu modelo e como ele faz previsões individuais e gerais.

• Análise hipotética contrafactual: observe como as alterações nos recursos podem afetar as previsões do modelo.

• Análise causal: Use dados históricos para visualizar os efeitos causais das características do tratamento nos resultados do mundo real.

Desenvolva a IA de forma responsável

Próximo passo