Criar um sistema para governança de IA
Cada organização tem seus próprios princípios orientadores, mas, em última análise, esses princípios precisam fazer parte de uma estratégia mais ampla de uso responsável de IA para serem eficazes. Essa estratégia deve englobar como sua organização dá vida a esses princípios internamente e além dela.
Recomendamos o estabelecimento de um sistema de governança que seja adaptado às características exclusivas, à cultura, aos princípios orientadores e ao nível de envolvimento com a IA de sua organização. As tarefas do quadro devem incluir a criação de políticas e medidas de IA responsável; verificação de que elas estão sendo seguidas e garantia de conformidade.
Para ajudar sua organização a começar a implementar essa prática, fornecemos uma visão geral das três abordagens de governança comuns: contratação de um Diretor de Ética, estabelecimento de um departamento de ética e formação de um comitê de ética. A primeira abordagem é centralizada e as outras são descentralizadas. Todos eles têm seus benefícios, mas recomendamos combiná-los em uma abordagem híbrida. Um sistema de governança que se reporta ao conselho de administração e tem suporte financeiro, recursos humanos e autoridade é mais propenso a criar mudanças reais em toda a organização.
Diretor de Ética
As organizações costumam optar por consolidar suas iniciativas de ética indicando um Diretor de Ética. Essa opção tem a vantagem da tomada de decisão centralizada, então permite que as organizações desenvolvam rapidamente políticas referentes à ética, garantindo que haja responsabilidade para cada decisão. A contratação dessa função voltada ao público também pode ser uma maneira efetiva de apresentar um comprometimento da empresa de se envolver com a IA e outras tecnologias de maneira responsável e confiável.
No entanto, um diretor de ética sozinho pode ter dificuldade de implementar medidas em toda uma organização sem o suporte de um escritório de ética. Essa desvantagem nos leva à próxima opção.
Departamento de ética
A segunda abordagem de governança se concentra na capacitação de funcionários em toda a organização. Ela envolve a formação de uma equipe de ética dedicada de diferentes níveis da organização que esteja voltada unicamente para garantir que os princípios éticos estejam sendo seguidos por todos os funcionários. O departamento de ética pode ser independente ou fazer parte de uma equipe jurídica, de risco ou conformidade mais ampla. Se for independente, ele poderá ser estabelecido sem uma função líder, mas as empresas geralmente escolhem um Diretor de Ética para liderar o departamento.
A principal vantagem dos escritórios de ética é sua capacidade de implementar as políticas em escala, uma vez que eles têm membros dedicados da equipe trabalhando em todos os níveis da empresa. Os departamentos de ética também provam ser hábeis na criação de uma cultura de integridade em uma organização.
Comitê de ética
A última abordagem reúne um conjunto diversificado de especialistas externos e líderes seniores da organização para abordar a ética da IA. Os comitês de ética podem até incorporar grupos de usuários, especialistas em ética ou psicólogos. Em geral, eles não têm membros dedicados exclusivamente à ética.
Essa forma de governança fornece a uma organização perspectivas de pessoas com uma ampla variedade de conhecimentos e formação diversas, opiniões imparciais de membros externos e aceitação de líderes seniores em toda a empresa.
Em seguida, vamos discutir as práticas recomendadas para a governança de IA, dependendo da propriedade do modelo de IA e da função envolvida.