Ética e Viés em IA: Boas Práticas para Sistemas Transparentes e Responsáveis

Para que serve

A governança de ética e viés em inteligência artificial serve para orientar o desenvolvimento e o uso de sistemas tecnológicos de modo confiável e inovador. Uma estrutura baseada em princípios reconhecidos internacionalmente busca cultivar a confiança nas tecnologias de inteligência artificial enquanto mitiga riscos operacionais, sociais e regulatórios.

Segundo as definições de referência global, um sistema de inteligência artificial consiste em um sistema baseado em máquina que, para alcançar objetivos explícitos ou implícitos, infere a partir das entradas que recebe a forma de produzir saídas. Essas saídas podem ser previsões, conteúdos, recomendações ou decisões capazes de influenciar ambientes físicos ou virtuais. Os sistemas apresentam diferentes níveis de autonomia e de capacidade de adaptação após a sua implementação.

Gerenciar a ética e o viés serve diretamente para alinhar tais sistemas a valores fundamentais. Esse processo estabelece mecanismos práticos para garantir transparência, explicabilidade, robustez técnica, segurança e proteção de dados, além de assegurar que os agentes envolvidos assumam a devida responsabilidade pelos resultados gerados.

Quando faz sentido para a sua empresa

A adoção de práticas para mitigar viés e assegurar a ética faz sentido em diferentes momentos da jornada tecnológica das organizações brasileiras:

• No momento em que a organização decide adotar ou desenvolver sistemas de inteligência artificial que geram decisões ou recomendações com impacto direto sobre pessoas, processos críticos ou ambientes virtuais.
• Quando a empresa busca alinhar suas operações a parâmetros internacionais de governança, considerando que o Brasil e diversos outros países aderiram a padrões intergovernamentais e utilizam diretrizes comuns para estruturar políticas e marcos de risco.
• Em cenários onde sistemas já implantados apresentam graus variáveis de autonomia ou capacidade de adaptação após o deploy, exigindo supervisão constante sobre como as inferências são construídas.
• Para organizações que atuam ou pretendem atuar em mercados internacionais que adotam diretrizes alinhadas aos princípios da OCDE e ao framework de gerenciamento de riscos de inteligência artificial, garantindo interoperabilidade entre jurisdições.
• Quando existe a necessidade de comprovar que as saídas geradas por modelos algorítmicos respeitam valores humanos, equidade, privacidade e bem-estar coletivo.

Passo a passo para começar

Para adotar algoritmos de maneira transparente, justa e responsável, os times técnicos e gestores podem seguir um roteiro estruturado ao longo de todo o ciclo de vida do sistema de inteligência artificial:

1. Compreender a definição e o ciclo de vida do sistema de IA: Mapeie os objetivos explícitos ou implícitos da solução. Identifique quais dados de entrada serão utilizados, como as inferências serão processadas e que tipos de saídas serão produzidas, sejam elas predições, conteúdos, recomendações ou decisões automatizadas.
2. Alinhar o projeto a princípios baseados em valores: Estabeleça desde o início diretrizes de conformidade focadas em crescimento inclusivo, desenvolvimento sustentável e bem-estar. Assegure formalmente a proteção aos direitos humanos, à democracia, à equidade e à privacidade dos dados manipulados.
3. Implementar requisitos de transparência e explicabilidade: Crie mecanismos que documentem como os modelos operam e como inferem resultados. Disponibilize informações claras que permitam aos operadores e às partes afetadas compreender como as saídas do sistema foram geradas.
4. Garantir robustez, segurança e proteção: Avalie a integridade técnica da solução antes e depois da disponibilização em ambiente de produção. Teste a resiliência do sistema frente a falhas, usos inadequados e vulnerabilidades, considerando também a adaptabilidade do algoritmo pós-implantação.
5. Definir atribuições claras de responsabilidade (accountability): Estabeleça quais equipes e profissionais são responsáveis por cada etapa do ciclo de vida da inteligência artificial. Crie canais e processos de auditoria interna para monitorar o comportamento dos modelos e agir rapidamente caso desvios sejam identificados.
6. Utilizar um framework de gerenciamento de riscos: Aplique uma estrutura contínua para identificar, analisar, mensurar e mitigar os riscos associados à tecnologia, fomentando a inovação de maneira controlada e promovendo a confiança contínua na solução.

Cuidados e erros comuns

Ao estruturar modelos de inteligência artificial responsáveis, as empresas devem atentar-se a falhas frequentes que comprometem a conformidade e a confiança nas soluções:

• Tratar sistemas de IA como caixas-pretas: Deixar de lado a transparência e a explicabilidade dificulta a identificação de vieses nos dados ou nas regras de inferência, além de violar princípios basilares de governança algorítmica.
• Desconsiderar o nível de autonomia do sistema: Ignorar que modelos podem ter diferentes graus de adaptabilidade após a entrada em operação pode resultar em comportamentos não previstos ao longo do tempo. É essencial manter monitoramento contínuo.
• Negligenciar a responsabilidade formal (accountability): Supor que a máquina decide por conta própria sem definir papéis humanos de supervisão e prestação de contas cria lacunas graves de governança.
• Focar apenas na inovação e ignorar a mitigação de riscos: Buscar a inovação tecnológica sem um framework estruturado de gestão de riscos de IA coloca em perigo a segurança, a robustez e a sustentabilidade dos projetos.
• Não contemplar privacidade e equidade na concepção: Integrar controles de privacidade e critérios de justiça tardiamente, em vez de incluí-los desde o início do ciclo de vida do sistema, eleva o risco de preconceitos algorítmicos e danos aos direitos fundamentais.