A inteligência artificial já está presente em processos de atendimento, recrutamento, análise de crédito, marketing, desenvolvimento de software, segurança, saúde e tomada de decisões. Ao mesmo tempo, muitas empresas ainda não sabem quais ferramentas estão sendo utilizadas, quais dados são inseridos nesses sistemas ou como avaliar os riscos envolvidos.
Esse cenário está mudando. Assim como ocorreu com a LGPD e com a segurança da informação, a governança de IA está deixando de ser um tema restrito às áreas técnicas e jurídicas para integrar a estratégia das organizações.
Qual framework deve ser utilizado?
Existem diferentes referenciais para orientar o desenvolvimento e o uso responsável da IA. Entre eles estão a ISO/IEC 42001, NIST AI Risk Management Framework, ALTAI (Assessment List for Trustworthy Artificial Intelligence) desenvolvido pela Europa, Avaliação de Impacto Ético da UNESCO, a ISO/IEC 42005, dentre outros.
Esses referenciais possuem pontos de convergência: definição de responsabilidades, inventário de sistemas, classificação de riscos, avaliação de impactos, supervisão humana, transparência, segurança, governança de dados, monitoramento e melhoria contínua.
A aplicação, contudo, varia conforme o negócio, o setor, a finalidade da ferramenta e o impacto sobre as pessoas. Uma empresa que utiliza IA generativa internamente possui riscos diferentes de uma plataforma que desenvolve sistemas para recrutamento, saúde, educação, crédito ou tomada automatizada de decisões.
Da política à implementação
Uma política de uso de IA é apenas uma parte do programa. A governança precisa ser incorporada aos processos internos e ao ciclo de vida das ferramentas.
Na prática, as organizações estão estruturando procedimentos para:
- identificar as ferramentas utilizadas;
- avaliar fornecedores e contratos;
- definir usos permitidos e proibidos;
- classificar sistemas conforme o risco;
- analisar dados, vieses e grupos potencialmente afetados;
- estabelecer supervisão humana;
- testar segurança, desempenho e confiabilidade;
- documentar decisões e responsabilidades;
- tratar incidentes; e
- revisar periodicamente as ferramentas aprovadas.
Para empresas que desenvolvem soluções de IA, a avaliação começa na concepção do produto e acompanha o desenvolvimento, os testes, a disponibilização, o monitoramento e a retirada do sistema. Para empresas que contratam essas tecnologias, o processo envolve homologação, avaliação de finalidade, análise de dados, controles de acesso e acompanhamento do fornecedor.
Ferramentas utilizadas sem avaliação ou homologação interna deixam a empresa sem visibilidade sobre riscos jurídicos, técnicos, financeiros e reputacionais. A governança transforma esse uso descentralizado em um processo verificável, com critérios de aprovação, responsáveis definidos e evidências das medidas adotadas.
IA alinhada à estratégia do negócio
Os frameworks também auxiliam as empresas a identificar onde a IA efetivamente gera valor e quais usos exigem maior controle. A avaliação considera não apenas a tecnologia, mas a finalidade, o contexto, os dados utilizados e os efeitos das decisões produzidas.
Esse processo permite alinhar a IA à estratégia do negócio, mitigar vieses, aumentar a confiabilidade das decisões e demonstrar que os riscos foram identificados, avaliados e tratados.
A governança de IA, portanto, não corresponde somente a um conjunto de documentos. Ela envolve cultura organizacional, pessoas capacitadas, processos definidos, controles técnicos e participação da liderança.
E a sua empresa? O que está fazendo para adequar seus negócios, serviços e softwares à era da inteligência artificial?
Como o Assis e Mendes pode apoiar
📲 Converse com a nossa equipe diretamente pelo WhatsApp:
👉 Clique aqui para iniciar a conversa
Sobre o autor
Fernanda Soares é advogada no Assis e Mendes Advogados, especialista em Compliance, Proteção de Dados e LGPD. Atua como DPO e Controller Jurídica, apoiando empresas na implementação de programas de governança, proteção de dados e conformidade regulatória.
