A recente regulamentação da União Europeia sobre inteligência artificial, conhecida como EU AI Act, estabelece um marco regulatório pioneiro, que tem como objetivo garantir o uso seguro e ético da IA enquanto promove a inovação e o desenvolvimento tecnológico. Esta legislação, sendo a primeira do tipo no mundo, define diretrizes claras para o uso de IA, classificando os sistemas com base em seu nível de risco e impondo obrigações específicas para garantir a segurança e os direitos fundamentais dos cidadãos.
A norma é estruturada em torno de uma abordagem baseada em risco, categorizando os sistemas de IA em três níveis principais: inaceitável, elevado e mínimo. Cada categoria possui requisitos específicos que as empresas devem atender ao implementar soluções de IA.
Indicamos aqui um resumo dos riscos identificados:
- Risco Inaceitável: Sistemas de IA que representam ameaças significativas à segurança pública ou aos direitos fundamentais são proibidos, como por exemplo o uso da IA para manipulação cognitiva de grupos vulneráveis, por exemplo, brinquedos ativados por voz que incentivam comportamentos perigosos em crianças, além de sistemas de pontuação social que discriminam indivíduos com base em classificações de pessoas com base no comportamento, status socioeconômico ou características pessoais e o uso de reconhecimento facial em tempo real sem consentimento. Esta proibição ressalta a prioridade da União Europeia em proteger a dignidade humana, a privacidade e a segurança.
- Risco Elevado (alto risco): Esta categoria abrange sistemas de IA usados em setores críticos que podem impactar diretamente a segurança e os direitos fundamentais dos cidadãos, como dispositivos médicos e meios de transporte. Tais sistemas estão sujeitos a rigorosas avaliações de conformidade antes de sua implementação e durante seu uso. Requisitos incluem a necessidade de manutenção de registros detalhados e auditorias regulares para garantir conformidade contínua.
- Risco Mínimo: Sistemas de IA que apresentam baixo risco são sujeitos a regulamentações mais leves. No entanto, exigências de transparência permanecem, assegurando que os usuários sejam informados quando interagem com IA e que os direitos de usuários sejam protegidos.
A regulamentação também impõe requisitos de transparência significativos, especialmente para sistemas de IA generativa. Para relembrarmos, a inteligência artificial generativa basicamente é um campo da IA que se concentra na criação de novos conteúdos, seja texto, imagem, áudio ou vídeo, a partir de dados existentes, ou seja, fazemos o input de algumas informações e, a partir do conteúdo apresentado, novas informações serão geradas pela ferramenta.
Com esse racional, as empresas devem informar claramente os usuários quando o conteúdo é gerado por IA, e os modelos devem ser desenvolvidos para evitar a criação de conteúdo ilegal. A conformidade com as leis de direitos autorais da UE é mandatória, incluindo a divulgação de informações sobre os dados protegidos por direitos autorais utilizados para treinar os modelos.
Diante da complexidade e das rigorosas exigências da nova regulamentação, é essencial contar com uma consultoria especializada em proteção de dados, governança e tecnologia para aquelas empresas que desejam implementar soluções de IA. Aqui estão algumas razões pelas quais contar com o apoio jurídico é fundamental:
- Conformidade, avaliação de riscos, segurança e auditoria: Um profissional especialista pode ajudar a interpretar as legislações, normas setoriais e regulatórias e garantir que a implementação de IA esteja em conformidade com as práticas internacionais aceitas e já estabelecidas, incluindo os frameworks, como o modelo de Gerenciamento de Riscos de IA do NIST e ALTAI (Assessment List for Trustworthy AI) que apoiam na construção de uma governança de dados em processos de criação, que também consideram medidas de auditoria e segurança para atingir a finalidade que se pretende. Aqui vale destacar que não estamos falando só da legislação europeia, atualmente mais de 20 países, incluindo Estados Unidos, China e Brasil discutem projetos para implementação das suas legislações, mas enquanto não temos uma lei nacional, contamos com o apoio das regras internacionais para tratarmos o tema.
- Transparência, privacidade e proteção de dados: Com o amadurecimento do tema privacidade ao redor do mundo, é essencial que as legislações de privacidade sejam incluídas nos processos de governança e homologação de uma tecnologia baseada em IA. Não há que se falar mais em desenvolvimento de produtos e serviços que não considerem privacidade desde a concepção, levando ao titular de dados informações de forma clara e objetiva, prezando pela transparência e atenção aos princípios que norteiam o assunto.
Contem com a gente para apoiar na construção de um programa de governança da IA que possa avaliar seus processos, serviços e produtos, de modo que estejam alinhados às melhores práticas internacionais, criando tecnologias de forma ética e responsável, afinal, a inteligência artificial veio para ficar, então nada melhor do que dominá-la e utilizá-la para levar seus negócios a outras fronteiras, certo?
