Com o objetivo de modernizar e tornar mais eficiente a prestação jurisdicional, o Conselho Nacional de Justiça (“CNJ”) aprovou, em 18 de fevereiro, o ato normativo, de relatoria do conselheiro Luiz Fernando Bandeira de Mello, que atualiza a Resolução CNJ nº 332/2020, e estabelece diretrizes sobre a produção e uso de Inteligência Artificial (“IA”) no Judiciário brasileiro.
Entre os principais pontos, destaca-se a obrigatoriedade da supervisão humana em todas as etapas do desenvolvimento e utilização de soluções de IA, garantindo maior controle sobre as decisões judiciais. A proposta é utilizar a IA como ferramenta de apoio, sem substituir o julgamento humano.
Para assegurar a transparência e a governança no uso da IA, a resolução prevê a criação do Comitê Nacional de Inteligência Artificial do Judiciário, que será responsável pela fiscalização contínua dos sistemas implantados nos tribunais.
A resolução também estabelece restrições rigorosas para evitar discriminação e violação de privacidade. Por exemplo, proíbe-se o uso da IA para prever crimes com base em características pessoais ou comportamentais, bem como sua aplicação para fins preditivos ou estatísticos na fundamentação de decisões trabalhistas a partir da formulação de perfis pessoais.
As atualizações buscam equilibrar a inovação com a segurança jurídica, permitindo que a IA seja usada para agilizar processos judiciais sem comprometer direitos fundamentais. Com isso, o CNJ pretende promover uma Justiça mais moderna e eficiente.
O objetivo central é garantir transparência, equidade e segurança no uso dessas tecnologias. O Ato Normativo regula tanto os aspectos técnicos quanto as preocupações éticas e jurídicas envolvidas na implementação da IA. A seguir, são apresentados os principais tópicos abordados no documento:
1. Controle do Usuário
O sistema de inteligência artificial deve garantir a autonomia dos usuários internos, permitindo-lhes a revisão detalhada do conteúdo gerado e dados utilizados, sem qualquer vinculação à solução apresentada pela IA. A autoridade final permanece nas mãos dos usuários humanos, que podem revisar e modificar qualquer produto da IA, sempre que necessário.
2. Supervisão Humana
A supervisão humana é um princípio fundamental. Os sistemas de IA no Judiciário devem permitir que magistrados e autoridades competentes modifiquem ou corrijam os produtos gerados pela IA, quando necessário.
3. Auditoria e Monitoramento
O estabelecimento de auditoria contínua e monitoramento que garantam que os sistemas de IA estejam em conformidade com as normas éticas, princípios estabelecidos e proteção de dados pessoais, o que está diretamente interligado à necessidade de supervisão humana contínua.
4. Diversidade nas Equipes de Desenvolvimento
A norma destaca a importância da diversidade e da inclusão, incentivando a participação de profissionais de diferentes perfis de gênero, etnia e pessoas com deficiência nas equipes responsáveis pelo desenvolvimento e implantação de sistemas de IA.
5. Uso de Modelos de Alto Risco
O uso de modelos de IA que envolvam tecnologias de alto risco, como reconhecimento facial, ou de análise biométrica, exige a aprovação prévia do Comitê Nacional de Inteligência Artificial, além de um plano que comprove a conformidade com os direitos fundamentais, a proteção de dados pessoais e o tratamento de potenciais vieses discriminatórios, quanto à raça, condição social ou localidade geográfica de moradia.
6. Cooperação Técnica
O CNJ permite que o Judiciário colabore com instituições públicas, privadas e a sociedade civil para o desenvolvimento colaborativo de desenvolvimento e implementação de soluções de IA.