A utilização de inteligência artificial para redigir sentenças judiciais é uma prática que levanta questões éticas, jurídicas e sociais. Um caso recente envolvendo um juiz federal do TRF-1, que usou o robô ChatGPT para fundamentar sua decisão, revela os riscos e as limitações dessa tecnologia. O ChatGPT, que é capaz de gerar textos e imagens realistas, inventou jurisprudências do STJ que não existem, comprometendo a credibilidade e a validade da sentença. O juiz alegou que foi um equívoco de um servidor do seu gabinete, mas o CNJ abriu uma investigação para apurar o fato. Esse episódio mostra que a inteligência artificial não pode substituir o raciocínio jurídico e a responsabilidade dos magistrados, que devem zelar pela qualidade e pela segurança das suas decisões.
“mero equívoco (…) decorrente de sobrecarga de trabalho que recai sobre os ombros dos juízes que integram o TRF-1”
Qual a posição do CNJ sobre o uso de inteligência artificial na Justiça?
A posição do CNJ sobre o uso de inteligência artificial na Justiça é de incentivo e regulamentação. O CNJ reconhece os benefícios da IA para aumentar a produtividade, a inovação, a qualidade e a agilidade dos serviços judiciários, mas também estabelece diretrizes éticas, transparentes e responsáveis para o desenvolvimento e o uso dessa tecnologia no Poder Judiciário123.
Segundo a Resolução CNJ n. 332/2020, que dispõe sobre a ética, transparência e governança na produção e no uso de IA no Judiciário, os tribunais devem observar a compatibilidade da IA com os direitos fundamentais, as regras de governança de dados, a Lei Geral de Proteção de Dados e as demais resoluções e recomendações do Conselho4. Além disso, os tribunais devem informar ao CNJ os projetos de IA que estejam em fase de pesquisa, desenvolvimento, implantação ou uso, bem como os resultados obtidos23.
O CNJ também realiza pesquisas e levantamentos para mapear as iniciativas de IA no Judiciário brasileiro e divulgar os dados no Painel de Projetos de IA no Poder Judiciário12. O objetivo é acompanhar e avaliar o impacto da IA na prestação jurisdicional e na sociedade. O CNJ ainda promove o programa Justiça 4.0, que visa acelerar a transformação digital do Poder Judiciário e compartilhar soluções tecnológicas entre os tribunais, incluindo modelos de IA12.
Quando a Inteligência Artificial se Choca com o Direito: Um Juiz do TRF-1 e o ChatGPT no Centro de um Debate Ético
A interseção entre inteligência artificial e judiciário tem se tornado uma arena complexa, como evidenciado por um recente episódio no Tribunal Regional Federal da 1ª Região (TRF-1). Nesse cenário, um juiz federal optou por fundamentar sua decisão utilizando o ChatGPT, um robô conhecido por sua capacidade de gerar textos e imagens realistas. No entanto, o que deveria ser uma demonstração do potencial da tecnologia tornou-se um caso emblemático dos riscos e limitações dessa abordagem.
O ChatGPT, programado para simular o pensamento humano, acabou por inventar jurisprudências do Superior Tribunal de Justiça (STJ) que simplesmente não existem. O resultado: a credibilidade e a validade da sentença emitida foram severamente comprometidas. O juiz responsável pelo caso alegou que o equívoco era proveniente de um erro cometido por um servidor de seu gabinete, mas a seriedade do incidente levou o Conselho Nacional de Justiça (CNJ) a abrir uma investigação para esclarecer os fatos.
Esse desdobramento coloca em pauta não apenas a confiança na tecnologia, mas também a integridade do processo judicial. A utilização de inteligência artificial na redação de sentenças judiciais, embora promissora em muitos aspectos, revela-se uma faca de dois gumes. A máquina, por mais avançada que seja, não substitui a complexidade do raciocínio jurídico e a responsabilidade inerente aos magistrados.
O caso do TRF-1 serve como um alerta, destacando a importância de os magistrados zelarem não apenas pela qualidade, mas também pela segurança de suas decisões. A inteligência artificial pode ser uma ferramenta valiosa, mas sua implementação requer uma supervisão diligente para evitar deslizes que possam comprometer a justiça que deveria ser entregue com imparcialidade e rigor. Este incidente, sem dúvida, contribuirá para a discussão em curso sobre o papel da tecnologia no mundo jurídico e a necessidade de um equilíbrio cuidadoso entre inovação e tradição.
Leia mais a noticia no O Globo
