Desafios Éticos na Utilização da Inteligência Artificial na Redação de Sentenças Judiciais no TRF-1

A utilização de inteligência artificial para redigir sentenças judiciais é uma prática que levanta questões éticas, jurídicas e sociais. Um caso recente envolvendo um juiz federal do TRF-1, que usou o robô ChatGPT para fundamentar sua decisão, revela os riscos e as limitações dessa tecnologia. O ChatGPT, que é capaz de gerar textos e imagens realistas, inventou jurisprudências do STJ que não existem, comprometendo a credibilidade e a validade da sentença. O juiz alegou que foi um equívoco de um servidor do seu gabinete, mas o CNJ abriu uma investigação para apurar o fato. Esse episódio mostra que a inteligência artificial não pode substituir o raciocínio jurídico e a responsabilidade dos magistrados, que devem zelar pela qualidade e pela segurança das suas decisões.

“mero equívoco (…) decorrente de sobrecarga de trabalho que recai sobre os ombros dos juízes que integram o TRF-1”

Qual a posição do CNJ sobre o uso de inteligência artificial na Justiça?

A posição do CNJ sobre o uso de inteligência artificial na Justiça é de incentivo e regulamentação. O CNJ reconhece os benefícios da IA para aumentar a produtividade, a inovação, a qualidade e a agilidade dos serviços judiciários, mas também estabelece diretrizes éticas, transparentes e responsáveis para o desenvolvimento e o uso dessa tecnologia no Poder Judiciário123.

Segundo a Resolução CNJ n. 332/2020, que dispõe sobre a ética, transparência e governança na produção e no uso de IA no Judiciário, os tribunais devem observar a compatibilidade da IA com os direitos fundamentais, as regras de governança de dados, a Lei Geral de Proteção de Dados e as demais resoluções e recomendações do Conselho4. Além disso, os tribunais devem informar ao CNJ os projetos de IA que estejam em fase de pesquisa, desenvolvimento, implantação ou uso, bem como os resultados obtidos23.

O CNJ também realiza pesquisas e levantamentos para mapear as iniciativas de IA no Judiciário brasileiro e divulgar os dados no Painel de Projetos de IA no Poder Judiciário12. O objetivo é acompanhar e avaliar o impacto da IA na prestação jurisdicional e na sociedade. O CNJ ainda promove o programa Justiça 4.0, que visa acelerar a transformação digital do Poder Judiciário e compartilhar soluções tecnológicas entre os tribunais, incluindo modelos de IA12.

Quando a Inteligência Artificial se Choca com o Direito: Um Juiz do TRF-1 e o ChatGPT no Centro de um Debate Ético

A interseção entre inteligência artificial e judiciário tem se tornado uma arena complexa, como evidenciado por um recente episódio no Tribunal Regional Federal da 1ª Região (TRF-1). Nesse cenário, um juiz federal optou por fundamentar sua decisão utilizando o ChatGPT, um robô conhecido por sua capacidade de gerar textos e imagens realistas. No entanto, o que deveria ser uma demonstração do potencial da tecnologia tornou-se um caso emblemático dos riscos e limitações dessa abordagem.

O ChatGPT, programado para simular o pensamento humano, acabou por inventar jurisprudências do Superior Tribunal de Justiça (STJ) que simplesmente não existem. O resultado: a credibilidade e a validade da sentença emitida foram severamente comprometidas. O juiz responsável pelo caso alegou que o equívoco era proveniente de um erro cometido por um servidor de seu gabinete, mas a seriedade do incidente levou o Conselho Nacional de Justiça (CNJ) a abrir uma investigação para esclarecer os fatos.

Fgts Consiga

Esse desdobramento coloca em pauta não apenas a confiança na tecnologia, mas também a integridade do processo judicial. A utilização de inteligência artificial na redação de sentenças judiciais, embora promissora em muitos aspectos, revela-se uma faca de dois gumes. A máquina, por mais avançada que seja, não substitui a complexidade do raciocínio jurídico e a responsabilidade inerente aos magistrados.

O caso do TRF-1 serve como um alerta, destacando a importância de os magistrados zelarem não apenas pela qualidade, mas também pela segurança de suas decisões. A inteligência artificial pode ser uma ferramenta valiosa, mas sua implementação requer uma supervisão diligente para evitar deslizes que possam comprometer a justiça que deveria ser entregue com imparcialidade e rigor. Este incidente, sem dúvida, contribuirá para a discussão em curso sobre o papel da tecnologia no mundo jurídico e a necessidade de um equilíbrio cuidadoso entre inovação e tradição.

Leia mais a noticia no O Globo

 

Fgts Consiga

Marcos Jr

Voltar ao topo