Juiz Federal de Nova York proíbe uso de IA sem supervisão em petições
Em uma decisão inédita, um juiz federal de Nova York proibiu o uso de inteligência artificial generativa para redigir petições judiciais sem supervisão humana. A medida foi tomada após um advogado apresentar um documento que continha citações falsas fabricadas por uma ferramenta de IA, evidenciando os riscos de 'alucinações' em processos legais.
O caso que motivou a decisão
O incidente ocorreu quando um advogado submeteu uma petição contendo referências a jurisprudências inexistentes, todas geradas por um modelo de linguagem. A corte descobriu que as citações eram fictícias, levando a um constrangimento jurídico e à necessidade de retratação. Embora o advogado tenha afirmado que não sabia das falhas da IA, o juiz entendeu que a supervisão humana é indispensável para garantir a integridade dos documentos legais.
Alucinações e riscos jurídicos
'Tribunais não podem confiar cegamente em sistemas que inventam informações', destacou o juiz em sua ordem. As chamadas 'alucinações' — quando a IA gera dados falsos com aparência de veracidade — representam um perigo particular no ambiente jurídico, onde a precisão de citações e precedentes é fundamental. A decisão visa evitar que erros similares comprometam a justiça.
Reações e impacto
A Ordem dos Advogados dos EUA apoiou a medida, enfatizando que ferramentas de IA podem ser úteis como auxílio, mas nunca devem substituir o julgamento humano. Advogados especializados em tecnologia jurídica alertam que a decisão pode inspirar tribunais em outros estados a adotar regras semelhantes. Por outro lado, críticos argumentam que a proibição pode limitar a inovação e a eficiência no setor.
O futuro da IA nos tribunais
Especialistas sugerem que a solução não é banir a IA, mas estabelecer protocolos rigorosos de verificação. Empresas de tecnologia jurídica já trabalham em sistemas que sinalizam automaticamente possíveis alucinações. Enquanto isso, a decisão de Nova York serve como um alerta: a responsabilidade final sobre o conteúdo de uma petição é sempre do advogado.
Conclusão
A proibição temporária ou permanente do uso de IA sem supervisão em tribunais norte-americanos dependerá de novos casos e regulamentações. Por ora, fica claro que a tecnologia, embora promissora, ainda requer cautela para não comprometer a credibilidade do sistema judiciário.