Juez federal de Nueva York prohíbe uso de IA sin supervisión en peticiones
En una decisión inédita, un juez federal de Nueva York prohibió el uso de inteligencia artificial generativa para redactar peticiones judiciales sin supervisión humana. La medida se tomó después de que un abogado presentara un documento que contenía citas falsas fabricadas por una herramienta de IA, evidenciando los riesgos de 'alucinaciones' en procesos legales.
El caso que motivó la decisión
El incidente ocurrió cuando un abogado presentó una petición con referencias a jurisprudencias inexistentes, todas generadas por un modelo de lenguaje. El tribunal descubrió que las citas eran ficticias, lo que provocó una vergüenza jurídica y la necesidad de retractarse. Aunque el abogado afirmó que no sabía de las fallas de la IA, el juez entendió que la supervisión humana es indispensable para garantizar la integridad de los documentos legales.
Alucinaciones y riesgos jurídicos
'Los tribunales no pueden confiar ciegamente en sistemas que inventan información', destacó el juez en su orden. Las llamadas 'alucinaciones' —cuando la IA genera datos falsos con apariencia de veracidad— representan un peligro particular en el ámbito jurídico, donde la precisión de citas y precedentes es fundamental. La decisión busca evitar que errores similares comprometan la justicia.
Reacciones e impacto
El Colegio de Abogados de EE. UU. apoyó la medida, enfatizando que las herramientas de IA pueden ser útiles como ayuda, pero nunca deben sustituir el juicio humano. Abogados especializados en tecnología jurídica advierten que la decisión podría inspirar a tribunales de otros estados a adoptar reglas similares. Por otro lado, críticos argumentan que la prohibición puede limitar la innovación y la eficiencia en el sector.
El futuro de la IA en los tribunales
Expertos sugieren que la solución no es prohibir la IA, sino establecer protocolos rigurosos de verificación. Empresas de tecnología jurídica ya trabajan en sistemas que señalan automáticamente posibles alucinaciones. Mientras tanto, la decisión de Nueva York sirve como advertencia: la responsabilidad final sobre el contenido de una petición recae siempre en el abogado.
Conclusión
La prohibición temporal o permanente del uso de IA sin supervisión en tribunales estadounidenses dependerá de nuevos casos y regulaciones. Por ahora, queda claro que la tecnología, aunque prometedora, aún requiere cautela para no comprometer la credibilidad del sistema judicial.