Antecedentes

Una decisión reciente del Tribunal Supremo de Nueva Zelanda en Jones v Family Court at Whangārei [2026] NZSC 1 sirve como un recordatorio oportuno sobre las limitaciones y riesgos asociados al uso de inteligencia artificial (IA) en procedimientos legales. En Jones, el solicitante presentó alegaciones para una solicitud de autorización que incluían citas de numerosos casos completamente alucinados por IA. Varias citas combinaban nombres de casos reales con referencias incorrectas; cuatro casos genuinos fueron mal utilizados para apoyar proposiciones que no respaldaban.

Jones involucró a un litigante que se representaba a sí mismo, pero las implicaciones del uso incorrecto de IA son considerablemente más severas para los abogados (y sus clientes). Mientras que Jones dejó claro que el uso no supervisado de IA en alegaciones judiciales puede constituir una obstrucción a la justicia o desacato al tribunal, esto está lejos de ser un problema únicamente de Nueva Zelanda. Los tribunales en Estados Unidos, Inglaterra y Gales, y Australia han enfrentado el mismo fenómeno, respondiendo con sanciones financieras, notas de práctica formales y referencias regulatorias. El panorama emergente en todas las jurisdicciones es consistente: la IA exige supervisión humana, no abdicación humana.

Directrices de IA Generativa de Nueva Zelanda

Nueva Zelanda ya tiene orientación formal en este espacio. En diciembre de 2023, los Tribunales de Nueva Zelanda emitieron tres conjuntos de Directrices para el Uso de Inteligencia Artificial Generativa en Tribunales y Cortes (Directrices GenAI), uno cada uno para abogados, jueces y funcionarios judiciales, y no abogados respectivamente. Varios temas clave atraviesan estas Directrices:

  • Los chatbots GenAI pueden inventar casos ficticios, citas y comillas que parecen provenir de fuentes reales, y confirmar que la información es precisa si se les pregunta, incluso cuando no lo es.
  • Cualquier cosa ingresada en un chatbot GenAI público puede ser retenida por la plataforma y utilizada para responder consultas de otros usuarios. Los abogados no deben ingresar información privada, confidencial, suprimida o legalmente privilegiada en ninguna herramienta de IA pública.
  • Se requiere divulgación proactiva de GenAI si un tribunal o corte lo solicita, pero no se requiere como cuestión de rutina.
  • GenAI debe usarse con precaución para análisis legal, ya que no puede examinar críticamente patrones, no produce una salida neutral, y tiene conocimiento limitado de la ley y procedimiento de Nueva Zelanda.

El Tribunal Supremo en Jones respaldó las Directrices GenAI, reiterando el requisito para todas las partes de verificar la precisión del material generado por IA antes de confiar en él en procedimientos: "Usted es responsable de asegurar que toda la información que proporcione al tribunal/corte sea precisa. Debe verificar la precisión de cualquier información que obtenga de un chatbot [de IA generativa] antes de usar esa información en procedimientos de tribunal/corte."

Jones no es la única decisión de Nueva Zelanda que ha lidiado con IA en procedimientos. Por ejemplo, en LMN v STC (No 2) [2025] NZEmpC 46, un litigante que se representaba a sí mismo citó un supuesto precedente legal para sugerir que el Tribunal tomará en cuenta las limitaciones financieras al hacer decisiones procesales. El Tribunal de Empleo encontró que tal caso no existía, y reiteró que la información producida por IA debe ser verificada independientemente antes de ser utilizada en procedimientos legales. El Tribunal nuevamente se refirió a las Directrices GenAI en apoyo de su posición. Además, en O'Driscoll v Rehab Co Mobile Limited [2026] NZERA 106, la Autoridad de Relaciones Laborales otorgó costos aumentados contra una parte que se representaba a sí misma, en parte debido a la dependencia del solicitante en casos que no existían o no podían encontrarse. La Autoridad notó que, a pesar de que se llamó la atención a las Directrices GenAI, el solicitante continuó refiriéndose a casos que no existían en las alegaciones finales.

La experiencia internacional

El problema de las alucinaciones de IA en documentos judiciales ha generado jurisprudencia significativa y respuestas regulatorias formales a través de múltiples jurisdicciones de derecho común.

En Estados Unidos, por ejemplo, un ejemplo temprano de tales problemas surgió en 2023 en Mata v Avianca Inc. En ese caso, los abogados presentaron citas fabricadas por ChatGPT en procedimientos de tribunal federal, y continuaron manteniendo esas citas cuando su existencia fue desafiada. Finalmente fueron sancionados con US$5,000 y se encontró que habían actuado de mala fe subjetiva. El tribunal observó que usar una herramienta de IA confiable no es inherentemente impropio, pero que las reglas profesionales existentes imponen un "papel de guardián en los abogados para asegurar la precisión de sus presentaciones". En un caso separado, a finales de 2025, un juez encontró que el demandante en ese caso había presentado audio y video generado por IA de una persona real como testimonio auténtico. Aunque el video en ese caso parecía obvio, la calidad creciente de la evidencia deepfake es una preocupación significativa. Más recientemente, en abril de 2026, la reconocida firma de Wall Street Sullivan & Cromwell se disculpó formalmente ante el Tribunal de Bancarrota de Estados Unidos para el Distrito Sur de Nueva York después de que emergiera que una moción de emergencia que había presentado contenía más de 40 inexactitudes, incluyendo citas de casos fabricadas, provisiones mal citadas del Código de Bancarrota, y fuentes legales inexistentes generadas por IA.

En Inglaterra y Gales, en 2025 el Tribunal Divisional Inglés abordó el mismo fenómeno en R (Ayinde) v London Borough of Haringey, sosteniendo que las herramientas de IA generativa disponibles libremente "no son capaces de conducir investigación legal confiable", y que los abogados tienen un deber profesional de verificar la investigación generada por IA contra fuentes autoritativas antes de usarla. El tribunal notó que el problema plantea preocupaciones más amplias sobre entrenamiento, supervisión y regulación a través de la profesión. Más recientemente, en UK v Secretary of State for the Home Department, el Tribunal Superior de Inmigración y Asilo fue más lejos, confirmando que los supervisores que fallan en asegurar que el trabajo asistido por IA de los empleados sea preciso probablemente serán referidos a la Autoridad de Regulación de Abogados, y advirtiendo que subir materiales confidenciales a una herramienta de IA pública como ChatGPT constituye una violación de la confidencialidad del cliente y renuncia al privilegio profesional legal.

En Australia, siguiendo la identificación del uso incorrecto de casos legales por un profesional legal, el Consejo de Servicios Legales de Victoria modificó el certificado de práctica de ese abogado para que ya no tuviera derecho a practicar como abogado principal y solo practicaría como abogado empleado. Las directrices recientes del Tribunal Federal de Australia tienen requisitos específicos de divulgación en relación con la preparación de evidencia experta. El Tribunal Supremo de Nueva Gales del Sur va más lejos, requiriendo que donde se haya usado IA para preparar alegaciones escritas, el autor debe verificar personalmente en el cuerpo del documento que todas las citas, autoridad legal y académica y referencias de jurisprudencia y legislativas existen, son precisas y son relevantes. NSW también prohíbe el uso de GenAI para redactar o preparar el contenido de un informe experto (o cualquier parte de un informe experto) sin autorización previa del Tribunal.

Cuando la IA ayuda: Usos positivos en procedimientos de Nueva Zelanda

El uso cuidadoso de IA ciertamente tiene sus beneficios. En Ale v Easthope, un demandado que se representaba a sí mismo usó ChatGPT para ayudar a preparar alegaciones escritas en un procedimiento de posesión de propiedad. El Juez Asociado Gellert elogió el resultado, notando que produjo alegaciones que eran "bien estructuradas y más fáciles de comprender de lo que podría haber sido el caso con un litigante en persona", y que la divulgación inicial del demandado sobre el uso de IA le permitió evaluar las alegaciones en consecuencia.

En VA v JL, la IA fue utilizada en traducción y análisis de documentos para materiales en idioma extranjero. El Oficial de Revisión de Quejas Legales encontró más probable que los mensajes hubieran sido eliminados que el registro asistido por IA hubiera sido fabricado, y aceptó las traducciones generadas por ChatGPT de un registro de aplicación de chat como la versión más completa de los mensajes relevantes.

Conclusiones clave

La IA puede genuinamente asistir en litigios, incluyendo estructurar alegaciones, traducir documentos, organizar materiales, pero solo donde el humano que la usa mantiene control y supervisión significativos. Toda la información generada por un chatbot GenAI debe ser verificada independientemente antes de ser utilizada en procedimientos; para abogados, esa verificación debe ser llevada a cabo por una persona apropiadamente calificada.

Ya sea un litigante lego o un abogado, cualquiera que use IA en litigios debería:

  • Verificar independientemente cada cita y proposición legal contra fuentes autoritativas, en lugar de preguntar a la herramienta de IA sobre su precisión.
  • Evitar usar IA acríticamente para análisis legal. Para abogados, ser conscientes de que las obligaciones profesionales existentes, incluyendo el deber de no engañar al tribunal, se aplican completamente a cualquier trabajo asistido por IA.
  • Proteger la confidencialidad no ingresando ninguna información privada, confidencial, suprimida o legalmente privilegiada en una herramienta de IA pública, y divulgar el uso de IA cuando sea requerido.
  • Divulgar el uso de IA transparentemente, ya que esto apoya en lugar de socavar la credibilidad.
  • Estar alerta a problemas de autenticidad y el potencial de evidencia deepfake, y asegurar que cualquier evidencia potencialmente incorrecta sea desafiada.

Este artículo fue coautorado por Raksha Tiwari (Abogado), en nuestro equipo de Litigios.