Un juez ha declarado que una sentencia del Tribunal de Insolvencia y Sociedades debe servir como 'amonestación pública' del bufete internacional Pinsent Masons y sus abogados senior, tras dos usos fallidos de inteligencia artificial. El juez del TIS Mullen concluyó en Cork & Anor v Smith que el bufete había engañado al tribunal en dos ocasiones: una vez proporcionando referencias que contenían alucinaciones de IA, y una segunda vez usando IA para producir una carta explicativa que seguía siendo incorrecta.
El juez dijo que un abogado junior sin identificar (referido como LA) parecía haber 'subcontratado casi completamente el proceso de pensamiento' a un programa de IA, mientras que la procuradora Samantha Poulton y el socio Steven Cottee habían fallado en supervisar adecuadamente a LA. Pinsent Masons se ha disculpado y se ha autodenunciado ante la Autoridad Reguladora de Procuradores, que también investigará si alguno de los abogados involucrados ha incumplido el código de conducta.
El juez dijo que sería desproporcionado considerar procedimientos por desacato pero añadió que había, como mínimo, un caso prima facie de incumplimiento del deber de no engañar al tribunal y del deber de no desperdiciar tiempo del tribunal. Dijo: 'La Sra. Poulton, el Sr. Cottee y, asumiré, LA, habrán encontrado este incidente muy embarazoso. La Sra. Poulton y el Sr. Cottee son procuradores experimentados realizando trabajo técnico en un bufete respetable, sin duda bajo considerable presión a veces. No tengo dudas de que LA también trabajaba bajo presión. Nada de eso excusa un fallo en verificar la precisión del material que se presentó ante el tribunal.'
Dos respuestas que encendieron las alarmas del tribunal
El tribunal escuchó que Pinsent Masons había sido instruido para preparar una solicitud de transferencia en bloque para un asunto de insolvencia. Esto normalmente no requeriría una audiencia, pero el juez dio instrucciones para que el asunto fuera listado tras preocupaciones sobre declaraciones engañosas hechas por los procuradores en dos cartas de marzo y abril de este año. Después de que el juez consultara un punto con el bufete, se quedó sorprendido por la respuesta, que hacía referencia a una norma sobre el poder del tribunal de la que no tenía conocimiento y que no pudo ser verificada. Inmediatamente evaluó que la respuesta había incluido una alucinación de IA y escribió para exigir una explicación.
El juez quedó entonces asombrado por la respuesta de seguimiento, que de nuevo no era creíble y aplicaba mal la ley. El juez dijo que había estado preocupado desde la primera respuesta de que Pinsent Masons estaba tomando una actitud despreocupada' hacia la precisión del material presentado ante el tribunal, y la segunda respuesta 'solo aumentó mis preocupaciones'. En lugar de proporcionar una respuesta inmediata, completa y veraz a la primera carta engañosa, el juez sugirió, el seguimiento había 'enturbiado las aguas' y era en sí mismo engañoso. Poulton y LA tenían la conducción diaria del asunto. Poulton había sido consciente de que LA usaba IA de vez en cuando pero no sabía que se había usado en esta solicitud. Aceptó un fallo de su parte en supervisar a LA y verificar los borradores adecuadamente, y ahora está haciendo un curso para mejorar su comprensión de la IA. Cottee, socio durante 14 años, no estuvo involucrado en redactar ninguna respuesta y no sabía que se estaba usando IA, pero era responsable de supervisar a Poulton y LA.
La IA redactó, advirtió y aun así se presentó material erróneo
El tribunal escuchó que LA comenzó a chatear con la IA del bufete tras la consulta del juez. El juez Mullen leyó estas discusiones y notó que era notable cómo, en un gran número de ocasiones, la IA estaba 'claramente equivocada o, como mínimo, extremadamente engañosa, con alucinaciones comenzando casi inmediatamente. LA parecía no haber verificado si las respuestas de la IA eran correctas y pidió a la IA que redactara una carta en respuesta al tribunal. La IA incluso trató de advertir al procurador junior que no estaba 'completamente segura' sobre la forma en que estaba interpretando la ley, pero esto no les llevó a verificar el texto que estaba siendo citado. Tanto Cottee como Poulson revisaron el primer borrador de carta que iba al tribunal que contenía los errores y habían confirmado en alrededor de dos horas que estaba bien.
En el seguimiento explicativo, LA de nuevo pidió a la IA que redactara una carta para el tribunal. La IA había incluso incluido una disculpa sin reservas en su borrador, que luego retiró después de que LA dijera que el bufete no debería disculparse. Solo después de que Poulton dijera que debería haber una disculpa, LA copió su observación en la IA textualmente. El juez dijo que los tres abogados deberían haber sido conscientes de los peligros de usar IA para realizar investigación legal. Estaba satisfecho de que no había intención de engañar por parte de Poulton y Cottee, y que LA no parecía haber sido franco con sus supervisores sobre cómo se creó el texto. La conducta del procurador junior fue encontrada muy preocupante y su aparente falta de cuidado parecía extraordinaria.
La IA tiene el potencial de ser completamente poco fiable.
Era, sin embargo, incumbencia de los abogados más senior verificar el trabajo de LA, añadió. También me parece que, como parte de la supervisión de LA más generalmente, debería haberse dejado claro, si no se había dejado claro, que deberían verificar todas las referencias dadas por la IA y ser franco, al reportar el resultado de su investigación a sus supervisores, sobre si se había usado IA en esa investigación y si el contenido generado por la IA había sido verificado. Concluyó: La IA tiene el potencial de ser completamente poco fiable. La IA puede por supuesto proporcionar un punto de partida para la investigación y el razonamiento legal pero no elimina, al menos en el presente, la necesidad de investigación y pensamiento adecuados por parte de un profesional legal, incluso un profesional legal muy junior. Pinsent Masons se ha disculpado y ha tomado medidas para poner salvaguardas en su uso de un piloto interno de IA. El bufete también ha cubierto los costos de su antiguo cliente, incluyendo los costos de encontrar nuevos abogados.