Un abogado que usó ChatGPT es sancionado por citar testimonios inventados

La New Mexico Supreme Court declaró a Stephen Aarons en desacato directo por presentar un escrito con testimonios falsos de testigos completamente inventados, incluidos agentes de policía, y por describir de forma incorrecta precedentes legales. El tribunal remitió el caso a un órgano disciplinario y concluyó que el abogado mostró falta de arrepentimiento y preocupación por su cliente.

Aarons reconoció que no verificó las afirmaciones fácticas ni las referencias legales de un escrito generado con ayuda de ChatGPT antes de firmarlo y presentarlo. El documento incluía declaraciones atribuidas a personas que nunca testificaron, además de errores en nombres, vestimenta y apariencia del supuesto autor de los hechos.

El abogado explicó que introdujo en ChatGPT una transcripción generada por Rev.com, junto con documentos del expediente, los asuntos planteados y parte de la información obtenida durante la investigación. Según su testimonio, utilizó una versión de ChatGPT basada en el modelo OpenAI o3 y asumió que produciría un resumen preciso de las actuaciones.

El tribunal le prohibió comparecer ante la New Mexico Supreme Court mientras se resuelve la investigación disciplinaria, le impuso una multa de 5.000 dólares y ordenó que se designara un nuevo abogado para Oscar Renee Sandoval. También eliminó del expediente los escritos anteriores y estableció que el caso continuará durante el periodo judicial 2026-27.

La Justice C. Shannon Bacon reprochó a Aarons que no conociera la posibilidad de que los sistemas de inteligencia artificial generen información falsa. La magistrada afirmó que los abogados deben verificar la exactitud de un escrito independientemente de si reciben ayuda de una herramienta de IA, un estudiante de Derecho o otro abogado.

Fuente: Ars Technica.