Archivo - FILED - 18 April 2023, Berlin: The logo of the ChatGPT can be ssen on the monitor of a cell phone. Photo: Hannes P Albert/dpa - Hannes P Albert/Dpa - Archivo
MADRID, 14 Sep. (Portaltic/EP) -
Un abogado estadounidense ha sido sancionado por usar de manera irresponsable ChatGPT para redactar el recurso principal de su cliente y no comprobar los datos que contenía antes de presentar el documento al tribunal.
El abogado Stephen D. Aarons reconoció ante la Corte Suprema del Estado de Nuevo México (Estados Unidos) el uso de ChatGPT, un 'chatbot' impulsado por la inteligencia artificial de OpenAI, para redactar el recurso principal de su cliente, un hombre sentenciado a cadena perpetua en febrero de 2025 por el asesinato de su pareja y madre de sus hijos.
ChatGPT falsificó hechos y jurisprudencia, al incorporar testimonios y testigos inventados y casos inexactos, lo que se conoce en inteligencia artificial como alucinación. Aarons presentó este documento en agosto del año pasado ante el tribunal sin verificar ni comprobar lo que contenía, como se recoge en el escrito del tribunal publicado recientemente.
Poco después, el estado de Nuevo México solicitó la retirada de algunas partes del documento presentado y el abogado fue finalmente citado a declarar el pasado 21 de agosto. Entonces, reconoció el uso de ChatGPT y no haber verificado el resultado que le presentó la IA antes de firmarlo y presentarlo.
Este hecho, además de la falta de notificación a su cliente por el contenido del documento y la citación, han llevado al tribunal a sancionar a Aarons con la prohibición de ejercer ante él de manera provisional y con el pago de una multa de 5.000 dólares.
Este caso muestra el desconocimiento que muchas personas, y profesionales, tienen sobre el uso de herramientas como ChatGPT o similares, ChatGPT, diseñadas precisamente para resumir textos largos y redactar documentos, entre otras funciones.
En declaraciones a ArsTechnica, Aarons ha explicado que utilizó ChatGPT para resumir las actas del juicio. "Redacté el escrito, pero el índice y el resumen contenían numerosos errores. En aquel momento, no sabía que la IA podía alucinar hechos no solo en mi escrito, sino también en los escritos presentados por otros abogados", dijo.
Aun con el resultado, ha segurado que es "una lección aprendida para todos los profesionales que dependen de esta tecnología, potente pero a veces inestable".