Este jueves se conoció que el juez P. Kevin Castel impuso multas de 5,000 dólares a dos abogados involucrados y al bufete de apoderados, por presentar un informe legal de 10 páginas con nombres y casos falsos generados por ChatGPT.

Cuando la defensa de la aerolínea encontró que la mayoría de los antecedentes judiciales, citas y nombres, no pertenecían a la realidad, ya que no encontraron las fuentes de dicha información y ni siquiera el abogado neoyorquino logró encontrarlas y justificarlas, esta decidió demandar a los abogados.

Es así, que pese a que Castel aceptó las disculpas y las medidas correctivas por parte de la firma de abogados, reiteró que aún así los dos apoderados actuaron de “mala fe”.

Una de las cosas que más le llamó la atención al togado es que Levidow, Levidow & Oberman, “abandonaron sus responsabilidades cuando presentaron opiniones judiciales inexistentes  y citas falsas creadas por la herramienta de inteligencia artificial, y luego continuaron defendiendo las opiniones falsas”.

Te puede interesar: ¿Asesoría legal gratis? Este es Wardiam: el abogado virtual con IA que te ayudará

Así mismo reiteró que los avances tecnológicos son importantes y no hay nada de malo en ello, sin embargo, puntualizó que “las reglas existentes imponen un papel de vigilancia a los abogados para garantizar la precisión de sus presentaciones”.

Ante el veredicto de la corte, el bufete de abogados, comentó a través de un comunicado, que aunque acatarán el falló y cumpliran, no están de acuerdo con el hallazgo de que alguien del bufete actuó de mala fe. “Ya nos hemos disculpado con el Tribunal y con nuestro cliente. Seguimos creyendo que frente a lo que incluso el Tribunal reconoció que era una situación sin precedentes, cometimos un error de buena fe al no creer que una pieza de tecnología podría estar inventando casos de la nada”.

No obstante el juez asegura que, aún cuando los abogados fueron advertidos por la defensa de la aerolínea, no atendieron a las observaciones, por ejemplo, cuando encontraron seis casos que no eran reales y que habían sido generados por ChatGPT.

Te puede interesar: Harvard lanza curso gratis certificado de inteligencia artificial con Python

Cabe recordar, que este hecho comenzó en agosto de 2019 cuando Roberto Mata viajaba de Salvador a Nueva York y uno de los auxiliares de vuelo lo golpeó en la rodilla con el carrito metálico de comidas. El episodio desencadenó en una demanda contra Avianca.

Mata contrató a la firma de abogados Levidow, Levidow & Oberman; el caso fue asignado a Schwartz, aunque la defensa pidió al juez federal de Manhattan que no lo tomara no fue así y el proceso siguió.

No obstante cuando el audaz y experimentado legista presentó un informe de 10 páginas para argumentar porque el pleito debía seguir, Schwartz no contaba con la exhaustiva revisión de los abogados de Avianca.

Imagen: Montaje de ENTER.CO

La orden no solo se quedó ahí, pues el togado del distrito de EE. UU., Brantley Starr, también ordenó de manera obligatoria a los abogados, que presenten certificados que acrediten que sus presentaciones fueron escritas o revisadas por humanos.

Dichos certificados, deben reseñar “que ninguna parte de la presentación fue redactada por inteligencia artificial generativa como ChatGPT, Harvey.AI o Google Bard”. En dado caso, de que se haya realizado con esta tecnología, el legista debe dejar claro que esa información “se verificó” y que su contenido fue extraído de reportes impresos o bases de datos legales tradicionales, por un ser humano.

Te puede interesar: Abogado usó ChatGPT para ganar demanda contra Avianca, pero la aerolínea lo descubrió

El magistrado Brantley Starr, dejó claro que pese a que estás tecnologías son poderosas y tienen muchos usos en la ley como “formularios de divorcio, solicitudes de descubrimiento, errores sugeridos en documentos o preguntas anticipadas en argumentos orales”, no significa que en tanto a información legal presentada ante un tribunal, sea una de ellas.

El togado explica que en dichos informes, estas plataformas no son tan útiles ya que “en sus estados actuales son propensas a alucinaciones y prejuicios. Sobre las alucinaciones, inventan cosas, incluso citas y menciones”.

Te puede interesar: Le ‘caerá’ la ley a la inteligencia artificial ¿Qué planea la UE?

Además, argumentó que sobre “la confiabilidad o el sesgo”, estás IA son producto de la programación ideada por humanos que no tenían que hacer tal juramento. Es decir, los abogados realizan “un juramento para dejar de lado sus prejuicios, prejuicios y creencias personales para defender fielmente la ley y representar a sus clientes”.

“Estos sistemas no guardan lealtad a ningún cliente, el estado de derecho o las leyes y la Constitución de los Estados Unidos (o, como se mencionó anteriormente, la verdad)”, dijo Starr.

Para los abogados que lleven al  tribunal de Texas, informes legales que contenga información generada por una IA sin revisión humana y sin certificación, el juzgado “anulará cualquier presentación de un legista que no presente un certificado en el expediente que certifique que el abogado ha leído los requisitos específicos del juez del Tribunal y entiende que él o ella será responsable”.

Imagen: Pixabay

Todo comenzó en agosto de 2019 cuando Roberto Mata viajaba de Salvador a Nueva York y uno de los auxiliares de vuelo lo golpeó en la rodilla con el carrito metálico de comidas. El episodio desencadenó en una demanda contra Avianca.

Mata contrató a la firma de abogados Levidow, Levidow & Oberman; el caso fue asignado a Schwartz, aunque la defensa pidió al juez federal de Manhattan que no lo tomara no fue así y el proceso siguió.

No obstante cuando el audaz y experimentado legista presentó un informe de 10 páginas para argumentar porque el pleito debía seguir, Schwartz no contaba con la exhaustiva revisión de los abogados de Avianca.

Te puede interesar: ¿Asesoría legal gratis? Este es Wardiam: el abogado virtual con IA que te ayudará

La defensa de la aerolínea encontró que la mayoría de los antecedentes judiciales, citas y nombres, no pertenecían a la realidad, ya que no encontraron las fuentes de dicha información; ni siquiera el abogado neoyorquino logró encontrarlas y justificarlas.

Cuando el abogado quedó al descubierto, éste aceptó y presentó una declaración juramentada en la que explicó que su intención no fue engañar al tribunal ni a la aerolínea con ChatGPT, simplemente pecó por exceso de confianza, explicó que “no estaba al tanto de la posibilidad de que su contenido pudiera ser falso”.

Otra de las justificaciones que dió para haber usado el chatbot fue la de que quería agilizar su investigación legal. “Se ha revelado como poco fiable”, dijo.

Por su parte, el juez del caso P. Kevin Castel, explicó al The New York Times, haberse encontrado con “una circunstancia sin precedentes (…) seis de los casos presentados en el informe parecen ser decisiones judiciales falsas, con citas falsas y referencias falsas”.

El abogado, Steven A. Schwartz, tendrá que someterse a una audiencia que se realizará el próximo 8 de junio en la que se discutirán las posibles sanciones.

Imagen: Montaje ENTER.CO

Wardiam, está disponible en una versión web pero la puedes descargar en App Store o Google Play. La plataforma es experta en la ley colombiana, ya que utiliza la inteligencia artificial para estudiar la legislación del país.  El servicio de este chatbot  no tiene costo ni  ninguna modalidad de suscripción por pago.

La nueva inteligencia artificial, según la compañía, te brindará información precisa y actualizada sobre tus derechos legales, lo que te permitirá tomar decisiones informadas y saber a qué recursos puedes acceder.

Te puede interesar: Crean Inteligencia Artificial que dibuja a los sospechosos de un crimen en minutos

Por ejemplo, si sufrió un accidente y usted es el culpable; qué hacer si su arrendatario no le quiere pagar la mensualidad o si ha sido víctima de una estafa o ha tenido dificultades para obtener su pensión, entre otras preguntas.

De acuerdo con el abogado, Mauricio Maestre, pionero en Colombia en el ejercicio del Derecho del Entretenimiento y vocero de la plataforma, explica que la persona puede escribir la inquietud en un lenguaje común y sencillo sobre el asunto legal.

Lo que hará Wardiam será analizar la pregunta y responderá con un tono amigable, no técnico, basándose en más de 900 millones de sentencias que tiene en su base de datos sobre legislación y jurisprudencia, adaptándose al país donde se realiza la consulta.

Te puede interesar: Juez colombiano usó ChatGPT para tomar una decisión judicial

El sistema te brindará una respuesta concreta, fidedigna y sencilla según sea el caso. “Literalmente, se trata de un guardián, con el cual podemos conversar a través de una plataforma potenciada por inteligencia artificial que se comunica con el usuario por medio de un chat”, señala Maestre.

Los abogados que forman parte de Wardiam tendrán acceso a un observatorio de casos y denuncias, y la posibilidad de ser referidos a personas que requieran su ayuda. En este caso, la herramienta otorgará un reporte del caso proveído por la IA, extraído de la previa interacción con el cliente.

La empresa cuenta con una inversión de 2 millones de dólares y tiene como objetivo llegar a 30 millones de dólares en el primer cuarto del año. Además, tienen como meta atender cerca de 130 mil casos en Colombia antes de iniciar su expansión por el continente.

Imagen: Pixabay

Hay que aprender a distinguir entre el disfraz y el personaje. Más webcomics en www.jagodibuja.com.