Abogado armó un escrito con IA, los jueces detectaron falsedades y se lo rechazaron

En este momento estás viendo Abogado armó un escrito con IA, los jueces detectaron falsedades y se lo rechazaron
Compartir en redes

La Cámara de Apelación en lo Civil y Comercial de Morón declaró desierto un recurso de apelación cuya fundamentación se apoyaba sustancialmente en citas jurisprudenciales que no pudieron ser localizadas. El tribunal consideró que la presentación no satisfacía las exigencias de crítica concreta y razonada previstas en el artículo 260 del Código Procesal Civil y Comercial y destacó la necesidad de verificar la autenticidad y correspondencia de las fuentes jurídicas invocadas, especialmente cuando se utilizan herramientas de inteligencia artificial generativa para elaborar escritos judiciales.

El pronunciamiento se dictó a raíz de la apelación interpuesta por un mediador contra la resolución que había fijado la base regulatoria. Al examinar los fundamentos del recurso, la Cámara advirtió que el memorial se construía, en gran medida, sobre la cita de un supuesto precedente de la Suprema Corte de Justicia de la Provincia de Buenos Aires, identificado como “Colegio de Abogados de La Plata c/ Provincia de Buenos Aires”, también denominado “Barrio”, al que se atribuía un criterio relativo a la actualización de honorarios profesionales y la aplicación de tasas de interés. Sin embargo, las búsquedas efectuadas no permitieron localizar la sentencia, la causa ni el sumario invocado. Asimismo, el tribunal señaló que la referencia parecía combinar datos con el conocido precedente “Barrios”, cuyo contenido no abordaba la cuestión atribuida por el recurrente.

En cuanto a los requisitos de fundamentación recursiva, la Cámara recordó que la expresión de agravios debe identificar de manera precisa los errores de hecho o de derecho que se atribuyen a la resolución impugnada y explicar razonadamente por qué sus fundamentos serían incorrectos. No resultan suficientes la mera discrepancia con lo decidido, las afirmaciones genéricas de arbitrariedad, la reproducción de argumentos anteriores ni la cita aislada de precedentes sin demostrar su pertinencia para el caso. Además, corresponde al apelante refutar los fundamentos esenciales de la decisión, sin que esa carga pueda ser suplida por el tribunal de alzada.

El tribunal entendió que la utilización de referencias jurisprudenciales imposibles de verificar impedía considerar que el escrito contenía una crítica suficiente de la resolución apelada. En ese marco, abordó el fenómeno de las denominadas alucinaciones de la inteligencia artificial generativa, consistente en la producción de información aparentemente verosímil que no se corresponde con fuentes reales o que atribuye a precedentes existentes contenidos que estos no poseen. Si bien aclaró que no podía afirmar con certeza que el error detectado proviniera del uso de esas herramientas, señaló que la reiteración de situaciones similares permitía advertir la importancia de reforzar los controles sobre la información incorporada en las presentaciones judiciales.

En ese sentido, destacó que el empleo de sistemas de inteligencia artificial no está vedado, pero exige una revisión cuidadosa de los resultados obtenidos y la corroboración de que las referencias a jurisprudencia, normas y doctrina correspondan a fuentes efectivamente existentes. Advirtió, además, sobre el riesgo de que una cita asociada a un precedente conocido genere una confianza injustificada, aun cuando la decisión invocada no sostenga el criterio que se le atribuye. Por ello, consideró necesario promover un uso ético y responsable de estas tecnologías en el ejercicio profesional, sin que la fluidez o la apariencia de precisión de sus respuestas sustituya la verificación jurídica.

Finalmente, la Cámara declaró desierto el recurso de apelación, con costas al apelante. Asimismo, dispuso poner las circunstancias advertidas en conocimiento del letrado y comunicar la decisión al Colegio de Abogados departamental, a fin de que, si lo consideraba pertinente, difundiera entre los matriculados la importancia de verificar las fuentes utilizadas al preparar presentaciones judiciales con herramientas de inteligencia artificial generativa.

+ posts