Por Maria Angela Fiorentini y Gianella Milagros Ramirez Fantin

La incorporación de sistemas de Inteligencia Artificial (IA) en la administración de justicia no representa una mera modernización administrativa o de gestión; constituye una disrupción sustancial en el ejercicio de la potestad jurisdiccional del Estado. Tradicionalmente entendida como una función reservada a la prudencia y discrecionalidad humana, la labor del magistrado enfrenta hoy la tentación de delegar tareas analíticas y decisorias en modelos predictivos y generativos –en especial, Grandes Modelos de Lenguaje o LLMs–.

Si bien la IA promete optimizar los tiempos procesales, su despliegue en el estrado interpela de forma directa el núcleo duro de las garantías convencionales: la tutela judicial efectiva, el debido proceso legal, el derecho a ser juzgado por un juez natural independiente e imparcial, y el deber ineludible de motivación de las sentencias –arts. 18 de la Constitución Nacional [CN]; 8 y 25 de la Convención Americana sobre Derechos Humanos [CADH];14 del Pacto Internacional de Derechos Civiles y Políticos [PIDCP]–.

El rol del magistrado en la etapa probatoria se encuentra signado por el principio de inmediación y la búsqueda de la verdad jurídica objetiva. Al plantearse si la IA puede actuar como un selector o instructor oficioso de la prueba, surge un conflicto directo con la garantía del juez natural y la imparcialidad judicial. Delegar la ponderación de qué elementos fácticos incorporar o descartar en un algoritmo opaco traslada la facultad de juzgar a un sistema no humano y por tanto pone en jaque las garantías constitucionales y convencionales.

Asimismo, las garantías constitucionales pueden verse afectadas cuando el magistrado intenta utilizar la IA para suplir conocimientos técnicos, asumiendo virtualmente el rol de un perito. Un caso paradigmático en la jurisprudencia nacional es el fallo “Vallejos c/ Instituto Cardiovascular de Rosario”. Allí, el juez recurrió a herramientas como Chat GPT-4, Meta Llama 3.2 y Gemini para determinar si el término médico ‘recanalización espontánea post quirúrgica’ era comprensible para un lego, apoyándose en las respuestas algorítmicas por sobre la opinión de los peritos médicos del caso. Esta práctica despierta alertas sobre el peligro de que la IA sustituya completamente la experticia humana requerida en el proceso probatorio”[1]. Además, la utilización de estas herramientas por parte del magistrado introduce un delicado conflicto con el principio de congruencia procesal y la garantía de defensa en juicio. Pues, si el juez se vale de información obtenida de oficio a través de la IA directamente en el dictado de la sentencia, estaría incorporando elementos no proporcionados ni debatidos por las partes y así, estaría trasgrediendo dicho principio.

En el mismo sentido, la masificación de herramientas generativas abre la puerta a la incorporación de pruebas fraudulentas o manipuladas (deepfakes). Ello exige a los tribunales la adopción rigurosa de estándares criptográficos y cadenas de custodia digital. A su vez, los modelos de lenguaje padecen de fallas estructurales como la “ventana de contexto” acotada y las “alucinaciones”, lo que puede inducir al juzgador a sostener determinaciones sobre datos inexistentes o fragmentarios.

También, el suministro de piezas procesales o datos sensibles de las partes en plataformas comerciales de IA quebranta el deber de reserva y la confidencialidad judicial. Como ilustra la jurisprudencia federal estadounidense, los datos alojados en servidores de terceros pierden la expectativa de privacidad y pueden ser objeto de secuestro o fuga, comprometiendo la responsabilidad del Estado ante los justiciables.

Uno de los aspectos materiales del debido proceso y el derecho a una sentencia fundada radica en la apreciación de la prueba conforme a las reglas de la sana crítica. Esta exige un juicio lógico, empírico y ético que no admite delegación. El deber de motivar las resoluciones judiciales no es una mera formalidad de estilo; es la garantía republicana por excelencia contra la arbitrariedad y el abuso de poder que, en definitiva, hace viable el derecho de recurrir ante un tribunal superior –art. 8.2.h CADH–

La inteligencia artificial puede admitirse como una herramienta de soporte auxiliar, destinada a ordenar información fáctica, depurar tareas mecánicas o facilitar la comunicación social de las decisiones judiciales. Sin embargo, su consagración como oráculo o co-juez quebranta los cimientos del Estado Constitucional y Convencional de Derecho.

La tutela judicial efectiva y el debido proceso garantizan a cada ciudadano que su causa será escuchada, examinada y decidida por una persona dotada de criterio jurídico, pensamiento crítico e investidura constitucional.

En una época dominada por el apremio de la celeridad, los operadores jurídicos deben recordar que la función de juzgar no persigue una mera optimización de resultados, sino la realización de la justicia en el caso concreto. Consecuentemente, debe existir un uso prudente de IA por parte de los magistrados ya que esta herramienta puede alterar los derechos humanos al debido proceso, defensa en juicio, tutela judicial efectiva, juez natural e imparcialidad. Así, existen directrices y pautas –como las directrices de la UNESCO[2] y el Reglamento de IA de la Unión Europea– que clasifican a los sistemas de asistencia jurisdiccional en la valoración de hechos y derecho como de “alto riesgo”, exigiendo una gobernanza rigurosa, trazabilidad estricta, la necesidad de auditorías algorítmicas y supervisión humana significativa.

[1] Cfr. Juzg. 1ra. Inst. Civil y Comercial 16ta. Nom., “Vallejos, Erica Evelin c/ Instituto Cardiovascular de Rosario y otros s/ Daños y Perjuicios”, Nº de expediente: 21-01625289-9, 04/2025.

[2]  Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), “Guidelines for the Use of AI Systems in Courts and Tribunals”, 2025.