Inteligencia artificial y Justicia: debate en el STJER sobre riesgos, sesgos y control humano

En el ámbito de los Tribunales de Paraná, el Superior Tribunal de Justicia de Entre Ríos (STJER) fue escenario este jueves de una jornada de análisis sobre el impacto de la inteligencia artificial en el sistema judicial, con foco en sus implicancias éticas, jurídicas y operativas.

La actividad -organizada por el Instituto “Dr. Juan Bautista Alberdi”, a partir de una iniciativa de la vocal Gisela Schumacher- incluyó la disertación de la investigadora española Elisa Simó Soler, quien abordó los desafíos de la inteligencia artificial generativa, los sesgos algorítmicos y su incidencia en el acceso a la Justicia.

En ese marco, Diario El Enfoque pudo reconstruir que uno de los ejes centrales del encuentro giró en torno a la necesidad de establecer límites claros al uso de estas tecnologías, especialmente en ámbitos sensibles como la resolución de conflictos judiciales y la protección de derechos.

Una Justicia atravesada por la tecnología

Durante su exposición, Simó Soler planteó que la inteligencia artificial “no es un fenómeno futuro sino una realidad vigente”, aunque advirtió sobre los riesgos de trasladar decisiones complejas a sistemas automatizados sin el debido control humano.

“Antes de pensar en una Justicia algorítmica, hay que preguntarse por qué y para qué utilizarla”, sostuvo.

En esa línea, la especialista remarcó que los sistemas de IA pueden reproducir desigualdades preexistentes, particularmente en materia de género, si no se diseñan con criterios adecuados.

“Los sesgos algorítmicos pueden reforzar estereotipos y generar nuevas formas de violencia, incluso a través de herramientas como las deepfakes”, alertó.

Asimismo, subrayó que la transformación digital del sistema judicial debe garantizar derechos constitucionales, como el acceso efectivo a la tutela judicial, incorporando perspectiva de género y mecanismos de supervisión.

Entre los riesgos identificados mencionó la falta de transparencia en los procesos automatizados, la posible vulneración de derechos y las limitaciones propias de los sistemas tecnológicos. No obstante, también reconoció oportunidades vinculadas a la eficiencia, la trazabilidad y la mejora en la calidad de las respuestas judiciales.

El SIAV: desarrollo propio y control institucional

En el mismo encuentro se presentó el Sistema Interinstitucional de Abordaje de la Violencia (SIAV), una herramienta desarrollada por el STJER que actualmente se encuentra en etapa piloto en Paraná.

La secretaria general del organismo, Elena Salomón, explicó que el sistema no constituye una inteligencia artificial generativa, sino un modelo de automatización orientado a la predicción temprana de riesgos en contextos de violencia.

Según se detalló, el SIAV fue diseñado con datos propios del Poder Judicial y bajo criterios previamente definidos por equipos interdisciplinarios, lo que -de acuerdo a sus desarrolladores- permite garantizar mayor trazabilidad y control sobre su funcionamiento.

“No reemplaza la intervención humana, sino que actúa como soporte para la toma de decisiones”, precisó Salomón.

En ese sentido, se enfatizó que el sistema no produce información nueva, sino que procesa y clasifica datos existentes, priorizando casos y evitando la revictimización de las personas involucradas.

Otro de los aspectos destacados fue la existencia de un manual técnico que documenta el diseño del algoritmo, lo que permitiría auditar su funcionamiento, un punto clave en el debate global sobre transparencia en inteligencia artificial.

Un debate que excede lo tecnológico

La jornada contó con la presencia del presidente del STJ, Germán Carlomagno, junto a las vocales Susana Medina, Laura Soage, Gisela Schumacher y Claudia Mizawak (vía remota), y reunió a operadores judiciales, académicos y especialistas de distintas jurisdicciones del país.

El interés generado -con participación de 14 provincias y la Ciudad Autónoma de Buenos Aires- evidencia que la discusión sobre inteligencia artificial en la Justicia ya no es técnica, sino profundamente institucional y política.

En ese contexto, el eje planteado durante la jornada dejó una definición implícita: la incorporación de tecnología en el sistema judicial no puede pensarse únicamente en términos de eficiencia, sino también de garantías, control democrático y resguardo de derechos.

Diario El Enfoque, con información del STJER