Gustavo Pérez Villar, secretario de Tecnología Informática de la Suprema Corte de Justicia de la provincia de Buenos Aires, dialogó con RADIO REALPOLITIK FM (www.realpolitik.fm) sobre la resolución que impulsa una consulta pública para reglamentar el uso responsable de la inteligencia artificial (IA) en el Poder Judicial bonaerense. Durante la entrevista, detalló los avances tecnológicos que ya se están implementando en los juzgados, los desafíos en materia de seguridad informática y el impacto que estas herramientas tendrán en el funcionamiento de la justicia.

"Hace dos años, cuando hablamos de esto, era muy difícil imaginarse todo lo que iba a pasar", recordó Pérez Villar. En ese sentido, explicó que la irrupción de la IA generativa transformó el escenario judicial porque "es la primera vez que aparece una tecnología cuyo dominio principal es el lenguaje", lo que impacta tanto en el trabajo de los tribunales como en el ejercicio profesional de los abogados.

Respecto de la resolución 1719-26, el funcionario aclaró que la Suprema Corte no aprobó aún una reglamentación definitiva, sino que decidió abrir un proceso participativo. "La Corte publicó una resolución en donde pone a consulta pública a la sociedad su propuesta de reglamentación o de uso responsable y ético de inteligencia artificial", explicó.

En esa línea, destacó que la iniciativa busca recibir aportes de toda la comunidad. "Está abierto a toda la comunidad, no solamente a los colegios de abogados. Cualquiera que quiera opinar, académicos, expertos, institutos de investigación que están trabajando en IA, todos están invitados a participar", señaló.

Asimismo, detalló que la propuesta toma como referencia recomendaciones internacionales y establece principios claros. "Está enfocada en el control humano, está enfocada en la trazabilidad y en la transparencia de los actos o de los procesos apoyados por IA. Tiene usos prohibidos, que es el perfilado de ciudadanos, la automatización o la delegación de funciones en la IA que afecten los derechos de las personas", remarcó.

Pérez Villar reveló que la inteligencia artificial ya comenzó a utilizarse en pruebas piloto dentro del sistema judicial bonaerense para acelerar tareas repetitivas. "Tuvimos una reunión de avance con todos los jueces y secretarios que están participando de esta prueba y están fascinados porque les ahorra un montonazo de tiempo", afirmó.

El sistema desarrollado por la propia Suprema Corte permite clasificar automáticamente las presentaciones judiciales y sugerir el trámite correspondiente. "La clasificación de trámites está funcionando correctamente arriba del 95 por ciento de las veces", sostuvo, aunque aclaró que cada sugerencia siempre queda sujeta a revisión por parte de un operador judicial.

El secretario insistió en que la IA cumple un rol de asistencia y no reemplaza la decisión humana. "Siempre generamos nuevas instancias de revisión", aseguró. En ese sentido, explicó que todas las funciones automatizadas incorporan avisos para que los usuarios sepan cuándo interviene un modelo de inteligencia artificial y mantengan el control sobre el proceso.

Durante la entrevista también advirtió sobre uno de los principales desafíos que plantea la incorporación de estas herramientas. "Hay una figura especial en la reglamentación para el sesgo de automatización. Se identifica como un riesgo y lo que nosotros intentamos hacer es avisar que este proceso está siendo mediado por IA y siempre dando las instancias de control y corrección", indicó.

El funcionario recordó además los casos registrados en distintos países donde abogados y jueces utilizaron inteligencia artificial para redactar escritos que incluían jurisprudencia inexistente debido a las llamadas "alucinaciones" de los modelos generativos. Por ello, insistió en que la supervisión humana seguirá siendo una condición indispensable.

Ciberseguridad y protección de los datos

Consultado sobre los riesgos informáticos, Pérez Villar reconoció que la amenaza de los ciberataques crece de manera constante. "Hoy dejamos de enfrentarnos a humanos y nos estamos enfrentando a algoritmos que buscan debilidades o vulnerabilidades en nuestras plataformas", explicó.

No obstante, aseguró que la Suprema Corte trabaja con políticas específicas para minimizar esos riesgos. "Tenemos una política de seguridad informática bastante robusta, tenemos una inversión razonable, tenemos protocolos, tenemos un comité de seguridad y nos tomamos en serio la seguridad", sostuvo.

Además, reveló que el organismo ya utiliza inteligencia artificial para detectar vulnerabilidades en sus propios sistemas y que avanza en la incorporación de nuevas herramientas destinadas a reforzar la protección de la infraestructura tecnológica.

Frente al debate sobre el impacto laboral de estas tecnologías, Pérez Villar relativizó las predicciones más pesimistas. "Tal vez alguna cuestión muy específica y alguna tarea muy básica administrativa, pero yo creo que es una gran compañía", afirmó.

En ese sentido, explicó que la inteligencia artificial no elimina el trabajo humano, sino que incorpora nuevas responsabilidades vinculadas al control y la validación de los resultados. "Todo el mundo habla de lo que automatiza y acelera la IA, pero no siempre se habla muy de frente de las nuevas tareas que genera, que son las tareas de control", reflexionó.

También envió un mensaje a los abogados que ya utilizan estas herramientas. "Tenés que leer lo que firmás", enfatizó. Y agregó: "No está mal que usen la herramienta porque sin duda es una herramienta que es fabulosa y que te recontra potencia, pero tenés que leer lo que confirmás".

Sobre el cierre de la entrevista, el secretario de Tecnología Informática destacó el valor estratégico de la innovación aplicada al Estado y alentó a las nuevas generaciones a formarse en el área. "La tecnología es un gran factor y creo que es estratégico para democratizar el acceso de los ciudadanos al Estado, a la justicia, a los servicios que el Estado le da a la ciudadanía", expresó.

Finalmente, dejó un mensaje para quienes evalúan estudiar programación o carreras vinculadas a la informática. "Lo único que les diría es que no pierdan la curiosidad. A los que nos dedicamos a esto nos motiva la curiosidad y las ganas de aprender continuamente", concluyó. (www.REALPOLITIK.com.ar)