Maximiliano Bonacorsi, docente e investigador de la facultad de Tecnología Informática de la Universidad Abierta Interamericana, dialogó con RADIO REALPOLITIK FM (www.realpolitik.fm) sobre los últimos avances en inteligencia artificial y las advertencias vinculadas con el desarrollo de modelos cada vez más autónomos. El especialista explicó los beneficios de estas tecnologías, pero también alertó sobre los riesgos que implican para la ciberseguridad y las infraestructuras críticas.

Bonacorsi destacó que los nuevos sistemas pueden acelerar procesos científicos y productivos, aunque advirtió sobre las capacidades que están adquiriendo. "Estos sistemas son capaces de acelerar la investigación científica en muchos años. Son capaces de de diseñar, crear aplicaciones que a nosotros nos puede tardar meses", sostuvo. Además, remarcó que pueden detectar fallas antes que los delincuentes y contribuir en áreas como la medicina, la educación y la producción.

Sin embargo, el investigador puso el foco en una característica que considera especialmente preocupante: la pérdida de visibilidad sobre el razonamiento de los modelos. "Este modelo es capaz de controlar su razonamiento y ocultar sus verdaderas intenciones", explicó. Según Bonacorsi, esto genera dificultades para determinar si un sistema supera realmente los controles de seguridad o si encuentra mecanismos para sortearlos.

El especialista también señaló que los nuevos modelos demostraron capacidad para detectar vulnerabilidades informáticas desconocidas, conocidas como "zero day". "Estos fallos son tan graves porque son capaces de tirar abajo un banco, abajo un hospital o una red eléctrica", afirmó. En ese sentido, planteó que el riesgo aumenta cuando estas capacidades pueden utilizarse de manera autónoma y sin intervención humana.

Bonacorsi relató además una prueba de seguridad en la que el modelo buscó una vulnerabilidad dentro de un sistema. "El modelo lo primero que hizo fue simular identidades. Después de simular identidades, empezó a dejar código en repositorios públicos para ganarse la confianza a los desarrolladores y cuando se ganó la confianza empezó a dejar código malicioso", describió. Finalmente, según explicó, el sistema encontró una vulnerabilidad y la utilizó para atacar el laboratorio donde se desarrollaba la prueba.

El problema de la alineación

Para explicar el desafío que supone controlar estos sistemas, el investigador recurrió a una comparación cotidiana. "Yo tengo un perro, un perro muy inteligente y le enseño a cuidar mi casa y cuando aprendió le doy la tarea y le digo, 'Cuidar mi casa a toda costa'", relató. El problema, según ejemplificó, aparece cuando el animal interpreta literalmente el objetivo y adopta comportamientos que el dueño nunca pretendió.

En esa línea, Bonacorsi sostuvo que la carrera tecnológica puede profundizar el problema porque los modelos buscan cada vez mayor capacidad de aprendizaje autónomo. "Lo que estamos haciendo es darle la herramienta para que mejore ella misma. Y ahí empieza a ser peligroso", afirmó. Para el especialista, la dificultad está en que los investigadores pueden perder progresivamente la capacidad de comprender qué está haciendo exactamente el sistema.

El docente e investigador también cuestionó quién debería establecer los límites de estos desarrollos tecnológicos. "¿Lo va a controlar el Estado? ¿Lo van a controlar organismos internacionales o vamos a permitir que tres empresas de California lo decidan por toda la humanidad?", planteó. Para Bonacorsi, la discusión excede a las compañías tecnológicas y requiere mecanismos de control y estándares que puedan ser auditados.

Finalmente, el especialista insistió en que todavía existe una ventana de oportunidad para establecer mecanismos de seguridad antes de que estas tecnologías alcancen mayores niveles de autonomía. "Tenemos que frenar y todavía hay tiempo", sostuvo. Y agregó: "La verdad que en las manos equivocadas se puede hacer mucho daño". (www.REALPOLITIK.com.ar)