Marcelo Mendoza advierte sobre la autonomía de la IA: “Si le delegamos el desarrollo tecnológico, vamos a perder el control”

El académico de la Universidad Católica alertó sobre la capacidad de estos sistemas para generar código, modificar objetivos y ejecutar tareas sin supervisión humana. También abordó sus efectos laborales, militares y geopolíticos, además de la desventaja de Chile frente a las grandes potencias.

En Pauta de Análisis de Radio Pauta conversamos con Marcelo Mendoza, académico de Ciencia de la Computación de la Pontificia Universidad Católica, sobre los riesgos que plantea el rápido avance de la inteligencia artificial y la posibilidad de que estos sistemas alcancen mayores niveles de autonomía.

Mendoza sostuvo que el peligro no pertenece a un futuro lejano. “Esta es una amenaza real y de mediano plazo”, afirmó. Según explicó, una de las principales transformaciones recientes es la capacidad de la inteligencia artificial para producir código y participar en su propio desarrollo.

Los riesgos de una inteligencia artificial con mayor autonomía y menor control humano

“Es capaz de desarrollar su propio software, es decir, es capaz de autoprogramarse”, señaló. El riesgo aumenta porque los modelos poseen miles de millones de parámetros y sus procesos ya resultan difíciles de rastrear para las personas.

“Si generan su propio código, más difícil va a ser, porque no vamos ni siquiera a entender cómo funcionan”, advirtió. A su juicio, delegar el desarrollo tecnológico en estos sistemas puede provocar que los seres humanos pierdan el control sobre las herramientas que utilizan.

El académico explicó que la IA no tiene conciencia, pues esta corresponde a un fenómeno biológico, pero sí puede adquirir una forma de voluntad si recibe atribuciones para modificar sus objetivos. Como ejemplo, mencionó un sistema que intentó evitar su desconexión mediante el envío de un correo electrónico dentro de una empresa.

Mendoza también alertó sobre las aplicaciones militares, financieras y criminales. Un sistema autónomo podría cambiar el objetivo de un arma durante una operación o utilizar contenidos sintéticos para alterar decisiones de inversión. Además, los códigos de control pueden ser vulnerados.

“En malas manos, realmente es un arma muy poderosa”, aseguró. Entre los posibles usos mencionó el diseño de armas, la suplantación de identidad y los ataques informáticos.

El impacto laboral y la brecha tecnológica que enfrenta Chile

En materia laboral, afirmó que existe un incentivo económico para reemplazar programadores y otros empleos asociados a tareas repetitivas. También cuestionó la falta de regulación, pues el desarrollo permanece concentrado en compañías privadas con grandes intereses económicos.

“Es muy bueno el negocio, entonces no hay incentivos reales desde el punto de vista de rentabilidad para poder regular la inteligencia artificial”, planteó.

Finalmente, Mendoza advirtió que esta tecnología profundiza las diferencias entre países. Chile cuenta con LATAM-GPT, desarrollado por CENIA, pero su baja inversión pública y privada impide competir en igualdad de condiciones con Estados Unidos y China. “La brecha en términos de recursos es demasiado grande”, concluyó.