Sergio Somerville y los riesgos de la IA: advierte una creciente pérdida de control humano sobre estos sistemas

En Radio Pauta, el especialista en inteligencia artificial y consultor del Banco Mundial abordó los alcances de los nuevos modelos y alertó sobre un escenario donde los sistemas superan la capacidad humana de supervisión, con impactos potenciales en seguridad, economía y vida cotidiana.

En Pauta de Análisis de Radio Pauta, conversamos con el especialista en inteligencia artificial y consultor del Banco Mundial, Sergio Somerville, sobre el avance de los nuevos modelos y los riesgos que hoy concentran la atención global.

El experto planteó que el foco del debate cambió y ya no se limita a fallas técnicas, sino a un fenómeno más profundo: la capacidad de estos sistemas para operar con niveles de autonomía que desafían el control humano.

Avance de la inteligencia artificial abre debate por control, seguridad y regulación global

En ese contexto, advirtió que “hay una pérdida del control y una amenaza existencial a la raza humana”, en línea con alertas que han surgido desde la propia industria tecnológica.

A su juicio, el problema no radica solo en el desarrollo de herramientas más sofisticadas, sino en la velocidad con que estas tecnologías se expanden sin marcos regulatorios claros.

IA como agente y riesgos de seguridad en sistemas críticos

Somerville explicó que la inteligencia artificial no funciona como un software tradicional. “La inteligencia artificial no es una herramienta… es un agente y el agente se entrena”, señaló,y subrayó que estos sistemas aprenden de enormes volúmenes de información y pueden detectar vulnerabilidades con una capacidad superior a la humana.

Esa característica abre un flanco crítico en materia de seguridad. “Tiene tanta potencia como para proteger sistemas, pero esa misma potencia puede servir para vulnerar sistemas”, afirmó, junto con advertir que el impacto puede escalar a nivel global.

Según detalló, la interconexión digital hace posible que eventuales fallas o usos maliciosos afecten áreas sensibles como las finanzas, las comunicaciones o el transporte.

El experto también abordó la dimensión cotidiana del fenómeno. Sostuvo que las personas ya interactúan de forma permanente con sistemas que recopilan y procesan datos, lo que implica una cesión progresiva de control.

Frente a ese escenario, enfatizó que el criterio humano debe mantenerse en el centro. “Yo no puedo delegar el criterio, el juicio, el respeto, la empatía a una máquina”, afirmó.

Finalmente, planteó que el desafío no es frenar el avance tecnológico, sino aprender a convivir con él. A su juicio, la clave estará en la educación y en la capacidad de las sociedades para formar ciudadanos que comprendan y gestionen estos sistemas.