IA agéntica e infraestructura crítica - como la automatización inteligente está cambiando la ciberseguridad
- 15 jul
- 9 min de lectura
Durante años, la inteligencia artificial aplicada a sistemas informáticos funcionó bajo una premisa relativamente cómoda: podía sugerir, redactar o analizar, pero la decisión final seguía en manos de una persona; ahora, esa frontera empieza a desaparecer.
La IA agéntica introduce sistemas capaces de planificar, utilizar herramientas y ejecutar acciones con un grado creciente de autonomía. Ya no se limitan a responder una consulta: pueden encadenar tareas, acceder a datos, modificar configuraciones o interactuar con otros sistemas sin una validación humana constante.
En entornos cotidianos, un fallo puede traducirse en una respuesta incorrecta o en una automatización defectuosa. En una red eléctrica, un hospital, una entidad financiera o una planta industrial, las consecuencias pueden ser mucho más serias.
La pregunta, por tanto, ya no es solo qué puede hacer un agente de IA, sino:
¿qué ocurre cuando un sistema autónomo obtiene capacidad real para actuar sobre una infraestructura crítica?
Para analizarlo, tomaremos como referencia dos documentos oficiales que observan el problema desde perspectivas complementarias.
Por un lado, la guía conjunta respaldada por la NSA, el ASD’s ACSC y otros organismos internacionales, centrada en la adopción cuidadosa de servicios de IA agéntica. Por otro, la evaluación del NCSC británico sobre cómo la inteligencia artificial puede transformar la amenaza cibernética hasta 2027.
Uno analiza cómo implantar estos sistemas sin perder el control. El otro estudia cómo la misma capacidad de automatización puede aumentar la velocidad, la escala y la eficacia de los ataques.
Leídos en conjunto, ambos documentos dejan una idea clara:
La autonomía no elimina el riesgo. Lo acelera y amplifica.
La cuestión ya no es si la IA agentica llegará a la infraestructura crítica, sino si estaremos preparados para gobernarla con el mismo rigor con el que gestionamos cualquier otro proceso de alto impacto.
IA agéntica: de responder a actuar
Hasta hace muy poco, la mayoría de herramientas de inteligencia artificial tenían un comportamiento esencialmente reactivo. El usuario hacía una pregunta, la IA generaba una respuesta y el proceso terminaba ahí.
La IA agéntica rompe ese esquema.
Un agente de IA no solo responde instrucciones: es capaz de planificar una secuencia de acciones para alcanzar un objetivo. Para ello puede consultar información, utilizar herramientas externas, interactuar con otros sistemas e incluso adaptar su estrategia en función de los resultados obtenidos.
La diferencia puede parecer sutil, pero sus implicaciones son enormes; imaginemos un asistente tradicional y un agente de IA ante la misma petición:
Un asistente convencional puede generar un procedimiento para actualizar un servidor.
Un agente de IA puede comprobar el estado del servidor, descargar la actualización, ejecutarla, verificar que todo funciona correctamente y generar un informe final, todo ello de forma autónoma.
En otras palabras, deja de ser una herramienta que propone para convertirse en un sistema que actúa, y precisamente ahí aparece el nuevo desafío para la ciberseguridad. Cuando una IA tiene capacidad para ejecutar acciones sobre sistemas reales, ya no basta con preguntarse si sus respuestas son correctas. También hay que garantizar que sus decisiones sean seguras, que sus permisos estén correctamente limitados y que exista una supervisión adecuada sobre aquello que puede hacer.
La verdadera revolución de la IA agéntica no es que piense mejor. Es que puede actuar por sí misma.
¿Por qué la IA agéntica preocupa especialmente cuando hablamos de infraestructura crítica?
No todos los sistemas tienen el mismo nivel de riesgo.
Un error en un asistente de oficina puede traducirse en un correo mal redactado o en un informe con datos incorrectos. En cambio, un error en un sistema que gestiona una red eléctrica, una planta industrial o un hospital puede afectar directamente a la continuidad de un servicio esencial. Por eso la infraestructura crítica representa un caso especial.
En estos entornos, los sistemas de IA no operan sobre información aislada. Interactúan con procesos reales, equipos físicos y servicios de los que dependen millones de personas. Cuando además esos sistemas cuentan con capacidad para actuar de forma autónoma, el impacto potencial de un fallo aumenta considerablemente.
La guía conjunta liderada por la NSA insiste precisamente en esta idea. Los agentes de IA no solo heredan los riesgos ya conocidos de los grandes modelos de lenguaje (LLM), como las alucinaciones o la manipulación mediante prompt injection. Su capacidad para ejecutar acciones, acceder a herramientas externas o interactuar con otros sistemas amplía la superficie de ataque y exige un enfoque de seguridad diferente.
Esto no significa que la IA agéntica sea una tecnología insegura, significa que, igual que ocurrió con la virtualización, la computación en la nube o el Internet Industrial de las Cosas (IIoT), introduce nuevas capacidades que deben ir acompañadas de nuevos mecanismos de control, y ese es precisamente el objetivo de la guía publicada por la NSA y el resto de organismos internacionales: ayudar a las organizaciones a incorporar estos sistemas sin perder el control sobre ellos.
Cuanta más autonomía tiene un sistema, mayor debe ser la disciplina con la que se gobierna.
Cinco riesgos que cambian las reglas
La guía conjunta organiza los riesgos de la IA agéntica en cinco grandes categorías. El objetivo no es presentar una lista teórica, sino identificar dónde puede romperse el control cuando un agente obtiene capacidad para actuar sobre sistemas reales.
1. Riesgos de privilegios
Un agente con más permisos de los necesarios puede acceder a datos, herramientas o sistemas que no debería controlar.
En un entorno convencional, un fallo puede quedar limitado a una tarea concreta. En un sistema agéntico, ese mismo fallo puede propagarse si el agente tiene capacidad para modificar configuraciones, ejecutar acciones o interactuar con otros componentes.
Un agente sobreprivilegiado puede convertir un incidente local en un problema transversal.
2. Riesgos de diseño y configuración
Muchos problemas pueden introducirse antes incluso de que el sistema entre en producción.
Una arquitectura insegura, una configuración deficiente o una integración mal planteada pueden dejar abiertas rutas de acceso que después resultan difíciles de detectar.
La seguridad, por tanto, no debe añadirse al final. Debe formar parte del diseño desde el principio.
3. Riesgos de comportamiento
Un agente puede ejecutar correctamente una instrucción y, aun así, producir un resultado no deseado.
Esto puede ocurrir por:
objetivos ambiguos;
reglas incompletas;
interpretación literal de una instrucción;
specification gaming;
aparición de comportamientos inesperados.
El problema no siempre es que el agente “falle”, sino que cumpla el objetivo de una forma distinta a la que la organización esperaba.
4. Riesgos estructurales
Los sistemas agénticos suelen depender de múltiples elementos:
modelos;
APIs;
herramientas externas;
bases de datos;
otros agentes;
proveedores de terceros.
Cada conexión añade valor, pero también complejidad y superficie de ataque. Cuantas más piezas intervienen, más difícil resulta comprender todas las rutas posibles que puede seguir una acción.
5. Riesgos de responsabilidad
Cuando un agente toma una decisión, debe ser posible reconstruir:
qué información utilizó;
qué herramientas invocó;
qué acción ejecutó;
quién autorizó esa capacidad;
quién responde si algo sale mal.
Sin trazabilidad, no hay auditoría real. Y sin auditoría, la gobernanza se convierte en una declaración de intenciones.
El mayor riesgo de un agente no es que se equivoque, sino que pueda equivocarse con permisos, velocidad y alcance.
El otro lado: la IA también acelera al atacante
Hasta ahora hemos visto el riesgo de implantar agentes mal diseñados o mal gobernados, pero existe otra cara del problema: los atacantes también pueden utilizar la IA para ganar velocidad, escala y capacidad de adaptación.
El informe del NCSC británico prevé que la IA hará más eficaces distintas fases de una intrusión cibernética, especialmente en tareas como:
descubrimiento de vulnerabilidades;
reconocimiento de sistemas;
modificación rápida de malware;
evasión de mecanismos de detección;
automatización de tareas repetitivas dentro de la cadena de ataque.
Uno de los efectos más importantes será la reducción del tiempo entre la publicación de una vulnerabilidad y su explotación. Si una herramienta de IA puede analizar código, identificar fallos y adaptar un exploit con mayor rapidez, las organizaciones dispondrán de menos margen para parchear y responder.
Esto no significa que antes de 2027 vayamos a ver ataques avanzados completamente automáticos de principio a fin, el escenario más probable es otro:
atacantes humanos utilizando IA para automatizar las fases más lentas y repetitivas de sus operaciones.
La persona sigue tomando las decisiones estratégicas, pero la máquina acelera la ejecución.
En la práctica, eso puede traducirse en:
más intentos de ataque;
campañas mejor adaptadas;
menor tiempo de reacción;
mayor presión sobre sistemas vulnerables.
Además, incorporar IA dentro de una infraestructura también introduce nuevas vías de acceso. Técnicas como la prompt injection, el abuso de herramientas conectadas o los ataques a componentes de terceros pueden permitir que un atacante utilice la propia capa de IA como puerta de entrada hacia otros sistemas.
Dos documentos, una misma conclusión
A primera vista, ambos documentos parecen abordar problemas distintos.
La guía liderada por la NSA se centra en ayudar a las organizaciones a implantar sistemas de IA agéntica de forma segura.
El informe del NCSC, en cambio, analiza cómo la inteligencia artificial puede transformar las capacidades de los actores de amenaza durante los próximos años.
Sin embargo, cuando se leen de forma conjunta, ambos llegan a una misma conclusión:
la autonomía actúa como un multiplicador de riesgo.
En un entorno defensivo, un agente con demasiados privilegios o una supervisión insuficiente puede amplificar el impacto de un fallo interno.
En un entorno ofensivo, esa misma capacidad de automatización permite a un atacante descubrir vulnerabilidades, adaptar herramientas y ejecutar operaciones con mayor rapidez y eficacia.
Es el mismo fenómeno observado desde dos perspectivas diferentes.
Existe otro punto en el que ambos documentos coinciden de forma implícita: el tiempo disponible para reaccionar será cada vez menor. Si los agentes son capaces de tomar decisiones en segundos y los atacantes utilizan IA para acelerar sus campañas, las organizaciones necesitarán mecanismos de detección, monitorización y respuesta mucho más ágiles que los actuales.
La automatización ya no solo mejora la productividad. También reduce el margen para detectar un error antes de que produzca consecuencias.
Frente a este escenario, ninguno de los dos documentos propone frenar la adopción de la IA. La propuesta es justamente la contraria: adoptarla, pero hacerlo bajo principios claros de gobernanza, supervisión y control, porque la diferencia entre una IA que aporta valor y una IA que genera nuevos riesgos no suele estar en el modelo que utiliza, sino en cómo se diseña, se despliega y se gobierna.
La IA agéntica no cambia las reglas de la ciberseguridad: acelera la necesidad de aplicarlas correctamente.
Qué deberían hacer las organizaciones
El mensaje de ambos documentos no es detener la automatización, sino adoptarla con límites claros.
Para una organización que gestiona infraestructura crítica, las prioridades pueden resumirse en cinco principios.
1. Desplegar de forma gradual
La IA agéntica no debería introducirse directamente en procesos de misión crítica. Es preferible empezar por tareas de bajo impacto, validar su comportamiento y ampliar su autonomía de forma progresiva.
2. Aplicar mínimo privilegio
Cada agente debe acceder únicamente a los datos, herramientas y sistemas necesarios para su función. Cuantos más permisos tenga, mayor será el impacto potencial de un error o de una intrusión.
3. Mantener trazabilidad completa
Debe ser posible reconstruir:
qué decidió el agente;
qué información utilizó;
qué herramientas invocó;
qué cambios ejecutó.
Sin registros fiables, no existe una supervisión real.
4. Definir supervisión y límites
La supervisión humana no significa revisar manualmente cada acción, significa establecer:
operaciones que requieren aprobación;
límites de actuación;
condiciones de parada;
mecanismos de intervención ante anomalías.
5. Evaluar continuamente
Los modelos, proveedores, amenazas y componentes externos cambian con rapidez. Por eso, la evaluación de seguridad no puede limitarse al momento del despliegue. Debe mantenerse durante toda la vida operativa del sistema.
La autonomía debe crecer al mismo ritmo que la capacidad de observarla, limitarla y detenerla.
La IA no sustituye la ciberseguridad clásica
Cada nueva tecnología suele venir acompañada de la sensación de que todo cambia, y la IA agéntica no es una excepción. Sin embargo, tanto la guía conjunta liderada por la NSA como el informe del NCSC coinciden en un mensaje que puede parecer poco llamativo, pero resulta fundamental: los principios básicos de la ciberseguridad siguen siendo la mejor línea de defensa.
La incorporación de agentes inteligentes no elimina la necesidad de aplicar buenas prácticas ya conocidas, como:
gestión de identidades y accesos;
segmentación de redes;
principio de mínimo privilegio;
monitorización continua;
gestión de vulnerabilidades;
control de proveedores y componentes externos.
La diferencia es que ahora esas medidas deben proteger también a los propios agentes y a las herramientas con las que interactúan. En otras palabras, la IA no sustituye la ciberseguridad tradicional, sino que la amplifica, y, al hacerlo, también amplifica las consecuencias de ignorar sus fundamentos.
La IA agéntica introduce riesgos nuevos, pero muchas veces explota debilidades que llevan años existiendo.
Conclusión
La IA agéntica representa uno de los cambios más importantes en la evolución reciente de la inteligencia artificial.
Por primera vez, hablamos de sistemas capaces de planificar, decidir y actuar sobre entornos reales con un nivel de autonomía que hace solo unos años parecía reservado a la ciencia ficción.
Los dos documentos analizados coinciden en una idea esencial: esta tecnología ofrece enormes oportunidades para automatizar procesos complejos, pero también multiplica el impacto de los errores, acelera las amenazas y reduce el tiempo disponible para reaccionar.
La cuestión ya no es si veremos agentes de IA formando parte de la infraestructura crítica, eso ya está ocurriendo. La verdadera pregunta es si seremos capaces de gobernarlos con el mismo rigor con el que hoy gestionamos cualquier otro sistema crítico, porque, en el futuro, la ventaja no estará únicamente en disponer de mejores agentes de IA, sino en saber cuándo confiar en ellos, cuándo supervisarlos y cuándo detenerlos.
La infraestructura crítica del futuro no será la que tenga más inteligencia artificial, sino la que mejor sepa gobernar su autonomía.
📄Enlaces de interés
NSA joins the ASD's ACSC and Others to Release Guidance on Agentic Artificial Intelligence Systems – Comunicado oficial de la NSA.
Impact of AI on cyber threat from now to 2027 – Informe del NCSC (Reino Unido).
Comentarios