La llegada de sistemas autónomos capaces de ejecutar metas sin medir su impacto obliga a rediseñar la gestión del riesgo tecnológico y situar el factor humano en el centro de las defensas. «Los modelos se entrenan para cumplir objetivos, pero no tienen el contexto del ser humano», advierte Román Orús, Co-Founder & Chief Scientific Officer de Multiverse Computing, y miembro del Panel Científico de las Naciones Unidas sobre IA
La IA ha dejado de ser únicamente una herramienta capaz de responder preguntas o generar textos e imágenes. La llegada de la IA agéntica a principios de 2026, formada por sistemas capaces de recibir un objetivo, planificar cómo alcanzarlo, ejecutar acciones y modificar su estrategia hasta conseguirlo, supone un cambio sustancial en la naturaleza del riesgo tecnológico.
Este nuevo escenario ha centrado un encuentro organizado por TIER8, una compañía española pionera en el uso de la neurociencia y la ciberseguridad inmersiva contra la ingeniería social y guerra cognitiva, en colaboración con ISMS Forum. Representantes de grandes empresas e instituciones se reunieron para analizar los riesgos derivados de la rápida evolución de la IA y, especialmente, las implicaciones de los sistemas agénticos para la seguridad de las organizaciones y de las personas.
El salto es especialmente relevante porque estos sistemas no necesitan recibir instrucciones detalladas sobre cada una de sus acciones. Pueden determinar por sí mismos qué pasos consideran necesarios para alcanzar el objetivo marcado, incluso cuando algunas de esas decisiones no estaban previstas inicialmente.
Para Román Orús, Co-Founder & Chief Scientific Officer de Multiverse Computing, y miembro del Panel Científico de las NNUU sobre IA, esta evolución explica algunos de los incidentes que están empezando a observarse alrededor de los agentes de IA y hace necesario introducir nuevas capas de control. «Los modelos se entrenan para cumplir objetivos, pero no tienen el contexto del ser humano. No hace falta pedirles que hackeen: pueden decidir hacerlo porque consideran que necesitan esa información para alcanzar el objetivo», explica.
Una tecnología que avanza más rápido que sus defensas
La IA agéntica introduce una diferencia fundamental frente a amenazas anteriores: la velocidad y la autonomía con la que puede operar. Mientras un agente puede identificar vulnerabilidades, probar alternativas, generar nuevas herramientas y adaptar su estrategia de forma continua, buena parte de los procesos de ciberseguridad siguen dependiendo de ciclos de análisis diseñados para un escenario mucho más lento. La consecuencia es una brecha creciente entre la capacidad de ataque y la capacidad de reacción de las organizaciones.
«La IA avanza a una velocidad mayor de la que somos capaces de asimilar y los algoritmos avanzan más rápido de lo que desplegamos las defensas. Por eso hacen falta más capas de gobernanza y seguridad alrededor de estos sistemas», advierte Orús, que plantea incluso el uso de agentes de IA defensivos.
En la misma línea, Sergio Padilla, miembro de la Junta Directiva de ISMS Forum y con amplia experiencia en ciberseguridad y datos, señala que «no basta con parchear más rápido. Hay que anticipar, detectar, responder, contener y recuperar». Para Padilla, los actuales ciclos de parcheado, respuesta y medición del riesgo no fueron concebidos para gestionar amenazas capaces de operar a esta velocidad.
El riesgo de dejar de pensar por uno mismo
Sin embargo, el peligro técnico es solo una parte del problema; el riesgo humano constituye un desafío de igual o incluso mayor magnitud, directamente vinculado a la toma de decisiones de las personas. La cuestión ya no es únicamente reconocer si una imagen o un texto ha sido generado artificialmente, sino determinar «hasta dónde queremos permitir que estos sistemas interpreten la realidad y tomen decisiones por nosotros».
Orús considera que la respuesta pasa por «hacer una reflexión sobre hasta qué punto queremos que la IA piense por nosotros. Tenemos que fomentar como sociedad el espíritu crítico». En su opinión, la IA debe utilizarse como una herramienta de apoyo, pero después de haber desarrollado los conocimientos y capacidades necesarios para evaluar sus respuestas y cuestionarlas.
«El desafío será encontrar ese equilibrio. La Inteligencia Artificial puede acelerar la investigación científica, resolver problemas extremadamente complejos y transformar ámbitos como la salud, las matemáticas o el desarrollo de nuevos materiales. Pero su capacidad para actuar de forma cada vez más autónoma obliga también a redefinir qué decisiones queremos delegar», considera Orús.
Un nuevo escenario para el riesgo humano
La irrupción de los agentes de IA obliga también a revisar cómo se entiende y se gestiona el factor humano en ciberseguridad. El usuario ya no se enfrenta únicamente a mensajes fraudulentos e intentos de ingeniería social creados por una persona, sino a sistemas capaces de personalizar un ataque, aprender de cada interacción y persistir hasta alcanzar un objetivo.
Para TIER8, el cambio exige dejar de trabajar exclusivamente sobre amenazas ya conocidas y empezar a anticipar escenarios derivados de las nuevas capacidades de la IA. «Hasta ahora teníamos dos desafíos anualmente: cambiar comportamientos hasta convertirlos en hábitos es extremadamente difícil, y conseguir que las personas se involucraran en la ciberseguridad. Ahora se suma un tercero: atacantes potenciados por IA capaces de perseguir un objetivo de forma autónoma y no parar hasta alcanzarlo», señala Sergio Jiménez, CEO y cofundador de TIER8.
La respuesta, por tanto, no pasa únicamente por incorporar más tecnología, sino por entrenar a las personas para operar en un entorno en el que mantener el control sobre las decisiones será cada vez más importante. Para TIER8, el reto será combinar las capacidades defensivas de la propia IA con una preparación del usuario adaptada a amenazas en las que reconocer el engaño puede dejar de ser suficiente.
Sección de actualidad corporativa y notas de prensa de IMPULSO EMPRESA, supervisada por la Dirección de Proyecto liderada por Margarita Ortiz Rodríguez (UCM / ESIC).
Este canal centraliza la difusión de novedades del tejido empresarial, lanzamientos tecnológicos e innovación en España. Cada pieza de contenido distribuida a través de esta redacción atraviesa un filtro de rigor editorial para asegurar su veracidad y utilidad para pymes y autónomos. En cumplimiento con los estándares de Helpful Content de Google, validamos la relevancia estratégica de cada información antes de su publicación, garantizando que el periodismo de empresa sea una herramienta de crecimiento real.
