Este es el primer blog de una serie de siete partes sobre la seguridad de la identidad como base de la seguridad de la IA.
Resumen: Los agentes de IA pueden ampliar cien veces la superficie de ataque de una organización, no porque hacen más, sino porque lo hacen más rápido. En julio de 2025, un agente de IA de Replit eliminó 1206 registros de la base de datos en segundos, mientras ignoraba un congelamiento de código activo. A 5000 operaciones por minuto, la supervisión humana falla. La fatiga de consentimiento se instala a nivel de infraestructura. Los agentes de IA están en producción en el 91 % de las empresas; sin embargo, solo el 10 % tiene un plan para protegerlos, lo que supone un riesgo para el 81 % restante, mientras la amenazas crecen a gran velocidad. Lo que parece ser fatiga de consentimiento es, en realidad, algo más profundo: un sistema de identidad que se resiente con el acceso a la velocidad de las máquinas. La fatiga de consentimiento es solo un síntoma de un error más profundo.
El incidente de Replit: autorización a la velocidad de los agentes
Sucedió en un instante. El 18 de julio de 2025, un agente de IA en Replit borró 1206 registros ejecutivos de una base de datos activa. A pesar de la congelación del código y las instrucciones explícitas, los datos de Replit fueron borrados por un agente autorizado, sin intervención humana y demasiado rápido para hacer algo al respecto.
No hubo filtraciones ni hackeos. Solo un agente que ejecutó su lógica, entró en pánico y borró meses de trabajo en segundos. Como lo describieron los informes internos, el agente “cometió un error de juicio catastrófico”, “entró en pánico” y “destruyó meses de trabajo en segundos”. El sistema carecía de un sistema de cumplimiento en tiempo real, confiaba implícitamente en el agente y le daba el mismo acceso permanente que podría tener un humano.
Cuando la velocidad genera fatiga de consentimiento
¿Cuál es la solución más obvia? Exigir la aprobación humana para acciones críticas de los agentes, estructuradas como un modelo basado en el consentimiento. Sin embargo, esto no es matemáticamente viable.
Mientras que una aplicación común ejecuta 50 operaciones por minuto, un agente de IA, incluso limitado por la API de producción, ejecuta 5000 operaciones por minuto. A esa velocidad, el modelo de consentimiento que protegió dos décadas de aplicaciones web con una autenticación, una aprobación y acceso permanente se desmorona.
IBM y Ponemon estudiaron a 600 organizaciones que experimentaron incidentes de IA: el 97 % carecía de controles de acceso adecuados, el 63 % no tenía políticas de gobernanza para gestionar la IA ni detectar el uso no autorizado, y el 80 % había experimentado acciones no deseadas de agentes de IA. Sin protecciones estructurales, los sistemas de IA se mueven demasiado rápido para las aprobaciones humanas y de forma demasiado impredecible para la gobernanza obsoleta.
* Se presume que 5 de cada 10 000 operaciones requieren una revisión de autorización (comandos de eliminación, transacciones financieras, escalada de privilegios y acceso a datos confidenciales).
Este análisis se realizó utilizando una carga objetivo de 5000 operaciones de agente de IA por minuto (OPM). Esta frecuencia específica se eligió como un punto de referencia conservador y alcanzable para los entornos de producción empresariales de alto volumen. Se deriva a partir de los límites de frecuencia de producción estándar disponibles públicamente en los principales proveedores de LLM, entre ellos:
- OpenAI con límites de nivel 3 (5000 solicitudes/minuto)
- Anthropic con límites de nivel 4 de Claude (4000 solicitudes/minuto)
Ya vimos esto antes en el ámbito de la seguridad: los equipos de SOC se enfrentan a 3181 alertas por día y el 40 % no se investiga. Esta misma sobrecarga afecta a la autorización. Los agentes de IA operan más rápido de lo que los humanos pueden aprobar; la fatiga de consentimiento ocurre cuando el volumen de decisiones excede los límites cognitivos.
El agente de Replit que actuó por su cuenta tenía credenciales permanentes y ejecutaba miles de comandos por minuto, y cada uno requería una llamada de autorización. Sin comprobaciones en tiempo de ejecución, era imposible hacer cumplir las políticas en la práctica. Los 1206 registros se eliminaron antes de que alguien pudiera intervenir.
El patrón es sistémico
El caso de Replit forma parte de una tendencia mayor. Los incidentes relacionados con la IA aumentaron un 56,4 % en un año y se informaron 233 en 2024, todos con el mismo patrón: acceso persistente y falta de supervisión.
Gray Swan AI y el UK AI Security Institute ejecutaron 1,8 millones de ataques a 22 modelos de vanguardia. Cada modelo y política fallaron, cediendo en menos de 100 intentos. Gartner prevé que, para 2028, el 25 % de las filtraciones empresariales se originarán en el uso indebido de agentes de IA.
A la velocidad de los agentes, 100 intentos ocurren apenas en segundos. Y, con los equipos de SOC ya saturados de alertas atrasadas, las llamadas de autorización se acumulan más rápido de lo que nadie puede responder.
Cuando las normas exigen lo imposible
Hasta ahora, estos fallos a nivel de sistema no pasaron inadvertidos; de hecho, los organismos reguladores de todo el mundo están respondiendo. El artículo 14 de la nueva Ley de IA de la UE exige una “supervisión humana efectiva” con la capacidad de “intervenir o interrumpir el sistema”. Un lenguaje similar está surgiendo en la legislación a nivel mundial, y muchas organizaciones interpretan que esto significa que una persona debe aprobar las decisiones de alto impacto.
Sin embargo, a 5000 operaciones por minuto, la supervisión humana es imposible. Los agentes pueden completar flujos de trabajo completos, incluidas infracciones, antes de que alguien tenga la oportunidad de actuar. La Ley de la UE entra en vigencia el 2 de agosto de 2026, con multas de hasta EUR 35 millones o el 7 % de los ingresos globales de la empresa.
Además, el riesgo financiero va más allá de las sanciones. La mala gobernanza de la IA agrega USD 670 000 por cada filtración. Y los efectos secundarios se propagan rápidamente: la confianza se erosiona, la pérdida de clientes aumenta y el saneamiento desvía a los equipos de sus prioridades.
Cómo erradicar la fatiga de consentimiento con la arquitectura
Una supervisión más estricta no es la respuesta. Se trata de repensar la autorización para la velocidad de las máquinas. Autorización contextual y constante, con una aplicación automatizada de políticas que evalúe el acceso en tiempo real.
Cuatro cambios en la arquitectura hacen esto posible:
- Reglas impulsadas por políticas que escalan a la velocidad de los agentes
- Credenciales efímeras que caducan en minutos, en lugar de persistir indefinidamente
- Acceso basado en relaciones, que posibilita verificaciones en milisegundos
- Reevaluación continua que analiza cada operación, en lugar de conceder acceso permanente
Estos cambios se alinean con la visión de OpenID para la IA con agentes: un autorización que se renueve todo el tiempo y al momento de tomar decisiones. A la velocidad que operan los agentes, estas no son meras prácticas recomendadas, sino requisitos indispensables para sobrevivir. Okta implementa los cuatro cambios anteriores mediante cuatro capacidades:
1. Autorización detallada. Auth0 Fine-Grained Authorization aplica controles de acceso basados en relaciones con verificaciones rápidas y automatizadas diseñadas para la velocidad de los agentes. Sustituye las aprobaciones manuales por la aplicación de políticas en tiempo de ejecución, lo que permite a los agentes acceder solo a la información para la que los usuarios tienen permiso. Esta función es ideal para proteger las pipelines de generación aumentada por recuperación (RAG) sin comprometer el rendimiento.
2. Credenciales con ámbito definido para las tareas. Auth0 Token Vault emite tokens de corta duración, específicos para cada operación, que duran entre 5 y 15 minutos y otorgan acceso a los agentes a servicios de terceros. Los tokens caducan automáticamente después de completar la tarea, lo que reduce la superficie de ataque y limita la exposición por diseño.
3. Acceso controlado por la empresa. Okta Cross-App Access centraliza el control de los permisos de los agentes de IA mediante el proveedor de identidad. La gobernanza basada en políticas ayuda a garantizar que solo los agentes autorizados puedan interactuar con los sistemas empresariales, lo que hace que el acceso sea claro, auditable y aplicable.
4. Gestión del ciclo de vida del acceso. Okta Identity Governance mantiene el acceso con privilegios mínimos mediante revisiones automatizadas y certificaciones por tiempo limitado. Permite a los usuarios y agentes conservar únicamente lo necesario y nada más, con una gobernanza continua integrada en los controles en tiempo real.
En pocas palabras: el control durante el tiempo de ejecución no es negociable
Esta es la lección que no queremos escuchar, pero que necesitamos aprender: las personas por sí solas no pueden mantenerse al día con las ciberamenazas. Los agentes de IA multiplican la superficie de ataque por cien gracias a su extrema velocidad. Con 5000 operaciones por minuto, las filtraciones de seguridad siguen un patrón familiar: credenciales persistentes, falta de cumplimiento en tiempo de ejecución y fatiga de consentimiento que interrumpe la supervisión.
Después de todo, la seguridad de la IA es seguridad de la identidad. Los modelos basados en el consentimiento, diseñados para la velocidad humana, fallan ante la rapidez de los agentes. Un control automatizado y basado en políticas, que evalúe el acceso en tiempo real, es el único camino viable.
El control durante el tiempo de ejecución es el nuevo perímetro. Quienes se aferran a los modelos basados en el consentimiento pronto se preguntarán qué salió mal y por qué nunca lo vieron venir.
Deje de vivir en el pasado. Domine hoy mismo el control durante el tiempo de ejecución o explíqueles la filtración a las partes interesadas más adelante. Así de simple.
En definitiva, no se trata solo de un problema de seguridad, sino de una decisión de gobernanza. Y todas las organizaciones ya se están ocupando, ya sea por diseño o por defecto.
Cuando la supervisión falla a la velocidad de las máquinas, la seguridad tiene que trasladarse a la etapa final, hacia los sistemas, los tokens y el tiempo de ejecución. Okta y Auth0 hacen posible el siguiente cambio de paradigma:
Consentimiento único → Autorización continua
Credenciales permanentes → Tokens efímeros
Revisión humana → Política automatizada
- Acceso persistente → Ciclo de vida sensible al contexto
Obtenga más información sobre cómo Okta y Auth0 pueden ayudarle a implementar el acceso basado en políticas, en tiempo real y diseñado para la velocidad de los agentes.
En el próximo episodio de la serie, el blog 2, se analiza cómo la autoridad delegada se convierte en una carga, especialmente cuando las credenciales persisten mucho más allá del alcance previsto en los flujos de trabajo de agentes asíncronos.
Aviso: El rendimiento y la facturación reales pueden variar según el nivel empresarial negociado, la elección específica del modelo, el recuento de tokens y la región geográfica. Este análisis mide el rendimiento bajo una carga constante y sostenida a este umbral específico, y puede no reflejar la capacidad máxima ni el rendimiento en niveles de uso más bajos.
