Los agentes de inteligencia artificial están proliferando y multiplicándose cada día. La adopción de esta tecnología se está disparando, y Gartner prevé que los agentes de IA integrados y específicos para cada tarea estarán presentes en el 40 % de las aplicaciones empresariales a finales de este año, frente a menos del 5 % actual.
Estos agentes están mejorando notablemente en la realización de tareas complejas. Es posible que ya necesiten —y algún día necesitarán— acceso a datos confidenciales o restringidos, así como la capacidad de activar flujos de trabajo críticos y tomar medidas en nombre de los usuarios. Y los agentes realizarán estas tareas con una intervención humana mínima o nula.
Los agentes de IA son todavía relativamente nuevos, y la mayoría de las organizaciones se encuentran en la "zona de experimentación", adoptando un enfoque desde cero. En consecuencia, muchos desarrolladores están creando nuevos agentes centrados en la funcionalidad integral sin tener siempre en cuenta las implicaciones de seguridad más amplias, lo que crea un enorme punto ciego en materia de identidad y auditabilidad.
Consideremos un escenario: Su equipo de desarrollo está creando un agente de IA para automatizar un flujo de trabajo crítico para el negocio que requiere que el agente acceda a su CRM y consulte un servicio de informes. Todo parece sencillo hasta que pasa por una revisión de seguridad, y su equipo debe responder:
- ¿Sabes quién es el propietario de este agente de IA?
- ¿Sabes qué medidas ha tomado este agente en las últimas semanas?
- ¿Cómo se puede bloquear todo el acceso que tiene el agente de IA?
Estas son preguntas muy básicas pero importantes. El problema es que la mayoría de las soluciones de gestión de identidades y accesos (IAM) no fueron diseñadas para ayudarle a responderlas. En esta publicación, exploraremos por qué los agentes de IA crean desafíos de seguridad únicos y qué está en juego cuando no están controlados. También analizaremos los principios rectores para garantizar la seguridad de la identidad de los agentes de IA antes de que estos puntos débiles se conviertan en brechas de seguridad.
Estado actual de los agentes de IA
Los agentes de IA se están implementando a un ritmo acelerado, resolviendo problemas empresariales reales en diferentes sectores:
- En una empresa de tecnología financiera, los bots de atención al cliente gestionan dos tercios de los chats de soporte, lo que equivale al trabajo de 700 empleados a tiempo completo.
- Los agentes de análisis pueden consultar bases de datos y almacenes de datos para generar informes de inteligencia empresarial.
- Los agentes de generación de código pueden acceder a los repositorios, revisar las solicitudes de extracción y sugerir mejoras de forma autónoma.
- Los asistentes de ventas pueden analizar los datos del embudo de ventas y redactar correos electrónicos de contacto personalizados para acelerar los ciclos de negociación.
Cada uno de estos agentes necesita acceso a sistemas y datos confidenciales para realizar su trabajo. Y ahí es donde empieza el problema.
El punto ciego de la identidad
Dada la tendencia y la rápida adopción, muchas organizaciones no pueden responder preguntas básicas sobre sus agentes de IA:
- ¿Cuántos agentes de IA tenemos? Puede que el departamento de TI conozca los agentes autorizados oficialmente, pero ¿qué ocurre con los agentes experimentales?
- ¿Quiénes son los dueños? Cuando un agente se comporta mal, ¿quién es el responsable? ¿Qué equipo lo implementó? ¿Quién autorizó el acceso?
- ¿A qué sistemas pueden acceder? ¿Su bot de servicio personalizado tiene acceso de solo lectura al CRM o puede modificar los registros? ¿Puede acceder a datos financieros que no necesita?
- ¿Qué permisos tienen?
Es precisamente en estos puntos ciegos donde reside la brecha de seguridad. Estos agentes son invisibles para los sistemas de seguridad gestionados por las empresas, ya que pasan desapercibidos. Las razones son:
- Falta de un registro centralizado: a diferencia de los empleados, que existen en los sistemas de recursos humanos y los directorios de identidad, no existe un inventario unificado de agentes de IA; están dispersos en cuentas en la nube, sistemas internos y plataformas SaaS.
- Proliferación de credenciales: Los agentes de IA son todavía relativamente nuevos y se autentican mediante claves API, credenciales de cuentas de servicio y tokens OAuth que a menudo se almacenan en repositorios de código, variables de entorno o archivos de configuración, definitivamente fuera de cualquier sistema centralizado y administrado.
- Los agentes de IA no son ciudadanos de primera clase: la mayoría de las organizaciones los tratan como integraciones técnicas en lugar de como actores autónomos que requieren una gestión de identidad. Esta laguna en la clasificación implica que eluden los procesos de registro, ciclo de vida y auditoría que se aplican a las identidades humanas.
Riesgos de seguridad de los agentes de IA no gestionados
Sin un sistema centralizado que proporcione una identidad completa, los agentes no gestionados crean un escenario propicio para las vulnerabilidades de seguridad:
- Acceso con privilegios excesivos: a medida que los equipos experimentan, a menudo otorgan a los agentes permisos más amplios para garantizar la funcionalidad, perdiendo de vista los principios básicos del mínimo privilegio. Una vez que un agente se ve comprometido, todos esos permisos quedan a disposición del atacante.
- Responsabilidad nula: Los agentes realizan las operaciones, pero dependiendo de cómo estén codificados los tokens de acceso, es posible que no capturen el contexto real del actor. Es probable que los registros del sistema solo muestren "Llamada a la API ejecutada", pero no capturen qué agente, qué propietario humano y el contexto esencial.
- Pesadillas de cumplimiento normativo: Regulaciones como el RGPD y la HIPAA exigen un manejo adecuado de los datos, lo que significa que las organizaciones deben estar preparadas para proporcionar respuestas como quién tiene acceso a datos confidenciales, cuándo se accedió a ellos y por qué.
Imagine que su equipo de seguridad descubre que un agente de IA zombi o deshonesto ha estado accediendo a la información de identificación personal (PII) de los clientes durante seis meses. Hay que responder a la pregunta: ¿Quién lo desplegó? ¿Por qué existe? ¿A qué datos accedió? ¿Quién aprobó estos permisos? ¿Cómo se revoca su acceso?
Sin una gestión de identidades, estas preguntas quedan sin respuesta. No puede completar la respuesta ante incidentes, notificar con precisión a los clientes afectados ni asegurar a los reguladores que ha contenido la brecha.
Principios rectores para garantizar la identidad de los agentes de IA
Descubra y registre a todos los agentes.
No se puede proteger lo que no se sabe que existe. Identifique todos los agentes de IA en su entorno, incluidos aquellos implementados fuera de la supervisión de TI, e incorpórelos a un sistema centralizado. Integre herramientas de detección automatizadas que analicen su infraestructura en busca de agentes de IA y los recopilen en un sistema de registro centralizado que asigne a cada agente una identidad explícita.
Asignar responsabilidad humana
Todo agente necesita tener un responsable, ya sea un equipo o un individuo, que supervise sus acciones. Esto garantiza una vía de escalamiento clara cuando surgen problemas y evita que los agentes zombis operen sin un propietario humano.
Aplicar el principio de mínimo privilegio mediante políticas
El acceso de un agente a los recursos debe estar protegido por políticas y concedido con permisos detallados. En lugar de permisos generales por agente y por recurso, utilice controles de acceso segmentados basados en políticas.
Auditar todo
Registra cada acción del agente con todo el contexto: qué sucedió, qué agente, en nombre de quién y qué recurso. Los registros del sistema deben capturar la identidad del agente, el tipo de operación y el propietario humano, lo que proporciona visibilidad sobre las concesiones de tokens, los intentos de acceso y las evaluaciones de políticas para la monitorización en tiempo real y la detección de anomalías.
Desde el punto ciego hasta la visibilidad
Los agentes de IA han llegado para quedarse y se están multiplicando más rápido de lo que la mayoría de los equipos de seguridad pueden controlar. Organizations que se asocian con proveedores de IAM equipados para admitir la identidad de agentes de IA pueden gestionar sus ecosistemas de IA de forma más segura. Quienes esperan corren el riesgo de descubrir su punto ciego a través de una brecha de seguridad o un incumplimiento normativo.
No permita que los agentes de IA se conviertan en su próximo incidente de seguridad.
Okta proporciona una gestión integral de la identidad para agentes de IA, desde el registro y la gestión del ciclo de vida hasta la aplicación de políticas y los registros de auditoría.
Descubre cómo Okta protege a sus agentes de IA a gran escala.
