Os agentes de IA estão se multiplicando e surgindo em grande número a cada dia. A adoção está disparando, com a Gartner projetando que agentes de IA incorporados e específicos para tarefas estarão presentes em 40% dos aplicativos corporativos até o final deste ano, um aumento significativo em relação aos menos de 5% atuais.
Esses agentes estão se tornando notavelmente melhores na execução de tarefas complexas. Eles podem já precisar — e um dia precisarão — de acesso a dados sensíveis ou restritos, bem como da capacidade de acionar fluxos de trabalho críticos e tomar medidas em nome dos usuários. Os agentes executarão essas tarefas com intervenção humana mínima ou nula.
Os agentes de IA ainda são relativamente novos, e a maioria das organizações está na “zona de experimentação”, adotando uma abordagem greenfield. Consequentemente, muitos desenvolvedores estão criando novos agentes focados na funcionalidade de ponta a ponta sem sempre considerar as implicações de segurança mais amplas — criando um enorme ponto cego em termos de identidade e auditabilidade.
Vamos considerar o seguinte cenário: sua equipe de desenvolvimento está criando um agente de IA para automatizar um fluxo de trabalho crítico para os negócios, que exige que o agente acesse seu CRM e consulte um serviço de relatórios. Tudo parece simples até passar por uma revisão de segurança, e sua equipe precisa responder:
- O senhor sabe quem é o dono deste agente de IA?
- O senhor sabe quais ações este agente tomou nas últimas semanas?
- Como bloquear completamente o acesso do agente de IA?
Essas são perguntas muito básicas, mas importantes. A questão é que a maioria das soluções de gerenciamento de identidade e acesso (IAM) não foi projetada para ajudar a responder a elas. Neste artigo, exploraremos por que os agentes de IA criam desafios de segurança únicos e o que está em jogo quando não são governados. Também exploraremos princípios orientadores para proteger a identidade de agentes de IA antes que esses pontos cegos se transformem em violações.
Estado atual dos agentes de IA
Agentes de IA estão sendo implementados em ritmo acelerado, resolvendo problemas reais de negócios em diferentes setores:
- Em uma empresa de tecnologia financeira, os bots de atendimento ao cliente estão lidando com dois terços dos chats de suporte, o equivalente a 700 funcionários em tempo integral.
- Os agentes analíticos podem consultar bancos de dados e armazéns de dados para gerar relatórios de inteligência de negócios.
- Os agentes de geração de código podem acessar repositórios, revisar solicitações de pull e sugerir melhorias de forma autônoma.
- Os assistentes de vendas podem analisar dados do pipeline e redigir e-mails de prospecção personalizados para acelerar os ciclos de negócios.
Cada um desses agentes precisa ter acesso a sistemas e dados sensíveis para desempenhar sua função. E é aí que o problema começa.
O ponto cego da identidade
Diante dessa tendência e da adoção explosiva, muitas organizações não conseguem responder a perguntas básicas sobre seus agentes de IA:
- Quantos agentes de IA temos? Pode ser que a TI tenha conhecimento dos agentes oficialmente autorizados, mas e quanto aos agentes experimentais?
- Quem os possui? Quando um agente se comporta mal, de quem é a responsabilidade? Qual equipe a implantou? Quem aprovou o acesso?
- A que sistemas podem ter acesso? O seu bot de serviço personalizado tem acesso somente leitura ao CRM ou pode modificar registros? Pode acessar dados financeiros de que não precisa?
- Quais permissões eles possuem?
Esses pontos cegos são exatamente onde reside a falha de segurança. Esses agentes são invisíveis para os sistemas de segurança gerenciados das empresas, pois passam despercebidos. Os motivos são:
- Ausência de um registro central: Diferentemente dos funcionários que existem nos sistemas de RH e diretórios de identidade, não há um inventário unificado de agentes de IA; eles estão espalhados por contas na nuvem, sistemas internos e plataformas SaaS.
- Proliferação de credenciais: os agentes de IA ainda são relativamente novos e autenticam-se usando chaves de API, credenciais de contas de serviço e tokens OAuth que geralmente são armazenados em repositórios de código, variáveis de ambiente ou arquivos de configuração — definitivamente fora de qualquer sistema centralizado e gerenciado.
- Os agentes de IA não são cidadãos de primeira classe: a maioria das organizações os trata como integrações técnicas, em vez de atores autônomos que exigem governança de identidade. Essa lacuna de classificação significa que eles ignoram os processos de registro, ciclo de vida e auditoria aplicados às identidades humanas.
Riscos de segurança de agentes de IA não gerenciados
Sem um sistema centralizado que forneça uma identidade completa, agentes não gerenciados criam as condições ideais para vulnerabilidades de segurança:
- Acesso com privilégios excessivos: À medida que as equipes experimentam, muitas vezes concedem aos agentes permissões mais amplas para garantir a funcionalidade, perdendo de vista os princípios básicos do menor privilégio. Uma vez que um agente é comprometido, todas essas permissões passam a favorecer o atacante.
- Responsabilidade zero: os agentes executam as operações, mas, dependendo de como os tokens de acesso são codificados, podem não capturar o contexto real do ator. Os registros do sistema provavelmente mostram apenas "chamada de API executada", mas não registram qual agente, qual responsável humano e o contexto essencial.
- Pesadelos de conformidade: Regulamentos como o GDPR e o HIPAA exigem o tratamento adequado de dados, o que significa que as organizações precisam estar preparadas para fornecer respostas como quem tem acesso a dados sensíveis, quando eles foram acessados e por quê.
Imagine que sua equipe de segurança descobre que um agente de IA zumbi ou desonesto está acessando informações de identificação pessoal (PII) de clientes há seis meses. É preciso responder: Quem o implantou? Por que isso existe? A que dados teve acesso? Quem aprovou essas permissões? Como se revoga o acesso?
Sem gerenciamento de identidade, essas questões permanecem sem resposta. Não é possível concluir um plano de resposta a incidentes, notificar os clientes afetados com precisão ou assegurar aos órgãos reguladores que a violação foi contida.
Princípios orientadores para garantir a identidade do agente de IA
Descobrir e registrar cada agente
Você não pode proteger o que não sabe que existe. Identifique todos os agentes de IA em seu ambiente, incluindo aqueles implantados fora da supervisão de TI, e integre-os a um sistema centralizado. Integre ferramentas de descoberta automatizadas que escaneiam sua infraestrutura em busca de agentes de IA e as compilam em um sistema de registro centralizado que atribui a cada agente uma identidade explícita.
Atribuir a responsabilidade humana
Todo agente precisa ter um responsável, seja uma equipe ou um indivíduo, que seja encarregado de suas ações. Isso garante um caminho de escalonamento claro quando surgem problemas e impede que agentes zumbis operem sem um responsável humano.
Imponha o menor privilégio por meio de políticas
O acesso de um agente aos recursos deve ser protegido por políticas e concedido com permissões granulares. Utilize controles de acesso com escopo restrito e baseados em políticas, em vez de permissões irrestritas por agente e por recurso.
Audite tudo.
Registre todas as ações do agente com contexto completo: o que aconteceu, qual agente, em nome de quem e qual recurso. Os registros do sistema devem capturar a identidade do agente, o tipo de operação e o proprietário humano, fornecendo visibilidade sobre concessões de tokens, tentativas de acesso e avaliações de políticas para monitoramento em tempo real e detecção de anomalias.
Do ponto cego à visibilidade
Os agentes de IA vieram para ficar e estão se multiplicando mais rápido do que a maioria das equipes de segurança consegue acompanhar. Organizations que fazem parceria com provedores de IAM (Gestão de Identidades e Acessos) equipados para dar suporte à identidade de agentes de IA podem governar seus ecossistemas de IA com mais segurança. Quem espera corre o risco de descobrir seu ponto cego por meio de uma violação ou falha de conformidade.
Não permita que agentes de IA se tornem seu próximo incidente de segurança.
A Okta oferece gerenciamento de identidade abrangente para agentes de IA — desde o registro e gerenciamento do ciclo de vida até a aplicação de políticas e trilhas de auditoria.
