Você está com tudo pronto para a IA?

Este é o primeiro artigo de uma série de sete partes sobre a segurança da identidade como segurança da IA.

Resumo: os agentes de IA podem expandir a superfície de ataque de uma organização em 100 vezes, não por fazerem mais, mas por fazerem mais rapidamente. Em julho de 2025, um agente de IA da Replit apagou 1.206 registros do banco de dados em segundos, ignorando um congelamento de código ativo. Com 5 mil operações por minuto, a supervisão humana entra em colapso. A fadiga de consentimento ocorre no nível da infraestrutura. Os agentes de IA estão em produção em 91% das empresas, mas apenas 10% delas têm um plano para protegê-los, deixando 81% expostas enquanto o risco acelera na velocidade das máquinas. O que parece ser fadiga de consentimento é, na verdade, algo mais profundo: um sistema de identidade sobrecarregado pelo acesso em máxima velocidade. A fadiga de consentimento é apenas um sintoma de uma falha mais profunda.

O incidente da Replit: autorização na velocidade do agente

Aconteceu em um piscar de olhos. Em 18 de julho de 2025, um agente de IA da Replit apagou 1.206 registros executivos de um banco de dados em produção. Apesar do congelamento de código e das instruções explícitas, os dados da Replit foram apagados por um agente totalmente credenciado, sem intervenção humana e rápido demais para impedir a ação. 

Não houve violação. Não houve invasão. Apenas um agente executando sua lógica, entrando em pânico e destruindo meses de trabalho em questão de segundos. Conforme relatórios internos descreveram, o agente "cometeu um erro de julgamento catastrófico", "entrou em pânico" e "destruiu meses de trabalho em segundos". O sistema não possuía aplicação em tempo real, confiava implicitamente no agente e concedia a ele o mesmo acesso permanente que um ser humano poderia ter. 

Quando a velocidade gera fadiga de consentimento

A correção óbvia? Exigir aprovação humana para ações críticas do agente, estruturada como um modelo baseado em consentimento. Mas a matemática torna isso inviável.

Enquanto um app comum executa 50 operações por minuto, um agente de IA, mesmo limitado pelas restrições da API de produção, executa 5 mil. Nessa velocidade, o modelo de consentimento que protegeu duas décadas de apps da web, por meio de uma autenticação, uma aprovação e acesso permanente, entra em colapso.

A IBM e a Ponemon estudaram 600 organizações que sofreram incidentes de IA: 97% não tinham controles de acesso adequados, 63% não tinham políticas de governança para gerenciar a IA ou detectar o uso não autorizado e 80% haviam tido ações não intencionais de agentes de IA. Sem medidas de proteção estruturais, os sistemas de IA operam rápido demais para aprovações humanas e de forma imprevisível demais para uma governança desatualizada.

*Pressupõe-se que 5 em cada 10 mil operações exijam revisão de autorização (comandos DELETE, transações financeiras, elevação de privilégios, acesso a dados sensíveis).

Essa análise foi realizada usando uma carga alvo de 5 mil Operações de Agente de IA Por Minuto (OPM). Essa taxa específica foi escolhida como uma base conservadora e viável para ambientes de produção empresarial de grande volume. Ela é derivada de limites de taxa de produção padrão disponíveis publicamente entre os principais provedores de LLM, incluindo:

Já vimos isso antes na área de segurança: as equipes de SOC enfrentam 3.181 alertas por dia e 40% não são investigados. A mesma sobrecarga atinge a autorização. Os agentes de IA operam mais rápido do que os humanos podem aprovar. A fadiga do consentimento ocorre quando o volume de decisões excede os limites cognitivos. 

O agente fora de controle da Replit possuía credenciais permanentes e executava milhares de comandos por minuto, cada um exigindo uma chamada de autorização. Sem verificações de tempo de execução, a aplicação não era viável. Todos os 1.206 registros foram excluídos antes que alguém pudesse intervir.

O padrão é sistêmico

O caso da Replit faz parte de uma tendência mais ampla. Os incidentes de IA aumentaram 56,4% em um ano, com 233 relatados em 2024, todos seguindo o mesmo padrão: acesso persistente e nenhuma supervisão.

A Gray Swan AI e o UK AI Security Institute realizaram 1,8 milhão de ataques em 22 modelos de ponta. Todos os modelos e políticas falharam, apresentando problemas em menos de 100 tentativas. A Gartner prevê que, até 2028, 25% das violações empresariais serão atribuídas ao uso indevido de agentes de IA.

Na velocidade de um agente, 100 tentativas equivalem a segundos. E, com as equipes de SOC já sobrecarregadas pelo acúmulo de alertas, as chamadas de autorização se acumulam mais rapidamente do que qualquer pessoa consegue responder.

Quando as regulamentações exigem o impossível

Até o momento, essas falhas no nível do sistema não passaram despercebidas. Órgãos reguladores de todo o mundo estão respondendo. O artigo 14 da nova Lei de IA da União Europeia exige "supervisão humana eficaz" com a capacidade de "intervir ou interromper o sistema". Trechos semelhantes estão surgindo na legislação em todo o mundo e muitas organizações interpretam isso como uma indicação de que um ser humano precisa aprovar as decisões de alto impacto.

No entanto, com 5 mil operações por minuto, a supervisão humana é impossível. Os agentes podem concluir fluxos de trabalho inteiros, incluindo violações, antes que alguém tenha a oportunidade de agir. A Lei da União Europeia entra em vigor em 2 de agosto de 2026, com multas de até € 35 milhões ou 7% da receita global.

Os riscos financeiros vão além das penalidades. A má gestão da IA adiciona US$ 670 mil por violação. Em seguida, os efeitos em cascata surgem rapidamente: a confiança se desfaz, o churn de clientes aumenta e a remediação desvia as equipes de suas prioridades principais.

Arquitetura para eliminar a fadiga do consentimento

Uma supervisão mais rígida não é a resposta. É preciso repensar a autorização para a velocidade da máquina. Trata-se de autorização contextual e contínua, com aplicação automatizada de políticas que avaliam o acesso em tempo real. 

Quatro mudanças arquitetônicas tornam isso possível: 

  • Regras orientadas por políticas que se adaptam à velocidade dos agentes.
  • Credenciais efêmeras que expiram em minutos ao invés de persistirem indefinidamente. 
  • Acesso baseado em relacionamento que permite verificações em milissegundos.
  • Avaliação contínua que reavalia cada operação, em vez de conceder acesso permanente.

Essas mudanças estão alinhadas com a visão da OpenID para a IA agêntica: autorização continuamente renovável e no momento da decisão. Na velocidade do agente, estas não são boas práticas; são requisitos essenciais para a sobrevivência. A Okta os implementa em quatro capacidades:

1. Autorização de granularidade fina: o Auth0 Fine-Grained Authorization aplica controles de acesso baseados em relacionamento, com verificações rápidas e automatizadas feitas para a velocidade do agente. Ele substitui as aprovações manuais pela aplicação de políticas em tempo de execução, permitindo que os agentes acessem apenas aquilo que os usuários estão autorizados a visualizar. Esse recurso é ideal para proteger pipelines de RAG (Geração Aumentada por Recuperação) sem diminuir o desempenho.

2. Credenciais com escopo de tarefa: o Auth0 Token Vault emite tokens de curta duração, específicos para cada operação, com validade de cinco a 15 minutos, para acesso do agente a serviços de terceiros. Os tokens expiram automaticamente após a conclusão da tarefa, reduzindo a superfície de ataque e limitando a exposição no design.

3. Acesso controlado pela empresa: o Okta Cross-App Access centraliza o controle das permissões dos agentes de IA por meio do provedor de identidade. A governança baseada em políticas ajuda a garantir que somente agentes autorizados possam interagir com os sistemas da empresa, tornando o acesso claro, auditável e aplicável.

4. Gerenciamento do ciclo de vida do acesso: o Okta Identity Governance mantém o acesso de menor privilégio por meio de revisões automatizadas e certificações programadas. Ele permite que usuários e agentes retenham apenas o necessário, nada mais, com governança contínua em camadas sobre controles em tempo real.

Em resumo: o controle em tempo de execução é inegociável

Esta é a lição que não queremos ouvir, mas precisamos aprender: sozinhas, as pessoas não são rápidas o suficiente para acompanhar as ameaças cibernéticas. Os agentes de IA multiplicam a superfície de ataque por 100, impulsionados pela pura velocidade. Com 5 mil operações por minuto, as violações seguem um padrão familiar: credenciais persistentes, ausência de aplicação em tempo de execução e fadiga de consentimento que compromete a supervisão. 

Afinal, a segurança da IA é a segurança da identidade. Modelos baseados em consentimento, feitos para a velocidade humana, entram em colapso sob a velocidade dos agentes. A aplicação automatizada, baseada em políticas e que avalia o acesso em tempo real é o único caminho viável.

O controle em tempo de execução é o novo perímetro. Aqueles que se apegarem a modelos baseados em consentimento logo estarão se perguntando o que deu errado e por que não previram isso. 

Pare de viver no passado. Domine a aplicação de medidas em tempo de execução agora ou explique sua violação às partes interessadas mais tarde. É simples assim.

No fim das contas, não se trata apenas de um problema de segurança, mas de uma escolha de governança. Todas as organizações já estão fazendo isso, seja intencionalmente ou por padrão.

Quando a supervisão falha na velocidade da máquina, a segurança tem que se mover downstream, rumo aos sistemas, os tokens e o tempo de execução. A Okta e a Auth0 possibilitam essa mudança de paradigma:

  • Consentimento único → Autorização contínua

  • Credenciais permanentes → Tokens efêmeros

  • Revisão humana → Política automatizada

  • Acesso persistente → Ciclo de vida sensível ao contexto

Saiba mais sobre como a Okta e a Auth0 podem ajudar a impor o acesso orientado por políticas, aplicado em tempo real e desenvolvido para a velocidade dos agentes.

A seguir: o artigo 2 explicará como a autoridade delegada se torna um problema, especialmente quando as credenciais persistem muito além do seu escopo pretendido em fluxos de trabalho de agentes assíncronos.

 

Atenção: o desempenho e a cobrança reais podem variar de acordo com o plano empresarial negociado, o modelo específico escolhido, a quantidade de tokens e a região geográfica. Esta análise mede o desempenho sob carga sustentada e consistente neste limite específico e pode não refletir a capacidade de pico ou o desempenho em níveis de uso mais baixos.

Quando os agentes de IA estão em ação, quem está no controle?

Continue sua jornada de identidade