O recente anúncio da OpenAI sobre o Frontier – uma plataforma empresarial para criar, implementar e gerenciar agentes de IA – é mais um sinal claro de que os sistemas de IA estão indo além dos simples chatbots, rumo a serviços autônomos e de longa duração. Esses agentes de IA podem planejar, executar ações, acionar ferramentas e operar em diversos sistemas distintos em nome do usuário.
Para muitas equipes, a oportunidade é clara: agentes de IA podem desbloquear inovação e produtividade reais. À medida que esses agentes se tornam mais capazes, a questão central muda de "Quão inteligentes ou precisos eles são?" para "Como podemos permitir que eles realizem tarefas em produção com segurança?"
Se o senhor não consegue comprovar confiança, responsabilidade e controle, a implantação segura de agentes torna-se um grande obstáculo.
Além disso, uma governança eficaz de IA requer uma delimitação clara entre o desenvolvimento de agentes e o controle de acesso. Para atingir esse nível de governança, é necessária uma camada de identidade independente de fornecedores que imponha controles de acesso em todos os ambientes de IA e SaaS, independentemente da plataforma em que esses agentes sejam construídos (por exemplo, ChatGPT, Claude, Gemini, Copilot). Isso evita a dependência e os pontos cegos inerentes às ferramentas específicas de cada plataforma.
Uma realidade que as empresas não podem ignorar: os agentes expandem a superfície de ataque.
O anúncio da OpenAI valida uma tese central: a identidade é fundamental para gerenciar implantações de IA em produção. A decisão de integrar identidade e governança à plataforma de agentes ressalta uma verdade fundamental: não é possível ter fluxos de trabalho seguros baseados em agentes sem identidades verificáveis e gerenciadas.
Sem essa base, a transição do piloto para a produção expõe riscos significativos que as ferramentas tradicionais não foram projetadas para lidar:
- Acesso com privilégios excessivos: os agentes geralmente herdam permissões amplas, especialmente quando estão vinculados a contas de serviço compartilhadas.
- Proliferação de credenciais: chaves de API, tokens OAuth e outros segredos são frequentemente incorporados diretamente em configurações, notebooks, modelos de prompts ou servidores de ferramentas.
- Sem mecanismos de controle: os agentes agem de forma autônoma e frequentemente acionam ferramentas inesperadas ou acessam dados para os quais não possuem autorização.
- Sem responsabilização: “Quem fez o quê?” A questão torna-se difícil de responder quando ações são tomadas por um agente que atua em nome de um usuário em vários aplicativos e APIs.
Essa lacuna de visibilidade destaca por que tantas equipes ficam presas antes da produção: construir um agente é apenas metade da batalha. Igualmente importante é controlar o que ele pode acessar e comprovar para quem ele agiu, uma vez que comece a tomar medidas reais em aplicativos e dados corporativos.
Considerações arquitetônicas para segurança de IA empresarial
Embora o Frontier da OpenAI forneça uma estrutura para gerenciar agentes, ele introduz desafios arquitetônicos que transcendem os limites operacionais de uma única plataforma de IA:
- Padrões de governança independentes: Depender de um provedor de modelos para também atuar como auditor de segurança principal pode criar desafios de supervisão interna. Para manter padrões de conformidade consistentes, as organizações precisam de uma camada de segurança que opere independentemente do modelo de IA subjacente.
- Interoperabilidade em toda a pilha multi-modelos: o Frontier foi otimizado para o ecossistema OpenAI. À medida que as empresas adotam uma estratégia multimodelo (por exemplo, Claude, Gemini ou alternativas de código aberto), elas precisam de uma camada de identidade independente de fornecedores para manter a visibilidade e o controle em todo o ambiente.
- Gestão unificada do ciclo de vida da identidade: Embora uma plataforma possa gerenciar permissões dentro de seu próprio ecossistema, os agentes interagem com a empresa em geral, incluindo sistemas de RH e infraestrutura em nuvem. Gerenciar esses agentes como identidades de primeira classe dentro de um sistema centralizado ajuda a garantir um controle de políticas consistente em toda a sua infraestrutura.
Por que a identidade se torna o plano de controle para agentes autônomos?
Gerir o acesso em ambientes complexos não é um desafio novo. Durante décadas, os provedores de identidade se concentraram em fornecer um plano de controle central usado para proteger todas as políticas de acesso para usuários humanos, aplicativos e recursos. E agora, isso se estende aos agentes de IA. Com a proliferação de agentes de IA, os mesmos princípios se aplicam, apenas com novos requisitos:
- Identidade forte para agentes
Os agentes precisam de identidades distintas (não contas compartilhadas) para que se possa atribuir responsabilidades, aplicar políticas e auditar atividades. - Autorização com privilégio mínimo, aplicada continuamente.
Não basta conceder acesso uma única vez. As permissões dos agentes precisam ser definidas, ter um prazo determinado e serem reavaliadas conforme o risco muda. - Manipulação segura de tokens
Se os agentes forem utilizar ferramentas e APIs, o gerenciamento de tokens deve ser centralizado, reduzindo vazamentos e eliminando segredos de longa duração. - Intervenção humana em ações sensíveis
Algumas ações devem exigir autenticação adicional ou aprovação assíncrona, especialmente quando um agente está operando de forma autônoma.
Esses agentes precisam dos mesmos controles de ciclo de vida que as identidades humanas (provisionamento, políticas, governança, monitoramento e desprovisionamento), além de salvaguardas mais rigorosas, pois atuam com maior rapidez e abrangência.
Onde isso posiciona os líderes de tecnologia
Embora o anúncio da OpenAI tenha comprovado ainda mais que a era agêntica chegou, isso não deve ocorrer à custa do controle. Quando a identidade está vinculada exclusivamente à plataforma onde os agentes são criados, perde-se a supervisão independente necessária para uma governança abrangente. Isso cria uma lacuna crítica de visibilidade, deixando a porta aberta para que "agentes sombra" construídos fora do ecossistema OpenAI operem sem serem detectados e sem gerenciamento.
Para escalar com confiança, os líderes de TI e segurança devem aproveitar uma camada de identidade neutra para gerenciar com segurança esses agentes de IA prontos para produção em um ambiente cada vez mais distribuído, multicloud e com múltiplos fornecedores.
Como protegemos a IA?
Okta e Auth0 oferecem tudo o que se necessita para proteger cada agente e todos os agentes. Oferecemos uma solução dupla que trata os agentes de IA como identidades de primeira classe, permitindo que as organizações governem todo o ciclo de vida do agente, desde a primeira linha de código até a sua desativação em toda a empresa.
Conecte-se com um especialista da Okta para saber mais e ver a demonstração.
