Imagine que você é um líder de segurança ou de TI, e o cenário digital da sua organização é como uma coleção de caixas surpresa Labubu. Cada caixa representa um novo agente de IA ou fluxo de trabalho automatizado. Você sabe que há uma identidade não humana (INH) ou modelo de aprendizado de máquina ali dentro, e que ele se destina a fazer algo benéfico, como acelerar as auditorias financeiras do Departamento de Defesa dos EUA ou analisar o feedback de clientes do varejo. Mas, como acontece com o Labubu, sua identidade e características completas não ficam imediatamente aparentes até que você olhe dentro.
De coletável a crítico: A proliferação e os riscos ocultos da força de trabalho invisível
Assim como as figuras de Labubu variam de edições comuns a edições "secretas", "escondidas" ou de "caça" altamente procuradas, os NHIs vêm com diferentes níveis de risco e visibilidade.
Muitos são NHIs "comuns", facilmente implantados, mas geralmente com permissões excessivamente amplas e monitoramento mínimo, tornando-os alvos fáceis de exploração. Este é um erro comum observado em dispositivos de Internet das Coisas implantados rapidamente na fabricação ou em chatbots de atendimento ao cliente no varejo e na administração pública.
O maior desafio, no entanto, surge com os NHIs de "caça": as variantes mais difíceis de encontrar e desejáveis. Esses são os desconhecidos verdadeiramente perigosos, geralmente contas evoluídas que se transformaram de identidades humanas ou contas órfãs deixadas para trás após o desprovisionamento de um humano, permanecendo ativas com acesso elevado e sem proprietário. Assim como um Labubu raro com características distintas não presentes na lista de verificação da embalagem, esses NHIs de alto privilégio podem escapar da detecção padrão. Por exemplo, para setores regulamentados como o setor público, serviços financeiros e assistência médica, o gerenciamento de aplicações legadas com décadas de existência, essas credenciais inativas podem ser sequestradas por invasores para obter acesso não autorizado a ambientes confidenciais. O grande volume de segredos ocultos em repositórios públicos — mais de 27 milhões de novos no ano passado — ressalta esse risco generalizado.
Da automação à superfície de ataque: Riscos de IA específicos do setor
Os NHIs são agora a espinha dorsal digital das organizações, permitindo automação e eficiência incomparáveis. Sua rápida proliferação em todos os setores é impulsionada pelo imperativo de fazer mais com menos.
No entanto, esse crescimento introduz riscos ocultos significativos devido aos seus ciclos de vida complexos, métodos de autenticação exclusivos e gerenciamento geralmente descentralizado. Vamos explorar como esses desafios se manifestam por meio de exemplos específicos do setor abaixo.
Setor público
O uso de IA em agências federais mais que dobrou no ano passado, com aproximadamente 50% dos casos de uso desenvolvidos internamente. Essa maior dependência destaca uma necessidade aguda de acesso seguro em todos os sistemas governamentais onde os agentes de IA aprimoram a produtividade e simplificam processos como programas de benefícios estaduais com financiamento federal.
Um risco oculto potencial e crítico: falta de propriedade e responsabilidade claras. Identificar quem — ou qual escritório da agência — é responsável quando um agente de IA age de forma inadequada é crucial para a confiança pública e a adesão legal, especialmente dada a rápida rotatividade de agentes que pode expandir a superfície de ataque se não for gerenciada adequadamente.
Saúde
As organizações de saúde estão usando amplamente a IA tanto para sua força de trabalho quanto em esforços para reforçar a experiência do paciente, com 94% vendo isso como essencial para suas operações. No entanto, essa rápida adoção, combinada com a natureza sensível dos dados do paciente, torna a superfície de ataque expandida um alvo principal para ransomware e violações de dados.
Um risco oculto potencial e crítico: acesso não contabilizado a dados confidenciais. Um número impressionante de 96% dos profissionais de TI veem os agentes de IA como um risco de segurança, mas apenas 44% das organizações têm políticas em vigor para controlar seu comportamento. Essa supervisão contribuiu para que mais de 500 milhões de indivíduos tivessem seus registros de saúde roubados ou comprometidos desde 2020.
Serviços financeiros
Os serviços financeiros estão integrando rapidamente agentes de IA para automatizar a detecção de fraudes, decisões de crédito e interações com clientes. A adoção de IA em instituições regulamentadas pelo governo federal no Canadá deve atingir 70% até 2026. A confiança do público também está crescendo, com muitos vendo a IA como uma ferramenta valiosa para melhorar as experiências financeiras financeiras. 65% dos americanos acreditam que a IA pode expandir o acesso a ferramentas financeiras para indivíduos carentes.
Varejo e manufatura
Impressionantes 90% das empresas de varejo e bens de consumo embalados estão usando ou avaliando IA hoje, e impressionantes 97% planejam aumentar seus investimentos em IA no próximo ano. A razão? A IA aumenta a eficiência, reduz os custos operacionais e, crucialmente, cria experiências de cliente personalizadas em escala.
Os varejistas e fabricantes diretos ao consumidor de hoje aproveitam a IA para oferecer experiências de compra hiperpersonalizadas. Eles aproveitam os dados do cliente para oferecer recomendações de produtos personalizadas, preços dinâmicos e promoções direcionadas que impulsionam a fidelidade e as vendas. A IA generativa alimenta provadores virtuais, permitindo que os clientes visualizem produtos como roupas ou móveis em seus próprios ambientes, reduzindo devoluções e aumentando a confiança.
Um risco oculto potencial e crítico: privacidade e segurança de dados. Para que a IA realmente decole neste setor, clientes e empresas devem confiar que ela pode fazer seu trabalho com segurança. Atualmente, muitos deles não confiam. A privacidade e a segurança de dados estão entre as principais preocupações em relação à IA no setor de varejo, com 60% e 49% dos varejistas citando-as como preocupações, respectivamente.
Se os varejistas não puderem garantir a segurança dos dados de seus clientes, a adoção da IA poderá rapidamente se tornar um passivo.
Um risco oculto potencial e crítico: governança insuficiente. Apenas 32% das empresas financeiras relatam ter um grupo formal de governança de IA, deixando bots, APIs e scripts de automação operando sem supervisão consistente ou gerenciamento de ciclo de vida definido. Esses agentes podem iniciar transações, acessar dados de clientes e tomar decisões, geralmente sem as mesmas salvaguardas aplicadas aos usuários humanos.
Incorporar controles de identidade em primeiro lugar e governança formal de IA é essencial para evitar que esses agentes se tornem pontos cegos persistentes que ameaçam a segurança e a confiança do setor.
A revelação final: seu próximo passo
Os desafios representados pelos NHIs ocultos são claros em todos os setores. Não deixe que o mistério da força de trabalho invisível da sua empresa se torne o seu próximo incidente de segurança. Aprenda como identificar, proteger e gerenciar esses ativos críticos.
Desbloqueie a repetição: “Adivinhe Quem IAM” Inspirado na emoção de desembalar um Labubu raro e na diversão dedutiva do clássico jogo de tabuleiro Adivinhe Quem, este webinar sob demanda equipa você com estratégias para desmascarar e proteger sua força de trabalho invisível. Assista ao webinar sob demanda hoje.
