Les agents d’IA se développent et se multiplient chaque jour. L’adoption progresse rapidement, Gartner prévoyant que des agents IA intégrés et dédiés à des tâches spécifiques seront présents dans 40 % des applications d’entreprise d’ici la fin de cette année, contre moins de 5 % aujourd’hui.
Ces agents deviennent nettement plus performants dans l’exécution de tâches complexes. Ils pourraient déjà — et un jour ils le feront — avoir besoin d’accéder à des données sensibles ou restreintes ainsi qu’à la capacité d’exécuter des workflows critiques et d’effectuer des Actions au nom des utilisateurs. Les agents exécuteront ces tâches avec une intervention humaine minimale, voire nulle.
Les agents d’IA restent relativement nouveaux, et la plupart des organisations en sont encore à la phase d’expérimentation, adoptant une approche sur terrain vierge. Par conséquent, de nombreux développeurs déploient de nouveaux agents axés sur la fonctionnalité de bout en bout sans toujours prendre en compte les implications de sécurité plus larges, ce qui crée une importante zone d’ombre en matière d’identité et de traçabilité.
Imaginons un scénario : Votre équipe de développement conçoit un agent d’IA afin d’automatiser un workflow essentiel à l’activité, qui nécessite que l’agent accède à votre CRM et interroge un service de reporting. Tout paraît simple jusqu’à ce qu’un contrôle de sécurité soit effectué, et votre équipe doit alors répondre :
- Savez-vous qui possède cet agent d’IA ?
- Savez-vous quelles actions cet agent a effectuées au cours des dernières semaines ?
- Comment révoquez-vous tous les accès dont dispose l’agent IA ?
Ce sont des questions très simples mais importantes. Le problème est que la plupart des solutions de gestion des identités et des accès et d’IAM n’ont pas été conçues pour vous aider à y répondre. Dans cet article, nous examinerons pourquoi les agents d’IA posent des défis de sécurité spécifiques et ce qui est en jeu lorsqu’ils ne sont pas encadrés. Nous examinerons également les principes directeurs pour protéger l’identité des agents d’IA avant que ces angles morts ne se transforment en brèches.
État actuel des agents d’IA
Les agents d’IA sont déployés à un rythme croissant, apportant des solutions concrètes aux enjeux des entreprises dans divers secteurs :
- Dans une entreprise fintech, des bots de service client gèrent les deux tiers des discussions de Support, soit l’équivalent de 700 employés à temps plein.
- Les agents d’analytique peuvent interroger des bases de données et des data warehouse afin de générer des rapports de business intelligence.
- Les agents de génération de code peuvent accéder aux dépôts, examiner les demandes de fusion et proposer des améliorations de manière autonome.
- Les assistants commerciaux peuvent analyser les données du pipeline et rédiger des e-mails de prospection personnalisés afin d’accélérer les cycles de contrats conclus.
Chacun de ces agents a besoin d’accéder à des systèmes et à des données sensibles pour accomplir ses missions. C’est là que le problème commence.
L’angle mort de l’identité
Compte tenu de la tendance et de l’adoption fulgurante, de nombreuses organisations ne peuvent pas répondre aux questions fondamentales concernant leurs agents IA :
- Combien d’agents d’IA avons-nous ? L’équipe peut connaître ceux qui sont officiellement approuvés, mais qu’en est-il des agents expérimentaux ?
- Qui en est le propriétaire ? Lorsqu’un agent adopte un comportement inapproprié, qui en porte la responsabilité ? Quelle équipe l’a déployé ? Qui a approuvé l’accès ?
- À quels systèmes peuvent-ils accéder ? Votre bot de service personnalisé dispose-t-il d’un accès en lecture seule au CRM, ou peut-il modifier les enregistrements ? Peut‑il accéder à des données financières dont il n’a pas besoin ?
- Quelles autorisations possèdent-ils ?
Ces angles morts sont précisément là où se situe la faille de sécurité. Ces agents échappent à la vigilance des systèmes de sécurité gérés par les entreprises, car ils passent inaperçus. Les raisons sont :
- Registre central manquant : Contrairement aux employés qui figurent dans les systèmes RH et les annuaires d’identités, il n’existe aucun inventaire unifié des agents IA ; ils sont dispersés dans les comptes cloud, les systèmes internes et les plateformes SaaS.
- Prolifération des identifiants : Les agents d’IA sont encore relativement récents et s’authentifient à l’aide de clés API, d’identifiants de compte de service et de tokens OAuth, qui sont souvent stockés dans des référentiels de code, des variables d’environnement ou des fichiers de configuration – bien loin de tout système centralisé et géré.
- Les agents d’IA ne sont pas considérés comme des entités à part entière : La plupart des organisations les perçoivent comme de simples intégrations techniques, et non comme des acteurs autonomes nécessitant une gouvernance des identités. Cette lacune dans la classification leur permet d’échapper aux processus d’inscription, de cycle de vie et d’audit appliqués aux identités humaines.
Risques de sécurité liés aux agents IA non gérés
En l’absence d’un système centralisé offrant une identité complète, les agents non gérés créent des conditions propices aux vulnérabilités de sécurité :
- Accès excessifs : Lorsque les équipes expérimentent, elles accordent souvent aux agents des autorisations plus larges afin de garantir le bon fonctionnement, au détriment des principes fondamentaux du moindre privilège. Une fois qu’un agent est compromis, toutes ces autorisations profitent à l’attaquant.
- Absence totale de responsabilité : Les agents exécutent les opérations, mais selon la manière dont les tokens d’accès sont codés, ils peuvent ne pas refléter le contexte réel de l’acteur. Les journaux système indiquent probablement simplement « Appel d’API exécuté », mais ne précisent pas quel agent, quel propriétaire humain ni le contexte essentiel.
- Cauchemars liés à la conformité : Des réglementations telles que le RGPD et HIPAA imposent une gestion rigoureuse des données, ce qui implique que les Organizations doivent être en mesure de répondre à des questions telles que qui a accès aux données sensibles, quand cet accès a eu lieu et pour quelle raison.
Imaginez que votre équipe sécurité découvre qu’un agent IA zombie ou malveillant a accédé aux informations personnelles identifiables (PII) des clients pendant six mois. Il convient de répondre à la question suivante : qui l’a déployé ? Pourquoi cela existe‑t‑il ? À quelles données a‑t‑il accédé ? Qui a approuvé ces autorisations ? Comment révoquez-vous son accès ?
Sans gestion des identités, ces questions restent sans réponse. Vous ne pouvez pas mener à bien une résolution des incidents, informer précisément les clients concernés ou démontrer aux autorités de régulation que vous avez maîtrisé la brèche.
Principes directeurs pour la sécurisation de l’identité des agents d’IA
Découvrir et enregistrer chaque agent
Vous ne pouvez pas protéger ce dont vous ignorez l’existence. Identifiez chaque agent d’IA présent dans votre environnement, y compris ceux déployés en dehors de la supervision de l’équipe, et intégrez-les dans un système centralisé. Intégrez des outils de découverte automatisée qui analysent votre infrastructure afin d’identifier les agents d’IA et les répertorient dans un système d’inscription centralisé attribuant à chaque agent une identité explicite.
Attribuer la responsabilité humaine
Chaque agent doit avoir un propriétaire, qu’il s’agisse d’une équipe ou d’une personne, responsable des actions de l’agent. Cela permet de définir une procédure d’escalade claire en cas de problème et d’éviter que des agents orphelins ne fonctionnent sans responsable humain.
Appliquez le Principe du moindre privilège grâce à une politique
L’accès d’un agent aux ressources doit être protégé par une politique et accordé avec des autorisations granulaires. Privilégiez des contrôles d’accès fondés sur des politiques et à portée réduite plutôt que des autorisations globales par agent et par ressources.
Auditez tout
Consignez chaque action d’agent avec l’ensemble du contexte : ce qui s’est passé, quel agent, pour le compte de qui et quelle ressource. Les journaux système doivent enregistrer l’identité de l’agent, le type d’opération et le propriétaire humain, afin d’offrir une visibilité sur l’attribution des tokens, les tentatives d’accès et l’évaluation des politiques pour permettre une surveillance en temps réel et la détection des anomalies.
De l’angle mort à la visibilité
Les agents d’IA sont désormais incontournables et leur nombre augmente plus rapidement que la plupart des équipes sécurité ne peuvent les monitorer. Les organisations qui collaborent avec des fournisseurs IAM capables de prendre en charge l’identité des agents IA peuvent mieux gouverner leurs écosystèmes d’IA en toute sécurité. Ceux qui attendent risquent de découvrir leur angle mort à la suite d’une brèche ou d’un manquement à la conformité.
Ne laissez pas les agents d’IA devenir votre prochain incident de sécurité.
Okta propose une gestion complète des identités pour les agents d’IA : de l’enregistrement et la Lifecycle Management à l’application des politiques et la traçabilité des audits.
Découvrez comment Okta protège les agents d’IA à grande échelle.
