Les agents d'IA transforment notre façon d'utiliser et de créer des logiciels, débloquant des gains de productivité incroyables en effectuant des tâches complexes à notre place. Mais alors que les organisations se précipitent pour les déployer, une question essentielle se pose : qui les contrôle ?
Lors d'une conversation récente avec l'influenceur technologique Alex Banks, Shiv Ramji, président d'Auth0, a évoqué les défis de sécurité uniques posés par cette nouvelle ère de logiciels non déterministes.
« Nous sommes à ce moment où tout le monde expérimente les agents et réalise qu'ils sont vraiment puissants », a expliqué Ramji. « Mais dès que vous voulez les déployer dans votre entreprise, vous commencez à vous demander… qu'en est-il de la sécurité des identités ? Quel niveau de données ou d'accès un agent doit-il avoir ? »
Contrairement aux applications traditionnelles, qui suivent des règles strictes et prédéfinies, les agents d'IA fonctionnent avec intelligence et autonomie. Cette évolution exige que les développeurs abordent la sécurité comme un élément fondamental, plutôt que comme une fonctionnalité supplémentaire. Ramji a souligné quatre exigences clés pour les développeurs qui créent des agents d'IA aujourd'hui :
Vérification: Tout comme nous vérifions les utilisateurs humains, nous devons authentifier les agents pour nous assurer qu'ils sont autorisés à effectuer des actions au nom d'un utilisateur.
Présence humaine: Pour les transactions sensibles — comme l'achat de billets d'avion — les systèmes doivent permettre une approbation humaine avant la finalisation.
Autorisations affinées: L'accès doit être précis et éphémère. Les agents ne doivent accéder qu'aux données dont ils ont besoin, exactement au moment où ils en ont besoin, plutôt que d'avoir des autorisations générales.
Connexions sécurisées: Nous devons vérifier que les agents peuvent interagir en toute sécurité avec les applications internes et externes, telles que Slack ou Workday. Des outils comme Auth0 Token coffre-fort peuvent aider les développeurs à le faire.
Pour en savoir plus sur ce que les développeurs doivent faire correctement et sur les prédictions de Ramji pour l'avenir, regardez la vidéo complète ci-dessus.
