Sécurisez et gérez vos agents d’IA

La sécurité de l’IA consiste à protéger des attaques les systèmes d'IA eux-mêmes, en assurant l’intégrité, la confidentialité et la disponibilité des modèles d’IA et des données qu’ils traitent. Elle contre des menaces telles que les attaques par empoisonnement de données et évasion de modèles, et l’utilisation abusive de l’IA à des fins malveillantes.

Dans la mesure où les responsabilités qui leur sont confiées sont de plus en plus importantes, les agents d’IA deviennent des cibles attrayantes pour les attaquants. Les failles de sécurité peuvent être exploitées pour obtenir des accès non autorisés aux données et aux systèmes sensibles, entraînant des brèches de données, des violations de la conformité et une perte de crédibilité auprès des clients. Comme les agents d’IA fonctionnent de manière autonome, toute défaillance en matière de sécurité peut rapidement prendre de l’ampleur.

Les principales menaces comprennent les injections d’invite pour manipuler les résultats, les changements de profil pour obtenir des accès non autorisés, et l’exploitation d’identités mal configurées ou à privilèges pour accéder à des données sensibles. Les agents d’IA peuvent par ailleurs être manipulés de façon à révéler des identifiants d’accès ou à effectuer des actions indésirables.

Le principal défi réside dans le fait que les approches de sécurité traditionnelles ont été conçues pour des identités humaines, et non pour des systèmes autonomes. Les agents d’IA présentent un cycle de vie court, reposent sur des méthodes d’authentification non humaines telles que les tokens d’API et les certificats cryptographiques, et n’ont pas la responsabilité attribuée à un utilisateur humain. Cela crée des lacunes en matière de gouvernance ou un manque de visibilité sur l'identité que les organisations ont du mal à combler.

La première étape consiste à établir une approche globale, axée sur l’identité, qui régit à la fois les utilisateurs humains de l’IA et les agents d’IA eux-mêmes. 

Côté utilisateurs, cela commence par la sécurisation de l’accès aux applications d'IA grâce au SSO et à la création de procédures claires de demande et d’approbation des accès. 

Côté agents, cela implique de traiter chacun d’eux en tant qu’identité non humaine distincte, en veillant à ce que toute action autonome entreprise puisse être gouvernée, surveillée et sécurisée dès le départ.

Okta vous aide à sécuriser les agents d’IA en les traitant comme des identités non humaines de premier ordre au sein de notre écosystème de sécurité des identités. Nous étendons nos principes éprouvés de sécurité des identités aux agents d’IA, en les intégrant dans un plan de contrôle unique qui permet de disposer d’une visibilité, d’une gouvernance et d’un contrôle complets, tout comme avec les identités humaines.

La confidentialité a pour rôle de fournir la visibilité, le contrôle et la gouvernance nécessaires pour empêcher l’accès non autorisé de l’IA aux données. Des agents malveillants sont susceptibles d’accéder aux données et de les partager sans que vous en ayez conscience, créant d’importantes failles de sécurité. La solution Okta fonctionne comme un garde-fou et fournit les protocoles qui régissent ces agents, assurant qu’ils n’accèdent qu’aux données pertinentes et protégeant ainsi la confidentialité des utilisateurs et de l’entreprise.

L’implication de l’humain est essentielle à la supervision et devrait s’appliquer aux deux scénarios clés que constituent les demandes d’accès de l’utilisateur et l’approbation des actions des agents.

Okta facilite ces mises en œuvre grâce à des fonctionnalités comme l’autorisation asynchrone, qui permet à un agent autonome de fonctionner de manière indépendante, mais en nécessitant l’approbation explicite de l’utilisateur pour exécuter des tâches sensibles, favorisant une efficacité et un contrôle accrus.