AIエージェントをセキュアに管理・制御

AIセキュリティとは、AIシステム自体を攻撃から保護し、AIモデルとそれが処理するデータの完全性、機密性、可用性を確保することです。データポイズニング、モデル回避攻撃、悪意のある目的でのAIの誤用などの脅威に対処します。

AIエージェントに与えられる役割が増えるにつれて、攻撃者にとって格好の標的となります。セキュリティ上の欠陥を悪用されると、機密データやシステムへの不正アクセスにつながり、データ漏洩、コンプライアンス違反、顧客信頼の喪失を招く恐れがあります。AIエージェントが自律的に動作できることから、セキュリティ上のエラーが急速に拡大する可能性があります。

主な脅威には、出力を操作するためのプロンプトインジェクション、不正アクセスを目的としたペルソナの切り替え、構成ミスや過剰権限のあるアイデンティティを悪用して機密データにアクセスする行為が含まれます。さらにAIエージェントは、認証情報をだまし取られたり、意図しない動作を強制されたりする可能性もあります。

主な課題は、従来のセキュリティ手法が人間のアイデンティティを前提として構築されており、自律型システムには対応していないことです。AIエージェントは寿命が短く、APIトークンや暗号化証明書などの非人間的な認証方法を使用するうえ、人間ユーザーのような明確な責任の所在を持ちません。その結果、組織が解消に苦労するガバナンスの空白、いわゆる「アイデンティティの盲点」が生じます。

最初のステップは、AIを利用する人間とAIエージェント自体の両方を管理する、包括的なアイデンティティファーストのアプローチを確立することです。 

ユーザーに対しては、SSOを通じてAIアプリケーションへのアクセスを保護し、アクセスを要求および承認するための明確な手順を整備することから始まります。 

エージェントに対しては、各エージェントを固有の非人間的アイデンティティとして扱い、エージェントが行うすべての自律的なアクションを最初からガバナンス、監視、保護できるようにすることを意味します。

Oktaは、アイデンティティ・セキュリティ・ファブリック内でAIエージェントを最優先の非人間アイデンティティ（NHI）として扱うことで、AIエージェントのセキュリティを確保します。Oktaは、実証済みのアイデンティティセキュリティ原則をAIエージェントにも拡張し、人間のアイデンティティと同様に、包括的な可視性、制御、ガバナンスを実現できる単一のコントロールプレーンに統合します。

プライバシーの役割は、AIによる不正なデータアクセスを防ぐために必要な可視性、制御、ガバナンスを提供することです。不正なエージェントは、ユーザーの知らないうちにデータにアクセスし、そのデータを共有する可能性があり、これによって重大な盲点が生じます。Oktaのソリューションは、これらのエージェントを管理するためのガードレールとプロトコルを提供し、認可されたデータのみにアクセスできるようにすることで、ユーザーと企業のプライバシーを保護します。

「ヒューマン・イン・ザ・ループ」、つまり人間の介在は監督のために不可欠であり、特にユーザーのアクセス要求とエージェントのアクション承認という2つの重要なシナリオで実装すべきです。

Oktaは、非同期認可などの機能を通じてこれを実現します。非同期認可では、自律型エージェントは独立して動作できますが、機密性の高いタスクを実行する前に明示的なユーザー承認が必要となり、効率と制御の両方を確保できます。