エージェント型AIフレームワーク:アイデンティティ、セキュリティ、ガバナンス

更新済み: 2025年11月24日 読了目安時間: ~

エージェント型人工知能(AI)フレームワークは、最小限の人的監督で計画、行動、適応できる自律型AIシステムを構築するための開発プラットフォームです。スクリプト化されたワークフローに従う従来の自動化ツールとは異なり、エージェント型AIフレームワークは、ソフトウェアエージェントに推論、独立した意思決定、および時間の経過とともに継続的に改善する機能を提供します。

エンタープライズにとって、この自律性は機会とリスクの両方を生み出します。Agentic AIは、業務を加速させ、意思決定を拡大し、新しいユースケースを開拓することができます。しかし、堅牢なID優先のセキュリティ、ガバナンス、コンプライアンスのコントロールが組み込まれていない場合、これらのフレームワークは、管理されていない非人間アイデンティティ(NHI)、コンプライアンスのギャップ、および従来のツールでは対応できない攻撃ベクトルをもたらす可能性があります。エージェント型AIのセキュリティのベストプラクティスを管理するには、一元化されたアイデンティティとエンタープライズガバナンスが必要です。

エージェント型AIフレームワークとは何ですか?

エージェント型AIフレームワークは、自律型AIエージェントを構築および管理するための構造化された環境であり、以下を提供します。

  • 認識:ユーザー、データ、または環境からの入力を解釈します

  • 計画:目標を達成するための戦略を策定します。

  • アクション:API、Application (アプリケーション)、または外部システムを介してタスクを実行します

  • 記憶:意思決定を改善するためにコンテキストを保持します

スケーラビリティ、ガバナンス、およびセキュリティ機能が異なる、シングルエージェントフレームワークから協調的なマルチエージェントシステムまで、複数の種類のエージェント型AIがあります。

エージェント型AIシステムを構築するための自律型AIフレームワークの例:

  • LangGraph:LangChain上に構築された、マルチエージェントワークフローのオーケストレーション

  • CrewAI:コラボレーティブなマルチエージェント実行(現在は初期段階)

  • Azure AI Foundry:エンタープライズ規模のAI開発ハブ

  • OpenAI Agents SDK:本番環境対応のマルチエージェントオーケストレーションフレームワーク(廃止されたSwarmプロジェクトの進化版)

一部のプラットフォームでは、エージェント指向のLLMフレームワークも導入されています。これは、大規模言語モデルを自律的な推論、計画、およびアイデンティティを認識したセキュリティ制御によって拡張するものです。

フレームワーク選定におけるアイデンティティセキュリティの重要性

エージェント型AIフレームワークの選択は、組織のアイデンティティ・セキュリティ態勢を根本的に決定します。従来のソフトウェア評価では、機能とパフォーマンスのみに焦点が当てられることが多いですが、フレームワークの選択では、初日からIdentity Governance機能を優先する必要があります。

現代のエンタープライズは、非人間アイデンティティ(NHI)の指数関数的な増加に直面しており、一部の環境では、ヒューマンユーザーと比較して50:1以上の比率を示しています。Agentic AIフレームワークは、この傾向を加速させ、従来の監視メカニズムなしにクラウド、SaaS、およびハイブリッド環境全体で動作する、数千の一時的なエージェントアイデンティティを生成する可能性があります。今日のほとんどのフレームワークは、依然として最小限のアイデンティティとアクセス管理(IAM)成熟度でAPIキーに基づく認証に依存しているため、エンタープライズ Identity Security Fabric は、ポリシーの適用を統合し、制御を維持するための不可欠な架け橋となります。

フレームワークの選択に対するアイデンティティ優先のアプローチは、エンタープライズが抱える3つの重要な懸念事項に対応します。

  • 規制コンプライアンスへの準拠

EU AI Actの第14条で効果的な人的監督が義務付けられ、NIST AI Risk Management Frameworkがガバナンスを重視しているため、フレームワークは規制の整合性をサポートするために組み込みのコンプライアンス機能を提供する必要があります。ただし、規制の進化に合わせて、ある程度のカスタマイズが依然として必要になる可能性があることを認識しておく必要があります。

  • オペレーショナルリスク軽減

アイデンティティのスプロール化は、エンタープライズ環境において急速に増大しているリスクであり、特にエージェント型AIの導入が拡大するにつれて顕著になります。ネイティブなIdentity Governanceを欠くフレームワークは、攻撃者がますます悪用する、監視されていないアクセスポイントを作り出します。

  • 将来を見据えた投資

AI機能の進化に伴い、堅牢なアイデンティティ基盤を備えたフレームワークは、アーキテクチャを完全に刷新することなく、新しい規制要件やセキュリティ標準に適応できます。

フレームワークのアーキテクチャとアイデンティティに関する考慮事項

大規模言語モデル(LLM)ベースの実装を含む、多くのエージェント型フレームワークは、アイデンティティとセキュリティを管理するために、認識、計画、行動、および記憶を備えた階層化された構造に依存しています。

知覚レイヤー

  • 目的:プロンプト、データ、およびイベントを解釈する

  • アイデンティティとセキュリティへの影響:データソースを認証し、入力の整合性を検証します

  • OWASP LLM Top 10アライメント:LLM01:2025 プロンプトインジェクションおよびLLM02:2025 センシティブな情報開示

計画積み重ねる

  • 目的:戦略を生成し、AIエージェント開発ツールを選択します

  • アイデンティティとセキュリティへの影響:エージェント権限の制御、ロールベースアクセスコントロール(RBAC)および属性ベースアクセスコントロール(ABAC)の実施

  • OWASP LLM Top 10 Alignment: LLM06:2025 Excessive Agency and LLM05:2025 Improper Output Handling

アクション積み重ねる

  • 目的:APIおよびシステムコマンドを実行します。

  • アイデンティティとセキュリティへの影響:短期間の認証情報を安全に保護し、すべてのアクションを監査します。

  • OWASP LLM Top 10アライメント:LLM03:2025サプライチェーン、LLM02:2025機密情報開示、およびLLM10:2025無制限消費

メモリ積み重ねる

  • 目的:状態とコンテキストを保持する。

  • アイデンティティとセキュリティへの影響:保存されたデータを暗号化し、データ保持ポリシーを適用します。

  • OWASP LLM Top 10アライメント:LLM08:2025 Vector and Embedding Weaknesses および LLM06:2025 Excessive Agency

各積み重ねは、非人間アイデンティティ(NHI)の表面積を拡大します。フレームワークの保護は、最小権限の強制、継続的な監視、およびすべての積み重ねるでのガバナンスを意味します。アイデンティティ優先戦略を通じて提供される集中型ID 管理は、監視されていない攻撃対象領域を削減し、ゼロトラストを維持します。

エンタープライズフレームワークの評価

エンタープライズ展開のためにフレームワークを評価する場合、セキュリティおよびアイデンティティチームは、5つの重要な側面全体でAIエージェントのセキュリティ機能を評価する必要があります。

アイデンティティ統合の成熟度

  • ネイティブIAMサポート:フレームワークは、カスタムミドルウェアを必要とせずに、エンタープライズアイデンティティプロバイダーと直接統合する必要があります。

  • 認証情報管理:フレームワークがシークレットローテーション、ジャストインタイムアクセス、および認証情報のLifecycle Managementをどのように処理するかを評価します。ここでの強力なプラクティスは、agentic AIのガバナンスとコンプライアンスの基礎となります

  • 委任チェーン:エージェントのアクションを開始した人間のユーザーを示す明確な監査証跡を維持するフレームワークを探します。

セキュリティアーキテクチャの整合性を確保する

  • ゼロトラスト互換性:フレームワークは、エージェント間のゼロトラストを想定し、継続的な検証を必要とします。

  • ネットワークセグメンテーション:エージェントは、機能を侵害することなく、マイクロセグメント化された環境(隔離されたネットワークゾーン)内で動作する必要があります。

  • 脅威モデリング:OWASP LLM Top 10やMITRE ATLASなどのAI固有の脅威モデルに対して評価されたフレームワークを優先します。これらのフレームワークに対するマッピングにより、エンタープライズ・エージェント型AIのセキュリティ要件との整合性が確保されます。

ガバナンスとコンプライアンスの準備状況

  • 規制準拠:フレームワークは、包括的なエンタープライズAIガバナンスの一環として、GDPR、HIPAA、SOC 2、および新たに登場するAI固有の規制をサポートする必要があります。

  • 監査機能:すべてのエージェントの決定とアクションは、コンプライアンスレポート機能のために再構築可能である必要があります。

  • ポリシー施行:フレームワークが組織のAIガバナンスポリシーをどのように実装および施行するかを評価します。

オペレーショナルレジリエンス

  • モニタリングと可観測性:フレームワークは、リアルタイムのエージェントの動作モニタリングのための包括的なツールを提供する必要があります

  • インシデント対応:問題のあるエージェントは、迅速に特定、隔離、および修復する必要があります。

  • ロールバック機能:問題が発生した場合、フレームワークはエージェントの構成またはアクションを安全に元に戻す必要があります

規模とパフォーマンスに関する考慮事項

  • マルチクラウドサポート:エージェントは、さまざまなクラウド環境で一貫して動作する必要があります。

  • リソースの最適化:フレームワークは、計算リソースを管理し、暴走するエージェントの動作を防ぐ必要があります。

  • 同時実行オペレーション:適切な強制メカニズムを備えた、同時エージェントオペレーションには明確な制限が必要です。

フレームワークのセキュリティを優先した設計パターン

フレームワークは異なりますが、ほとんどは一般的なパターンに依存しています。それぞれに、エージェント型LLMフレームワークを使用する場合と、シングルエージェントデプロイメントを使用する場合とでわずかに異なる、固有のセキュリティに関する考慮事項があります。

  • ツールの使用

パターン:エージェントは実行のためにAPI/ツールを呼び出します

リスク:過剰な権限が付与された認証情報

ベストプラクティス:エンタープライズIAMを通じて管理される、有効期間の短い、ジャストインタイムアクセス

  • リフレクションと自己批判

パターン:エージェントは実行前に出力を確認します

リスク:侵害された場合、誤った「自己承認」

ベストプラクティス:独立した検証レイヤー、外部ガードレール

  • マルチエージェントコラボレーション

パターン:エージェントのチームが連携します

リスク:エージェント間での特権のエスカレーション

ベストプラクティス:エージェントアイデンティティを分離し、継続的な認証とリクエストごとの検証を強制する

  • ReAct(Reason and act:推論と行動)

パターン:エージェントは反復的に推論し、実行します。

リスク:ループアクション、暴走

ベストプラクティス:実行上限、監査可能なチェックポイント

これらのセーフガードを組み込むことができないフレームワークは、エンタープライズを制御不能なエージェントの動作にさらすリスクがあります。

エンタープライズ向けのフレームワーク選択基準

フレームワークを評価する際、エンタープライズは以下を優先する必要があります。

  • アイデンティティ統合:エンタープライズIAM、RBAC/ABAC、および非ヒューマンアイデンティティ管理のサポート

  • セキュリティアーキテクチャ:ゼロトラストおよびセグメント化されたアクセスとの互換性

  • ガバナンスとコンプライアンス:GDPR、HIPAA、EU AI Act、NIST AI RMFとの整合

  • オペレーショナルレジリエンス:インシデント対応、可観測性、およびロールバック機能

フレームワークは、その機能のみではなく、エンタープライズセキュリティ戦略にどの程度合致しているかによって評価される必要があります。

規制コンプライアンスとガバナンスに関する考慮事項

エージェント型AIの規制状況は急速に進化しています。複数の重複する要件に対応する必要があるフレームワーク:

EU AI法コンプライアンス

EU AI Actの第14条では、2025年2月から段階的に導入される高リスクシステム要件とともに、実証可能な人間の監視が義務付けられています。アイデンティティ中心のアプローチは、検証済みの人間による委任チェーンと不変の意思決定証跡を通じて、すべてのエージェントインタラクションに監視機能を組み込みます。

フレームワークは以下を実証する必要があります。

  • エージェントの意思決定における明確な人的介入ポイント

  • 自律的なアクションに対する人間の承認を示す透過的な監査証跡

  • 人間がエージェントの動作を中断またはオーバーライドするメカニズム

業界固有の要件

フレームワークは、以下を含む業界固有の要件に対応する必要があります。

  • ヘルスケアのデータプライバシーに関するHIPAA

  • 財務監査証跡のSOX/PCI DSS

  • 政府環境向けのFedRAMPセキュリティコントロール

データ主権と国境を越えた考慮事項

複数の管轄区域で事業を展開する組織は、フレームワークが以下を確実に実行できるようにする必要があります。

  • エージェント運用に関するデータ所在地要件を実装

  • 異なる規制環境に合わせて、個別のコンプライアンス体制を維持します。

  • 管轄区域固有の監査機能とデータ処理手順を提供します。

新たなセキュリティ課題

導入が加速するにつれて、エンタープライズは以下に直面します。

  • 非人間アイデンティティ(NHI)の拡散:管理されていないエージェントおよびサービスアカウントが多数存在

  • フレームワーク間の相互運用性:LangGraph、Semantic Kernelなどで統一ポリシーを適用するのが困難

  • AI固有の攻撃ベクトル:プロンプトインジェクション、モデル操作、およびサプライチェーンリスク(OWASP LLM01:2025に基づく)

  • 規制の複雑さ:コンプライアンスは地域および業界によって異なり、一貫した監査証跡が必要です。

セキュアな展開のためのベストプラクティス

AIエージェントのセキュリティの基礎:

アイデンティティ優先設計

  • すべてのエージェントをファーストクラスのアイデンティティとして扱う

  • 自動化されたアイデンティティ Lifecycle Managementを適用する:エージェントアイデンティティのプロビジョニング、検証、ローテーション、および廃止

多層防御

  • ゼロトラストを強制する:エージェント間の信頼を前提としない。

  • エージェントの許可をセグメント化し、マイクロ許可を使用します。

デフォルトによるガバナンス

  • ポリシーベースのアクセスコントロールを必須にする

  • NIST AI RMFおよびEU AI Actのガードレールに準拠します。

可観測性と監査性

  • すべてのエージェントアクションのログを一元化

  • <a href="">異常検出</a>(移動不可能な場所、認証情報の誤用)を自動化します

ステップ・バイ・ステップのチーム・チェックリスト

  1. すべてのエージェントをエンタープライズIAMに登録します

  2. 安全なブローカーを介して有効期間の短い認証情報を発行

  3. ツールへのアクセスを制限するためにRBAC/ABACを適用します。

  4. 未使用のアイデンティティを継続的にローテーションおよび失効

  5. 異常検出とアラートを使用してアクションを監視します。

エージェント型フレームワークの将来のトレンド

エンタープライズは以下に備える必要があります。

  • エージェントマーケットプレイス

  • フレームワーク間の相互運用性

  • エージェントのサプライチェーンセキュリティ

よくある質問

エージェント型AIフレームワークは、自動化ツールとどのように異なりますか?

フレームワークは推論、計画、適応をサポートしますが、自動化ツールは静的なワークフローに従います。

短命のエージェント認証情報をどのように管理しますか?

IAMを介して一時的な認証情報を発行し、ローテーションを強制し、すべての使用状況をログに記録します。

フレームワークはエンタープライズIAMと統合できますか?

ほとんどはAPIキーに依存しています。エンタープライズレベルの利用には、マルチクラウドおよびハイブリッド環境全体でIAMを統合するための一元化されたIdentity Security Fabricが必要です。

エージェントAIにはどのようなコンプライアンスルールが適用されますか?

フレームワークは、GDPR、HIPAA、SOC 2、およびEU AI Actを含む新しいAI規制に準拠する必要があります。

自律エージェントをどのように監視および監査しますか?

ロギング、異常検出、および不変の監査証跡は、自律エージェントの監督をサポートし、エンタープライズがガバナンスとコンプライアンスを維持するのに役立ちます。

フレームワークはどのようにゼロトラストを可能にしますか?

ゼロトラストアプローチは、すべてのエージェント操作にわたって、エージェントごとの認証、マイクロセグメンテーション、および継続的な検証を強制します。

エージェント指向のAI展開を保護する準備はできましたか? 

Agentic AIフレームワークは、エンタープライズAI導入のバックボーンへと急速に進化しています。自律エージェントの構造を提供しますが、アイデンティティ、セキュリティ、およびコンプライアンスに関する新たなリスクをもたらします。

アイデンティティ優先の戦略は、この複雑さを大規模に管理する唯一の方法です。アイデンティティはエージェントAIのコントロールプレーンとして機能し、すべてのエージェント操作にわたって統一された可視性とLifecycle Managementを提供します。非人間アイデンティティ(NHI)を保護し、ゼロトラストを適用し、ガバナンスをすべての積み重ねるに組み込むことで、エンタープライズはエージェントAIを変革するフレームワークを自信を持って展開できます。

Okta Platformが、非人間アイデンティティ(NHI)ライフサイクルを管理し、相互運用性とエンタープライズIAM機能を提供し、安全でスケーラブルなAI導入の基盤を提供することにより、エージェント型AIをどのように保護するかをご覧ください。

詳細を見る

アイデンティティ施策を推進