シャドーAIとは？リスク、ガバナンス、そしてNHIの台頭

シャドウAIとは、組織内で、IT部門やセキュリティチームからの明確な承認、管理、監督なしに、人工知能ツール、大規模言語モデル（LLM）、または自律的なAIエージェントを使用することです。

シャドーAIは、シャドーITに見られる未承認ソフトウェアの概念を反映していますが、より複雑なリスクプロファイルを作り出します。従来のファイル共有アプリは受動的に機能しますが、生成AIツールはエージェント機能をますますサポートするようになっています。AIエージェントは、大量の独自データを処理し、複雑な問題を解決し、ユーザーに代わって自律的に行動します。プロバイダーのポリシーとアカウントの種類によって、送信されたデータが保持、ログ、またはモデルトレーニングに使用されるかどうかが定義されます。

エージェント主導のワークフローは、従来のセキュリティ制御を迂回する、監視が不十分なデータ流出経路を作り出す可能性があります。組織は、データが承認されたシステム内に保持されていると考えているかもしれません。実際には、従業員がタスクを加速するために、知的財産、ソースコード、または顧客データを気付かずにパブリックAIモデルに送信してしまう可能性があります。

Cloud Security Allianceによる最近の業界調査によると、ほとんどの組織が非ヒューマンアイデンティティ（NHIs）を管理するための正式なポリシーを欠いており、AIおよびエージェント主導のアイデンティティがほとんど管理されていない状態であることが示されています。

主なポイント

• シャドウAIは進化しました： 現在では、ユーザーから独立して動作する自律エージェントと非人間アイデンティティ（NHI）が含まれています。
• アイデンティティギャップ： NHIのガバナンスコントロールの欠如は、有効期間が長く、ローテーションされないAPIキーや、管理されていないサービスアカウントへの依存度を高め、攻撃対象領域を拡大させます。
• データとコンプライアンスのリスク：プロバイダーのポリシー、アカウントの種類、構成によっては、送信されたデータがログに記録、保持、またはモデルの改善に使用される可能性があり、知的財産の漏洩やコンプライアンス違反につながる可能性があります。
• 解決策：セキュリティチームは、アイデンティティ中心の制御、自動化されたディスカバリー、安全なサンドボックスを実装することで、「ブロック」から「管理」へと移行する必要があります。

シャドーAI対エンタープライズAI

シャドーAIがエンタープライズレベルのAIイニシアチブと異なる点。

シャドーAIの推進要因：ローコード、エージェント、スピード

シャドーAIは急速に拡大しており、正式なガバナンスフレームワークの整備が追いついていません。

ゼロインフラストラクチャの導入

SaaSベースの生成AIツールは、デプロイするためにプロビジョニングされたインフラストラクチャを必要としません。従業員は、ブラウザ拡張機能または無料のWebアカウントを介して、高度な推論機能を数秒で利用できます。

「シチズンデベロッパー」とAPIの無秩序な拡大

開発はもはや技術チームだけのものではありません。ローコードおよびノーコードプラットフォームにより、市民developerはカスタムエージェントや統合を構築できます。チャットボットは通常、個々のユーザーセッションを通じて認証を行います。対照的に、自動化されたワークフローは、ユーザーのセッションを超えて存続するAPIキーまたはOAuthトークンに依存することが多く、管理されていないNHIを生成します。

リモートワークと弱体化する境界

今日の従業員はますます分散しており、従来のネットワーク境界が弱まっています。リモートで作業する従業員は、特に締め切りが迫っている場合、スピードとアウトプットを優先することがよくあります。承認されたツールが遅い、または制限が多いと感じる場合、ユーザーは仕事を終わらせるために、許可されていないAIの代替手段に頼ります。これには、ブラウザ拡張、LLMプラグイン、またはエンタープライズシステムと統合されたチャットボットが含まれる可能性があり、管理されていない非人間アイデンティティ（NHI）と追加のシャドーAIベクトルが作成されます。

シャドーAIのリスク：セキュリティ、コンプライアンス、および品質

管理されていないAIは、ポリシー違反を超えるリスクをもたらします。特に、エージェントのワークフローは、正式なアイデンティティ登録なしに、埋め込みの認証情報、APIトークン、または委任されたアクセスを使用して動作する場合、事実上のNHIを作成します。

たとえば、従業員がレポート機能を自動化するために、カスタムAIエージェントを長期的なAPIキーを使用して社内アナリティクスシステムやCRMに接続する場合があります。その場合、そのエージェントは、標準のプロビジョニング、レビュー、または失効プロセス外で、永続的なアクセス権を持つNHIとして動作します。

データ流出とモデルトレーニング

最も差し迫ったリスクは、データ流出です。パブリックLLMプロバイダーは、プロバイダーのポリシーとアカウントの種類に応じて、ロギング、安全性の監視、またはモデルの改善のためにユーザー入力を保持する場合があります。従業員が機密文書や独自のコードをパブリックチャットボットにアップロードすると、そのデータはエンタープライズの境界を離れます。プロバイダーの管理体制によっては、データが組織のガバナンスモデル外に存続する可能性があります。

規制上のリスク

GDPR、HIPAA、CCPAなどの規制により、個人データおよび機密データの処理、保存、共有方法に厳格な要件が定められています。シャドーAIは、AIツールまたはエージェントが承認されたワークフローまたはDPAの範囲外で規制対象データを処理する場合、これらの保護措置を回避する可能性があります。

EU AI法の対象となる組織では、管理されていないAIシステムが文書化された制御、透明性、または人間の監督なしに規制されたコンテキストまたは高リスクのコンテキストで展開された場合、追加のリスクが生じます。このような場合、シャドーAIは組織をデータ保護およびAI固有のコンプライアンス違反にさらす可能性があります。

ハルシネーションと意思決定の質

シャドーAIは、検証や監督なしに出力が生成されると、意思決定の質を低下させる可能性があります。検証されていないツールからの出力には、特に、根拠、検索拡張アプローチ、または人間のレビューがない場合、ハルシネーションや古い情報が含まれる可能性があります。従業員が戦略的または業務上の意思決定のためにこれらの出力に依存する場合、欠陥のある、または最適とは言えないビジネス成果のリスクが高まります。

ガバナンスフレームワーク：シャドーAIを保護する方法

組織は、単純にAIの導入を禁止することはできません。生産性の向上は非常に大きいです。そうではなく、セキュリティリーダーは「ブロック」するという考え方から「管理」するという考え方に移行する必要があります。

ブロックから有効化へ

• 利用許容範囲：承認されているAIツールと禁止されているAIツールを定義します。
• データ分類：どのデータ型（例：パブリック vs. 制限付き）をAIで使用できるかを指定してください。
• 最小特権：企業データに接続するすべてのAIエージェントが、共有またはハードコードされた認証情報ではなく、スコープされた権限を持つ明確な管理対象アイデンティティを持つようにします。

可視性：アイデンティティを中心とした監視

従来型のネットワーク監視では、エージェント主導のワークフローに追いつくことができません。組織は、セキュリティの盲点を減らすために、アプリ間の接続を横断して、人間のユーザーとAIエージェントを追跡する、アイデンティティ中心の可視性が必要です。

ガバナンスにおける従業員の関与

厳格なAIの禁止は、シャドウAIの利用を増加させる可能性があります。成功しているプログラムは、より協調的なアプローチを取っています。

• 代替手段の提供： 認可されたエンタープライズレベルのAIツールを提供します。
• サンドボックス環境： 従業員が本番データを公開することなく実験できる安全なAIラボを作成します。
• 教育：ポリシーの実施だけでなく、データ保護と知的財産のリスクについて従業員をトレーニングします。

未来：チャットボットから自律エージェントへ

シャドーAIは進化しています。焦点は、許可されていないチャットボットから許可されていない自律エージェントに移行しています。

注目のトレンド

• Agentic AI： AIエージェントは複数のステップからなるワークフローを実行できるようになりました。
• エージェント経由での認証情報スプロール： AIエージェントやその他のNHIがアプリケーションに接続すると、トークンスプロールが増加し、非人間アイデンティティ（NHI）の攻撃対象領域が拡大する可能性があります。エフェメラル資格情報またはワークロードアイデンティティ連携を使用すると、このリスクを軽減できます。

潜在的なソリューション

AIの保護には、エージェントを第一級のアイデンティティとして扱うことが必要です。

• 自動ディスカバリー：AIエージェント、サービスアカウント、APIベースのワークロードなど、管理されていないNHIを継続的に特定します。
• IDコントロールプレーン：AIエージェント、サービスアカウント、その他のワークロードを含む、ヒューマンおよび非人間アイデンティティ（NHI）の認証、認可、Lifecycle Managementを一元化します。
• アプリを横断したコンテキスト：タスクのコンテキスト、ユーザーの委任、およびエージェント固有の許可に基づいて、最小権限アクセスを適用します。

よくある質問（FAQ）

シャドーAIは悪意のあるものですか？

ほとんどの組織では、シャドーAIは意図せずに発生します。従業員は、承認された選択肢がない場合、作業を迅速化し、締め切りを守り、特定の問題を解決するためにAIツールを導入します。シャドーAIは、意図的なものではなく、可視性、ガバナンス、または一貫したセキュリティコントロールなしに発生するためにリスクをもたらします。

エンタープライズAIツールを使用すると、シャドーAIのリスクはなくなりますか？

承認されたAIプラットフォームであっても、従業員が許可されていないデータソースに接続したり、レビューなしでカスタムエージェントを作成したり、意図しない方法で認証情報を再利用したりすると、シャドーAIが発生する可能性があります。ガバナンスは、ツールの承認だけでなく、AIの構成、アクセス方法、および統合方法も対象とする必要があります。

セキュリティの観点から、AIツールはいつAIエージェントになるのか？

AIシステムは、複数のステップからなるワークフローを自律的に実行し、ステップ間でコンテキストを維持し、継続的な人的入力を必要とせずに他のシステムでアクションを実行できる場合、エージェントになります。その際、定義された許可、認証、監視を備えたNHIとして扱う必要があります。

シャドーAIの管理において、アイデンティティ制御が重要なのはなぜですか？

ネットワークおよびApplication （アプリケーション）の制御だけでは、システム全体で動作するAIエージェントを管理できません。アイデンティティは、人間のユーザーとAIエージェントの両方に対して、一貫した強制レイヤーを提供します。アイデンティティベースの認証と認可を実装することで、組織はAIシステムが、それらが表す人間のユーザーまたはサービスによって許可されたデータのみにアクセスし、アクションのみを実行することを保証できます。

OktaでAI戦略を保護しましょう

AIが受動的なツールから自律的なエージェントに進化するにつれて、アイデンティティは主要かつ最も拡張性の高い制御プレーンになります。Okta Platformは、管理されていない非人間アイデンティティ（NHI）や、環境全体でAIエージェントとアプリ間接続を支えるAPIキーを特定し、きめ細かいIDベースのポリシーで非人間アイデンティティを統制することで、組織がシャドウAIを未管理のリスクから管理された機能に変えるのを支援します。

詳細を見る