このブログはこちらの英語ブログの機械翻訳です。
毎月、Okta Venturesのポートフォリオ企業の創設者の1人を紹介します。彼らについてもっと知り、彼らがOktaとどのように連携しているかを学びます。今月は、Prompt SecurityのItamar Golan氏にお話を伺います。
プロンプトセキュリティとは何ですか？ あなたの使命は何ですか？
Prompt Securityは、企業がジェネレーティブAI（GenAI）を安全かつセキュアに導入するのを支援するプラットフォームです。当社のミッションは、GenAIツールに対する明確な可視性とガバナンスを提供しながら、企業をGenAIの脅威から保護することです。当社の目標は、リスクを増大させたり、データプライバシーを侵害したりすることなく、イノベーションを促進し、生産性を向上させ、成長を加速させる方法で、世界中の企業がGenAIを使用できるようにすることです。堅牢なセキュリティとコンプライアンスを達成し、維持することで、組織はGenAIの信じられないほどの可能性を解き放つことができます。
Prompt Security以前は何をしていましたか？
Prompt Securityを設立する前、私はデータサイエンス、サイバーセキュリティ、そしてこの2つの分野の交差点で10年間働いていました。私はCheck PointやOrca Securityのような企業で、組織のセキュリティを強化するための高度なAIモデルと技術を開発するイニシアチブを主導しました。
この取り組みを通じて、そしてAIの導入が主流になるにつれて、私は重大な変化を認識しました。セキュリティのためにAIを構築するのではなく、AIのために特別にセキュリティを構築する必要性が高まっていました。これにより、セキュアなGenAIの導入が私の心の一番前に置かれ、Prompt Securityを共同設立するきっかけとなりました。
Prompt Security のソリューションとは？どのような課題を解決しますか？
当社のソリューションは、複数の側面で課題を解決します。
従業員によるGenAIの使用のリスクから企業を保護します。この従業員ガバナンスにより、企業とその従業員は、ChatGPTを使用してメールを修正したり、Jasperをコンテンツマーケティングに使用したり、GitHub Copilotをコード補完に使用したりするなど、GenAIのすべてのメリットを享受できます。
従業員のエンドポイントに軽量なブラウザプラグインまたはエージェントをデプロイし、シャドーAIを検出して、企業のセキュリティ管理者にAIの使用に関する完全な詳細なインベントリを提供します。管理者は完全な可視性を持っています（担当者Xは、YプロンプトでGeminiにZ日時にアクセスしました）。
また、どの従業員とアプリケーションのインタラクションが正当であり、どのデータをツールと共有できるかについて、きめ細かいポリシー制御を設定することもできます。また、違反が発生した場合、当社がどのように対応するか (ログ記録、変更、ブロックなど) は、会社の好みによって異なります。全体として、従業員ガバナンスにより、企業は制御を維持しながら生産性を向上させることができます。
当社の2番目のモデルは、自社開発のGenAIアプリケーションを対象としています。あなたのR＆Dまたは製品チームの1つが、英語またはフランス語で自然言語を受け入れて、製品に対する顧客体験を加速する、顧客向けのチャットボットを構築していると想像してください。このチャットボットを実現可能にするために、多くのテクノロジーがバックエンドに組み込まれています。これは、新しいアーキテクチャ、アプリケーションを構築する新しい方法を表しています。
しかし、それが新しい可能性への扉を開くと同時に、新しい脆弱性への扉も開き、その一部は、大規模言語モデルアプリケーション向けのOWASP Top 10に記載されており、その編集において重要な役割を果たしました。これらには、プロンプトインジェクション、ジェイルブレイク、敵対的攻撃、安全でないプラグイン設計、サービス拒否などが含まれます。
そして、これらのリスクに直面して、Prompt SecurityはGenAIのファイアウォールとして機能します。このセマンティックトラフィックをすべて検査し、機密データ、セキュリティエクスプロイト、および安全でないコンテンツを探します。潜在的に機密性の高い試みや悪意のある試みが見つかった場合は、リアルタイムでブロックまたは防止できます。
従業員がブラウザを介して Gemini または Notion AI にアクセスする場合でも、開発者が GitHub Copilot のような AI 搭載のコードアシスタントを使用する場合でも、R&D チームが社内で作成した GenAI アプリを構築する場合でも、Prompt Security はそのすべてを検査し、ポリシーを適用して、すべてが安全で問題がないことを確認します。プロンプトインジェクションは実行されておらず、機密データが漏洩しておらず、有害またはブランドにふさわしくないコンテンツが作成されていません。
Prompt SecurityがOktaと協力したいと考えたのはなぜですか？
まず第一に、Oktaは素晴らしい会社です。私は長い間それを使用しており、その実行と市場適合性を非常に高く評価しています。
Prompt Security のコンテキストでは、Okta の統合は当社のソリューションに大きな価値をもたらします。特定の企業に当社のソリューションを展開する前に、購入者の Okta と統合します。これにより、従業員が特定の GenAI アプリケーションにアクセスする前に、適切な認証を提供することを要求できます。従業員のアイデンティティとユーザーグループを特定することで、従業員に関連する適切な GenAI アプリケーションポリシーを適用できます。
この機能により、当社のソリューションは各ユーザーグループに適応できます。たとえば、CEO が ChatGPT で特定のトピックをやり取りして議論する場合、当社の対応は、ユーザーが R&D またはマーケティングチームの誰かである場合とは大きく異なる可能性があります。
Prompt SecurityはOktaとどのように連携していますか？企業パートナーにどのようなサポートを求めていますか？
当社の統合は自然な適合性があり、GenAIアプリケーションの認可など、新しい機能を提供するために拡張する予定です。もし私が異なる従業員がGenAIアプリケーションとやり取りするためのポリシーについて話したことがあるなら、サードパーティのアプリケーションとやり取りする各自社製アプリに合わせたポリシーを適用することも想像してみてください。ここでは、ロールベースの認可メカニズムも必要になるでしょう。私たちはそれをGenAI認可メカニズムと呼んでおり、Oktaとのコラボレーションで実現する可能性が大いにあります。
さらに、それぞれの製品が互いに補完し合うため、共同販売および共同マーケティングのプロセスを構築することを想定しています。Promptを使用する多くの人々はOktaから恩恵を受け、その逆もまた然りです。GenAIを安全に解き放ち、認可ポリシーを適用することは密接に関連しています。もちろん、これらのプロセスは一晩では実現しませんが、私たちは確かにそれが目前に迫っていると考えています。製品とテクノロジーの統合、市場投入、マーケティング、および販売の分野でのコラボレーションが成功すると、いっそう実現可能になります。
AIセキュリティ業界でどのようなトレンドを予想しますか？
GenAIはまだ初期段階にあります。現在、人々はChatGPTと直接対話し、その上に非常にシンプルなアプリケーションを構築しています。私が思うに、近い将来、GenAIは実質的にあらゆる場所に統合され、人々ははるかに洗練されたGenAIアプリケーションを構築するでしょう。チャットインターフェースと自然言語が新しいUXになるため、プロンプトを保護する大きな必要性が生じます。
GenAIの導入が進み、GenAIアプリと内部データとの統合が強化されるにつれて、GenAIセキュリティの範囲内における課題はますます顕著になります。プロンプトインジェクション、機密データの漏洩、コンテンツモデレーションから、認証のようなより洗練されたユーザー依存の問題まで、プロンプトセキュリティとOktaが連携して提供できるセキュリティはさらに多くなります。
Okta Ventures への参加にご興味がありますか？よくある質問はこちらをご覧ください。お気軽に当社のチームに連絡するか、審査のためにあなたのビジネスを提出してください。
