Jeden Monat stellen wir einen der Gründer der Portfoliounternehmen von Okta Ventures vor. Sie werden mehr über sie erfahren und lernen, wie sie mit Okta zusammenarbeiten. Diesen Monat sprechen wir mit Itamar Golan von Prompt Security.
Was ist Prompt Security und was ist Ihre Mission?
Prompt Security ist eine Plattform, die Unternehmen dabei unterstützt, generative KI (GenAI) sicher zu nutzen. Unsere Mission ist es, Unternehmen vor GenAI-Bedrohungen zu schützen und gleichzeitig eine klare Transparenz und Kontrolle über GenAI-Tools zu bieten. Unser Ziel ist es, Unternehmen weltweit in die Lage zu versetzen, GenAI auf eine Weise zu nutzen, die Innovationen vorantreibt, die Produktivität steigert und das Wachstum beschleunigt, und das alles, ohne das Risiko zu erhöhen oder die Privatsphäre der Daten zu gefährden. Durch das Erreichen und Aufrechterhalten einer robusten Sicherheit und Compliance können Unternehmen das unglaubliche Potenzial von GenAI freisetzen.
Was haben Sie vor Prompt Security gemacht, das Sie zu diesem Zeitpunkt geführt hat?
Bevor ich Prompt Security gründete, arbeitete ich ein Jahrzehnt lang in den Bereichen Data Science, Cybersecurity und an der Schnittstelle dieser beiden Bereiche. Ich leitete Initiativen für Unternehmen wie Check Point und Orca Security, wo ich fortschrittliche KI-Modelle und -Technologien entwickelte, um die organisatorische Sicherheit zu verbessern.
Durch diese Arbeit und als die Akzeptanz von KI zum Mainstream wurde, erkannte ich eine entscheidende Verschiebung: Anstatt KI für die Sicherheit zu entwickeln, bestand ein wachsender Bedarf, Sicherheit speziell für KI zu entwickeln. Dies rückte die sichere Einführung von GenAI in den Vordergrund und war der Auslöser für die Mitbegründung von Prompt Security.
Was ist die Lösung von Prompt Security? Welches Problem löst es?
Unsere Lösung löst Herausforderungen an mehreren Fronten.
Wir schützen Unternehmen vor den Risiken der GenAI-Nutzung durch Mitarbeiter. Diese Mitarbeiter-Governance ermöglicht es Unternehmen und ihren Mitarbeitern, alle Vorteile von GenAI zu nutzen, egal ob es sich um die Verwendung von ChatGPT zur Überarbeitung von E-Mails, Jasper für Content-Marketing oder GitHub Copilot für Code-Vervollständigung handelt.
Wir setzen ein schlankes Browser-Plugin oder einen Agenten auf den Endpunkten der Mitarbeiter ein, der Shadow AI erkennt und dem Sicherheitsadministrator eines Unternehmens ein vollständiges, detailliertes Inventar der KI-Nutzung liefert. Der Administrator hat volle Einsicht (Person X ging mit Prompt Y an Tag und Uhrzeit Z zu Gemini).
Sie können auch granulare Richtlinienkontrollen festlegen, welche Interaktionen zwischen Mitarbeitern und Anwendungen legitim sind und welche Daten mit Tools ausgetauscht werden dürfen. Und im Falle eines Verstoßes hängt unsere Reaktion (Protokollierung, Änderung, Blockierung usw.) von den Präferenzen des Unternehmens ab. Insgesamt ermöglicht die Mitarbeiterverwaltung Unternehmen, die Produktivität freizusetzen und gleichzeitig die Kontrolle zu behalten.
Unser zweites Modell ist auf selbst entwickelte GenAI-Anwendungen ausgerichtet. Stellen Sie sich vor, eines Ihrer F&E- oder Produktteams entwickelt einen kundenorientierten Chatbot, der natürliche Sprache in Englisch oder Französisch akzeptiert, um das Kundenerlebnis in Bezug auf Ihr Produkt zu beschleunigen. Um diesen Chatbot realisierbar zu machen, sind viele Technologien im Backend eingebettet. Dies stellt eine neue Architektur dar – eine neue Art, Anwendungen zu erstellen.
Aber so wie sie Türen zu neuen Möglichkeiten öffnet, öffnet sie auch Türen zu neuen Schwachstellen, von denen Sie einige in den OWASP Top 10 für Large Language Model-Anwendungen finden, bei deren Zusammenstellung wir eine Schlüsselrolle gespielt haben. Dazu gehören Prompt-Injections, Jailbreaks, Adversarial Attacks, unsicheres Plug-in-Design, Denial of Service und mehr.
Und angesichts dieser Risiken fungiert Prompt Security als eine Art Firewall für GenAI. Wir untersuchen den gesamten semantischen Datenverkehr und suchen nach sensiblen Daten, Sicherheitslücken und unsicheren Inhalten. Wenn wir potenziell sensible oder bösartige Versuche feststellen, können wir diese in Echtzeit blockieren oder verhindern.
Egal, ob Ihr Mitarbeiter über den Browser zu Gemini oder zu Notion AI geht, Ihr Entwickler KI-gestützte Code-Assistenten wie GitHub Copilot verwendet oder Ihr F&E-Team eine interne, selbst entwickelte GenAI-App entwickelt, Prompt Security prüft alles und setzt Ihre Richtlinien durch, um sicherzustellen, dass alles sicher und in Ordnung ist – es werden keine Prompt-Injections durchgeführt, keine sensiblen Daten werden preisgegeben und es werden keine schädlichen oder markenfremden Inhalte erstellt.
Warum wollte Prompt Security mit Okta zusammenarbeiten?
Zunächst einmal ist Okta ein ausgezeichnetes Unternehmen. Ich benutze es schon lange und bewundere seine Ausführung und seine Marktanpassung sehr.
Im Zusammenhang mit Prompt Security bietet die Okta-Integration einen erheblichen Mehrwert für unsere Lösung. Vor der Bereitstellung unserer Lösung für ein bestimmtes Unternehmen integrieren wir uns in die Okta des Käufers. Dies ermöglicht es uns, von Mitarbeitern eine angemessene Authentifizierung zu verlangen, bevor sie auf bestimmte GenAI-Anwendungen zugreifen. Durch die Identifizierung der Identität und der Benutzergruppe eines Mitarbeiters können wir die entsprechenden GenAI-Anwendungsrichtlinien durchsetzen, die für ihn relevant sind.
Diese Fähigkeit ermöglicht es unserer Lösung, sich an jede Benutzergruppe anzupassen. Wenn beispielsweise der CEO mit bestimmten Themen auf ChatGPT interagiert und diese diskutiert, kann unsere Antwort erheblich von unserem Vorgehen abweichen, wenn der Benutzer jemand aus dem F&E- oder Marketingteam wäre.
Wie arbeitet Prompt Security mit Okta zusammen? Welche Unterstützung erwarten Sie von einem Corporate Partner?
Unsere Integration passt hervorragend, weshalb wir planen, sie zu erweitern, um neue Funktionen bereitzustellen, wie z. B. die Autorisierung für GenAI-Anwendungen. Wenn ich zuvor über Richtlinien für verschiedene Mitarbeiter bei der Interaktion mit GenAI-Anwendungen gesprochen habe, stellen Sie sich vor, dass Sie auch maßgeschneiderte Richtlinien für jede eigene App durchsetzen, die mit Anwendungen von Drittanbietern interagiert. Auch hier sollten Sie einen rollenbasierten Autorisierungsmechanismus sicherstellen. Wir nennen es einen GenAI-Autorisierungsmechanismus, und es gibt viel Potenzial für die Zusammenarbeit mit Okta, um dies zu verwirklichen.
Darüber hinaus sehen wir den Aufbau von Prozessen für Co-Selling und Co-Marketing vor, da sich so viele unserer jeweiligen Angebote gegenseitig ergänzen. Viele Leute, die Prompt verwenden, würden von Okta profitieren und umgekehrt. GenAI sicher freisetzen und Autorisierungsrichtlinien durchsetzen gehen Hand in Hand. Diese Prozesse passieren natürlich nicht über Nacht, aber wir sehen sie sicherlich am Horizont. Mit dem Erfolg bei der Produkt- und Technologieintegration wird die Zusammenarbeit an Go-to-Market-, Marketing- und Vertriebsfronten umso leichter möglich.
Welche Trends erwarten Sie in der KI-Sicherheitsbranche?
GenAI steckt noch in den Kinderschuhen. Im Moment interagieren die Leute direkt mit ChatGPT und bauen sehr einfache Anwendungen darauf auf. Meiner Meinung nach wird GenAI in naher Zukunft praktisch überall integriert sein und die Leute werden viel ausgefeiltere GenAI-Anwendungen entwickeln. Chat-Schnittstellen und natürliche Sprache werden die neue UX, was bedeutet, dass ein grosser Bedarf an der Sicherung von Prompts entstehen wird.
Mit zunehmender GenAI-Akzeptanz und der stärkeren Integration zwischen GenAI-Apps und internen Daten werden die Herausforderungen im Bereich GenAI Security umso deutlicher. Von Prompt-Injections, Lecks sensibler Daten und Inhaltsmoderation bis hin zu komplexeren, benutzerabhängigen Problemen wie der Autorisierung wird es viel mehr Sicherheit für Prompt Security und Okta geben, die sie gemeinsam bieten können.
Haben Sie Interesse, Okta Ventures beizutreten? Sehen Sie sich unsere FAQ hier an und wenden Sie sich gerne an unser Team oder reichen Sie Ihr Unternehmen zur Überprüfung ein.
