KI verändert nicht nur, was wir entwickeln; sie erzwingt einen grundlegenden Wandel in der Art und Weise, wie wir Software entwickeln, bereitstellen und sichern.
Dieser architektonische Umbruch bedeutet, dass die vertrauten Sicherheitskontrollen der Vergangenheit nun vor eine Herausforderung gestellt werden. Wie Auth0-Präsident Shiv Ramji in einem Interview auf der Oktane erklärte, erfordert die durch konversationelle KI-Agenten entstehende Komplexität, dass Unternehmen ihren gesamten Sicherheitsansatz überdenken, beginnend mit der Identität.
Um diese Veränderung zu verstehen, schlug Ramji vor, über die Apps nachzudenken, die wir heute entwickeln: Sie sind „deterministisch“. Wenn Sie eine Reise-App verwenden, um einen Flug zu buchen, sind Ihre Möglichkeiten begrenzt und vorgegeben. Die Sicherheit wird gewährleistet, weil der Benutzer immer bekannten, geschützten Pfaden innerhalb des Anwendungscodes folgt.
Wenn Sie konversationelle KI einführen, verändert sich alles. Diese Agenten sind „nichtdeterministisch“. Sie können beliebige Eingaben in natürlicher Sprache entgegennehmen, im Hintergrund arbeiten und lang andauernde Aufgaben ausführen. Plötzlich befindet sich der Access Point nicht mehr tief im Anwendungscode. Es befindet sich direkt im Frontend, in der Kommunikationsschnittstelle selbst.
"Sie müssen überdenken, wie Sie Ihre Anwendungen aufbauen, da Sie den Access Point innerhalb Ihrer Anwendung nicht mehr kontrollieren können", sagte Ramji.
Diese Änderung legt interne APIs und Daten offen und birgt Risiken wie Datenlecks, wenn die Aktionen eines Chatbots kompromittiert werden. Diese Sicherheitsvorfälle sind keine hypothetischen Szenarien mehr. Sie sind eine wachsende Realität.
Für Developer ist die neue Priorität zweigeteilt: die erfolgreiche Integration von KI in Produkte und die Gewährleistung, dass diese Produkte "KI-bereit" sind, um sicher mit anderen Systemen zu interagieren. Dies ist im Grunde ein Problem des Identity-Management, sagte Ramji.
Vier kritische Anforderungen an die Identität
Basierend auf Gesprächen mit Developern hat Ramji vier entscheidende Anforderungen für den Bau sicherer und skalierbarer KI-Agenten identifiziert:
Agenten- und Benutzerauthentifizierung: Sichere Verknüpfung des nicht-menschlichen Agenten mit der Identity des menschlichen Benutzers.
Sicherer API-Zugriff: Standardisierung, wie Agenten sich mit zahlreichen Anwendungen verbinden, ohne dass Token-Lecks auftreten.
Human-in-the-Loop: Erfordert die ausdrückliche Genehmigung eines Menschen für risikoreiche oder sensible Transaktionen.
Feingranulare Berechtigungen: Die granularen Grenzen definieren, auf welche Daten ein KI-Agent zugreifen kann.
Mit Blick auf die Zukunft prognostizierte Ramji, dass die Identity der Schlüssel zur Lösung zukünftiger Herausforderungen sein wird, einschließlich der Reduzierung der sich wiederholenden Einwilligungsermüdung, der Ermöglichung der Portabilität von KI-Speichern über verschiedene Dienste hinweg und der Verbesserung der KI-gesteuerten Identitätsprüfung zur Betrugsbekämpfung.
Sehen Sie sich das obige Video an, um mehr über Ramjis Gedanken zur Sicherung nichtdeterministischer Anwendungen, die vier Identitätsanforderungen für KI-Agenten und darüber, wie Auth0 Developern hilft, Identity-First-Sicherheit in KI-gesteuerte Anwendungen einzubetten, zu erfahren.
