KI-Agenten verändern die Art und Weise, wie wir Software nutzen und entwickeln, und ermöglichen unglaubliche Produktivitätssteigerungen, indem sie komplexe Aufgaben in unserem Namen ausführen. Aber während Unternehmen sich beeilen, sie einzusetzen, stellt sich eine entscheidende Frage: Wer kontrolliert sie?
In einem kürzlichen Gespräch mit dem Tech-Influencer Alex Banks diskutierte Shiv Ramji, Präsident von Auth0, die besonderen Sicherheitsherausforderungen, die diese neue Ära nicht-deterministischer Software mit sich bringt.
„Wir sind an dem Punkt angelangt, an dem jeder mit Agenten experimentiert hat und erkannt hat, dass Agenten wirklich leistungsfähig sind“, erklärte Ramji. „Aber in dem Moment, in dem man sie im Unternehmen einsetzen will, fängt man an zu überlegen ... was ist mit Identity Security?“ Welchen Datenumfang oder Zugriff sollte ein Agent haben?“
Im Gegensatz zu traditionellen Anwendungen, die strengen, vordefinierten Regeln folgen, agieren KI-Agenten mit Intelligenz und Autonomie. Diese Verlagerung erfordert von Entwicklern, Sicherheit als grundlegendes Element und nicht als nachträgliche Funktion zu betrachten. Ramji umriss vier wichtige Anforderungen für Entwickler, die heute KI-Agenten entwickeln:
Verifizierung: So wie wir menschliche Benutzer verifizieren, müssen wir Agenten authentifizieren, um sicherzustellen, dass sie berechtigt sind, im Namen eines Benutzers Aktionen durchzuführen.
Human-in-the-Loop: Bei sensiblen Transaktionen – wie dem Kauf von Flugtickets – sollten Systeme die menschliche Genehmigung vor dem Abschluss ermöglichen.
Feingranulare Berechtigungen: Der Zugriff muss präzise und kurzlebig sein. Agenten sollten nur auf die Daten zugreifen, die sie benötigen, und zwar genau dann, wenn sie sie benötigen, anstatt über pauschale Berechtigungen zu verfügen.
Sichere Verbindungen: Wir müssen sicherstellen, dass Agenten sicher mit sowohl internen als auch externen Anwendungen wie Slack oder Workday interagieren können. Tools wie Auth0 Token Vault können Entwicklern dabei helfen.
Um mehr darüber zu erfahren, was Entwickler richtig machen müssen, und über Ramjis Vorhersagen für die Zukunft, sehen Sie sich das vollständige Video oben an.
