Kurzfassung
Die Absicherung autonomer KI-Agenten erfordert eine Identity-zentrierte Zero-Trust-Architektur, die auf kurzlebigen Anmeldedaten, einer „On-Behalf-Of“-Autorisierung beider Ebenen, kryptografisch attestierten Agentenidentitäten, kontinuierlichem automatisiertem Offboarding und Fail-Closed-System-Designs basiert.
KI-Agenten führen Unternehmens-Workflows aus, aber da LLM-gestützte Tools probabilistisch sind, dürfen sie nicht wie Standardbenutzer:innen behandelt werden, da dies zu erheblichen Sicherheitsrisiken führt. Für eine sichere Bereitstellung benötigen Sie einen Identity-zentrierten Ansatz, der Autonomie mit strengen zentralen Kontrollen in Einklang bringt.
Um dieses Paradigma absichern zu können, müssen Unternehmen die drei wichtigen Fragen beantworten können, die im Konzept für den sicheren Einsatz von Agenten in Unternehmen hervorgehoben werden:
- Wo sind meine Agenten?
- Womit können sie sich verbinden?
- Was können sie tun?
Durch die Festlegung klarer Leitplanken für Authentifizierung und Autorisierung können Unternehmen schnell Innovationen vorantreiben, ohne kritische Systeme zu gefährden. Hier sind die fünf Grundregeln für die Absicherung autonomer KI-Agenten in Unternehmen.
Zentrale Sicherheitsregeln für KI-Agenten-Architekturen
| Sicherheitsregel | Primäres Risiko, das dadurch behoben wird | Grundprinzip/Standard |
|---|---|---|
| Kurzlebige Anmeldedaten | Token-Diebstahl, weitreichender Identitätsmissbrauch | Kurzlebige Access-Token, die von einem zentralen Identity-Anbieter ausgegeben werden |
| On-Behalf-Of-Autorisierung beider Ebenen | Rechteausweitung, fehlende Nachvollziehbarkeit | Überprüfung der Schnittmenge der Berechtigungsbereiche von Agent und menschlichem:r Benutzer:in |
| Kryptografische Identität | Agenten-Spoofing, unverifizierte Ausführung | Remote-Attestierung und unveränderliche kryptografische Audit-Protokolle |
| Automatisierte Lebenszyklusverwaltung | Verwaiste Schatten-KI, Prompt-Injection-Drift | Automatisierte Identitätsbereinigung und regelmäßige Bestandsüberprüfung |
| Fail-Closed-Architektur | Denial of Service der Sicherheitstelemetrie, unüberwachte Ausführung | Sicherheitsunterbrechungen führen standardmäßig zum vollständigen Zugriffsentzug |
Wie handhaben Sie Anmeldedaten für autonome KI-Agenten?
Eliminieren Sie langlebige Agenten-Anmeldedaten zugunsten von kurzlebigen Token
Die Zuweisung direkter, dauerhafter Anmeldedaten (z. B. statische API-Keys oder eigene Access-Token) zu KI-Agenten birgt dies schwerwiegende Risiken. Mit diesen Anmeldedaten geben sich Agenten faktisch als Benutzer:in mit umfassenden, oft unbekannten Berechtigungen aus – sodass ein einziger kompromittierter Zugangsschlüssel weitreichende Systemschäden verursachen kann.
- Die Lösung: Stattdessen sollten Agenten nur kurzlebige Access-Token verwenden, die über einen zentralen Identity-Anbieter abgerufen werden.
- Architektonische Durchsetzung: Architekturen müssen direkte OAuth-Grants und agentenbasierte Browser, die Sessions nachahmen, explizit blockieren. Dieses Design etabliert eine zentrale Kontrollebene, durch die Security-Teams den Zugriff mit einem einzigen Not-Aus-Schalter sofort entziehen können, falls ein Agent außer Kontrolle gerät.
Was ist On-Behalf-Of-Autorisierung bei agentischer KI?
Setzen Sie echte On-Behalf-Of-Autorisierung beider Ebenen durch
Die meisten aktuellen KI-Bereitstellungen basieren auf einem problematischen Prinzip, bei dem Agenten die Identität von Benutzer:innen annehmen. Damit ist nicht nachvollziehbar, wer für eine Aktion verantwortlich ist. Zudem wird das Least-Privilege-Prinzip verletzt. Dies lässt sich beheben, indem Identität und Ausführung in einem einzigen, kohärenten Governance-Framework zusammengeführt werden.
- Verifizierung beider Ebenen: Echte „On-Behalf-Of“-Abläufe erfordern eine Autorisierung beider Ebenen: Der Autorisierungsserver verifiziert unabhängig die Berechtigungen sowohl des aktiven Agenten als auch der zugrunde liegenden menschlichen Person.
- Effektiver Berechtigungsbereich: Dem Agenten wird nur die Schnittmenge der Berechtigungsbereiche beider Berechtigungssätze gewährt.
- Auditierbarkeit: Dieser dynamische Kontext ermöglicht vollständige Transparenz, da Audit-Protokolle beide Identitäten gleichzeitig erfassen und so eine klare, durchgängige Verantwortlichkeit auf Trace-Ebene gewährleisten.
Wie etablieren Sie eine kryptografische Identität für KI-Agenten?
Schreiben Sie eine kryptografische Identität und unveränderliche Audits vor
Sie können einen Agenten nicht absichern, wenn Sie ihn nicht eindeutig und zuverlässig identifizieren können. Autonome Agenten müssen sich mithilfe einer kryptografisch eindeutigen Kennung authentifizieren, die auf sicherer Speicherung und Remote-Attestierung basiert.
- Unveränderliche Audit-Protokolle: Jede Autorisierungsanfrage und jede vom Agenten durchgeführte Aktion muss in einem unveränderlichen Audit-Trail erfasst werden, der die kryptografische Integrität sicherstellt.
- Widerrufskontrolle: Sie benötigen eine zentrale Kontrollebene, über die Sie diese Anmeldedaten bei Bedarf sofort widerrufen können.
Wie verwalten Sie den Lebenszyklus von Enterprise-KI-Agenten?
Automatisieren Sie die kontinuierliche Identity-Lebenszyklusverwaltung
Das Least-Privilege-Prinzip wird nicht nur einmal konfiguriert, sondern muss fortlaufend durchgesetzt werden. Unüberwachte Agenten („Schatten-KI“) werden zu bevorzugten Zielen für Angreifer:innen.
- Reduzierung des Wirkungsradius: Die Einschränkung der Berechtigungen eines Agenten minimiert den potenziellen Wirkungsradius, falls ein LLM einer Prompt Injection ausgesetzt ist oder unbeabsichtigte Aktionen ausführt.
- Automatisierte Deprovisionierung: Security-Teams müssen Agentenbestände regelmäßig überprüfen und diejenigen stilllegen, die inaktiv sind, einen geringen geschäftlichen Nutzen haben oder erratisches Verhalten zeigen. Das Offboarding ungenutzter Agenten verhindert zudem, dass verwaiste Anmeldedaten zu leichten Zielen für Angreifer:innen werden.
Was ist eine Fail-Closed-Architektur für KI-Agenten?
Schreiben Sie Fail-Closed-Sicherheitsarchitekturen vor
Systemstörungen oder Sicherheitsfehler dürfen niemals zu erweiterten Fähigkeiten für einen KI-Agenten führen.
- Ausfallsichere Mechanismen: Wenn die Authentifizierung, Autorisierung oder der Sicherheitsrahmen eines Agenten unterbrochen wird, muss das System den Zugang des KI-Agenten standardmäßig sofort entziehen.
- Resilienzstrategie: Das Fail-Closed-Prinzip trägt dazu bei, dass Sicherheitseinbußen nicht zu unverifizierten autonomen Zugriffsrechten führen. Beispielsweise sollte ein erfolgreicher Denial-of-Service-Angriff auf ein Sicherheitssubsystem den Agenten abschalten, anstatt ihn unüberwacht zu lassen.
Schaffen einer Identity-zentrierten Sicherheitsgrundlage mit Okta for AI Agents
Für die Absicherung autonomer KI-Agenten müssen Unternehmen über traditionelle Zugriffskontrollen hinausgehen und zentrale Transparenz, kurzlebige Anmeldedaten sowie strenge Fail-Closed-Architekturen etablieren.
Okta for AI Agents kann Ihnen dabei helfen, diese Identity-basierten Leitplanken zu implementieren und agentenbasierte Workflows in Ihrem Unternehmen sicher bereitzustellen.
