KI-Agenten nehmen explosionsartig zu und vermehren sich jeden Tag. Die Verbreitung nimmt rasant zu, wobei Gartner prognostiziert, dass bis Ende dieses Jahres eingebettete, aufgabenspezifische KI-Agenten in 40 % der Unternehmensanwendungen zum Einsatz kommen werden, im Vergleich zu weniger als 5 % heute.
Diese Agenten werden bemerkenswert besser darin, komplexe Aufgaben auszuführen. Sie benötigen möglicherweise bereits – und werden dies eines Tages auch tun – Zugriff auf sensible oder zugriffsbeschränkte Daten und die Fähigkeit, sowohl kritische Workflows aufzurufen als auch Aktionen im Namen von Benutzern auszuführen. Und Agenten werden diese Aufgaben mit minimalem bis gar keinem menschlichen Eingreifen ausführen.
KI-Agenten sind noch relativ neu, und die meisten Organisationen befinden sich in der „Experimentierphase“ und verfolgen einen Greenfield-Ansatz. Infolgedessen stellen viele Entwickler neue Agenten bereit, die auf End-to-End-Funktionalität ausgerichtet sind, ohne immer die weitreichenderen Sicherheitsauswirkungen zu bedenken – was einen massiven blinden Fleck bei Identity und Auditierbarkeit schafft.
Stellen wir uns folgendes Szenario vor: Ihr Entwicklungsteam entwickelt einen KI-Agenten, um einen geschäftskritischen Workflow zu automatisieren, der es erfordert, dass der Agent auf Ihr CRM zugreift und einen Reporting-Dienst abfragt. Alles scheint unkompliziert, bis es ein Security-Review durchläuft und Ihr Team antworten muss:
- Wissen Sie, wem dieser KI-Agent gehört?
- Wissen Sie, welche Aktionen dieser Agent in den letzten Wochen ausgeführt hat?
- Wie entziehen Sie dem KI-Agenten den gesamten Zugriff?
Dies sind sehr grundlegende, aber wichtige Fragen. Das Problem ist, dass die meisten Lösungen für Identity und Zugriffsmanagement (IAM) nicht dafür entwickelt wurden, Ihnen dabei zu helfen, diese zu beantworten. In diesem Beitrag werden wir untersuchen, warum KI-Agenten einzigartige Sicherheitsherausforderungen mit sich bringen und was auf dem Spiel steht, wenn sie unreguliert bleiben. Wir werden außerdem Leitprinzipien für die Absicherung der Identity von KI-Agenten untersuchen, bevor diese blinden Flecken zu Sicherheitsverletzungen führen.
Aktueller Stand von KI-Agenten
KI-Agenten werden in zunehmendem Tempo eingesetzt und lösen reale Geschäftsprobleme in verschiedenen Branchen:
- Bei einem Fintech-Unternehmen übernehmen Kundenservice-Bots zwei Drittel der Support-Chats, was 700 Vollzeitbeschäftigten entspricht.
- Analyse-Agenten können Datenbanken und Data Warehouses abfragen, um Business-Intelligence-Berichte zu erstellen.
- Code-Generierungs-Agenten können auf Repositories zugreifen, Pull-Requests überprüfen und Verbesserungen vorschlagen – und das autonom.
- Vertriebsassistenten können Pipeline-Daten analysieren und personalisierte Kontakt-E-Mails entwerfen, um Deal-Zyklen zu beschleunigen.
Jeder dieser Agenten benötigt Zugriff auf sensible Systeme und Daten, um seine Aufgabe zu erfüllen. Und da beginnt das Problem.
Der blinde Fleck der Identity
Angesichts des Trends und der rasanten Verbreitung können viele Organisationen grundlegende Fragen zu ihren KI-Agenten nicht beantworten:
- Wie viele KI-Agenten haben wir? Die IT kennt vielleicht die offiziell genehmigten, aber was ist mit den experimentellen Agenten?
- Wem gehören sie? Wer ist verantwortlich, wenn ein Agent sich fehlerhaft verhält? Welches Team hat es bereitgestellt? Wer hat den Zugriff genehmigt?
- Auf welche Systeme können sie zugreifen? Hat Ihr benutzerdefinierter Service-Bot nur Lesezugriff auf das CRM, oder kann er Datensätze ändern? Kann es auf Finanzdaten zugreifen, die es nicht benötigt?
- Welche Berechtigungen haben sie?
Diese blinden Flecken sind genau die Stellen, an denen sich die Sicherheitslücke befindet. Diese Agenten sind für die verwalteten Sicherheitssysteme von Unternehmen unsichtbar, da sie durchs Raster fallen. Die Gründe sind:
- Fehlendes zentrales Register: Im Gegensatz zu Mitarbeitern, die in HR-Systemen und Identity-Directory erfasst sind, gibt es kein einheitliches Inventar für KI-Agent; sie sind über Cloud-Accounts, interne Systeme und SaaS-Platform verstreut.
- Wildwuchs an Anmeldedaten: KI-Agenten sind noch relativ neu und authentifizieren sich mithilfe von API-Schlüsseln, Anmeldedaten für Service-Accounts und OAuth-Token, die oft in Code-Repositorys, Umgebungsvariablen oder Konfigurationsdateien gespeichert sind – definitiv außerhalb eines zentralisierten, verwalteten Systems.
- KI-Agenten sind keine First-Class Citizens: Die meisten Organisationen behandeln sie als technische Integrationen und nicht als autonome Akteure, die Identity Governance erfordern. Diese Klassifizierungslücke bedeutet, dass sie die Prozesse für Registrierung, Lebenszyklus und Audit umgehen, die auf menschliche Identitäten angewendet werden.
Sicherheitsrisiken von nicht verwalteten KI-Agenten
Ohne ein zentralisiertes System, das eine vollwertige Identity bereitstellt, schaffen nicht verwaltete Agenten die Grundlage für Sicherheitslücken:
- Überprivilegierter Zugriff: Beim Experimentieren gewähren Teams Agenten oft weitreichendere Berechtigungen, um die Funktionalität sicherzustellen, und verlieren dabei grundlegende Least-Privilege-Prinzipien aus den Augen. Sobald ein Agent kompromittiert ist, wirken sich all diese Berechtigungen zum Vorteil des Angreifers aus.
- Keine Verantwortlichkeit: Agenten führen die Operationen aus, aber je nachdem, wie Access Tokens codiert sind, erfassen sie möglicherweise nicht den Kontext des tatsächlichen Akteurs. Systemprotokolle zeigen wahrscheinlich nur "API-Aufruf ausgeführt" an, erfassen aber nicht, welcher Agent und welcher menschliche Besitzer beteiligt waren, sowie den wesentlichen Kontext.
- Compliance-Albträume: Vorschriften wie die DSGVO und HIPAA erfordern einen ordnungsgemäßen Umgang mit Daten, was bedeutet, dass Unternehmen in der Lage sein sollten, Antworten darauf zu geben, wer Zugriff auf sensible Daten hat, wann darauf zugegriffen wurde und warum.
Stellen Sie sich vor, Ihr Security-Team entdeckt, dass ein Zombie- oder außer Kontrolle geratener KI-Agent seit sechs Monaten auf die personenbezogenen Daten (PII) von Kunden zugreift. Es sollte beantwortet werden: Wer hat es bereitgestellt? Warum existiert es? Auf welche Daten hat es zugegriffen? Wer hat diese Berechtigungen genehmigt? Wie widerrufen Sie dessen Zugriff?
Ohne Identity-Management bleiben diese Fragen unbeantwortet. Sie können eine Incident Response nicht abschließen, betroffene Kunden nicht präzise benachrichtigen oder Aufsichtsbehörden versichern, dass Sie die Sicherheitsverletzung eingedämmt haben.
Leitprinzipien zur Sicherung der Identity von KI-Agenten
Jeden Agenten entdecken und registrieren
Sie können nichts absichern, von dem Sie nicht wissen, dass es existiert. Sie sollten jeden KI-Agenten in Ihrer Umgebung identifizieren, einschließlich jener, die ohne IT-Aufsicht bereitgestellt wurden, und diese in ein zentrales System integrieren. Sie sollten automatisierte Erkennungstools integrieren, die Ihre Infrastruktur nach KI-Agenten scannen und diese in einem zentralen Registrierungssystem zusammenfassen, das jedem Agenten eine explizite Identity zuweist.
Menschliche Verantwortlichkeit zuweisen
Jeder Agent sollte einen Eigentümer haben, sei es ein Team oder eine Einzelperson, der für die Handlungen des Agenten verantwortlich ist. Dies stellt einen klaren Eskalationspfad sicher, wenn Probleme auftreten, und verhindert, dass Zombie-Agenten ohne einen menschlichen Verantwortlichen agieren.
Least-Privilege-Prinzip durch Richtlinie durchsetzen
Der Zugriff eines Agenten auf Ressourcen sollte durch eine Richtlinie geschützt und mit granularen Berechtigungen gewährt werden. Wir empfehlen, auf richtlinienbasierte, eingeschränkte Zugriffskontrollen statt auf pauschale Berechtigungen pro Agent und pro Ressource zu setzen.
Audit für alles
Wir empfehlen, jede Aktion des Agents mit vollständigem Kontext zu protokollieren: was passiert ist, welcher Agent, in wessen Auftrag und welche Ressource. Systemprotokolle sollten die Agent-Identity, den Vorgangstyp und den menschlichen Besitzer erfassen, um Einblicke in Token-Erteilungen, Zugriffsversuche und Richtlinienauswertungen für die Echtzeitüberwachung und Anomalieerkennung zu bieten.
Vom blinden Fleck zur Sichtbarkeit
KI-Agenten sind gekommen, um zu bleiben, und sie vermehren sich schneller, als die meisten Sicherheitsteams tracken können. Organisationen, die mit IAM-Anbietern zusammenarbeiten, die darauf ausgelegt sind, die Identity von KI-Agenten zu unterstützen, können ihre KI-Ökosysteme sicherer verwalten. Wer wartet, riskiert, seinen blinden Fleck durch eine Sicherheitsverletzung oder einen Compliance-Verstoß zu entdecken.
KI-Agenten sollten nicht zu Ihrem nächsten Sicherheitsvorfall werden.
Okta bietet umfassendes Identity-Management für KI-Agent – vom Registrierung und Lifecycle Management bis hin zur Durchsetzung von Richtlinie und Audit-Trail.
Erfahren Sie, wie Okta KI-Agenten in großem Maßstab absichert.
