Bei der Oktane 2025 war eine Botschaft klar: KI ist nicht mehr nur ein Werkzeug. Es ist zu einer eigenen Belegschaft geworden.
Der Aufstieg von KI-Agenten beginnt, autonomen Programmen, die Daten abrufen, Anwendungen verwenden und Aufgaben ohne direkte menschliche Eingabe erledigen können. Ihr Versprechen liegt in Geschwindigkeit, Effizienz und Innovation im großen Maßstab. Aber ihre Anwesenheit wirft auch eine entscheidende Frage auf: Wer verwaltet sie?
„Neunzig Prozent der Unternehmen haben KI-Agenten implementiert, aber nur etwa 10 % haben irgendeine Möglichkeit, sie zu steuern oder zu kontrollieren“, sagte Jack Hirsch, Vice President of Product Management bei Okta
Dieser Mangel an Aufsicht hat Konsequenzen. Bei einem kürzlichen npm-Malware-Angriff sollen Angreifer lokale LLMs verwendet haben, um Eingabeaufforderungen auszuführen, die nach Krypto-Wallets und Kreditkarteninformationen suchten.
„Wir haben festgestellt, dass der Angreifer im Rahmen der Malware versucht hat, installierte LLMs auf dem lokalen Rechner zu verwenden, um tatsächlich Abfragen im ChatGPT-Stil auszuführen, um Krypto-Wallets und Kreditkarteninformationen zu finden“, sagte David Bradbury, Chief Security Officer bei Okta
Die Herausforderung für Unternehmen besteht darin, einen Weg zu finden, von dieser Technologie zu profitieren, ohne Agenten einzusetzen, die ohne Kontroll- oder Sicherheitsmaßnahmen handeln.
Okta beabsichtigt, diese Herausforderung anzugehen, indem es seine Identity-Security-Plattform erweitert, um KI-Agenten als erstklassige Identitäten einzuschließen. Die Ergänzung ermöglicht es dem Security-Team, sie neben menschlichen Benutzern zu tracken, zu überwachen und zu verwalten. Das Ziel ist es, Sichtbarkeit in das gesamte IT-Ökosystem zu schaffen.
„Wenn sich der Benutzer auf eine sehr seltsame Weise anmeldet, wie zum Beispiel bei sechs Diensten gleichzeitig.“ Das fühlt sich nicht wie ein Benutzer an. „Das sind die Arten von Dingen, die wir mit dem Reporting in Okta erfassen können“, sagte James Simcox von Equals Money, einem Okta-Kunden
Unternehmen müssen auch verwalten, wie sich Agenten mit anderen Apps und Systemen verbinden. Es ist viel zu häufig geworden, dass Agenten dauerhaften Zugriff durch eine einzige Authentifizierung behalten. Um dem entgegenzuwirken, hat Okta Cross App Access eingeführt, ein neues Protokoll, das IT-Teams die Kontrolle darüber gibt, wie KI-Agenten auf die Ressourcen eines Unternehmens zugreifen und mit ihnen interagieren, um unbeabsichtigte oder riskante Datenweitergabe zu verhindern.
Durch neue Standards und Richtlinien möchte Okta Teams ermöglichen, den Zugriff im Voraus zu definieren. Das Ziel ist es, zu verhindern, dass unbefugte Agenten unbeabsichtigte oder böswillige Handlungen ausführen, während gleichzeitig eine neue Welle der KI-Einführung und -Innovation gefördert wird.
Einige Unternehmen stellen sich bereits vor, wie das aussehen könnte.
„Wir könnten unsere Daten nutzen und proaktiv auf die ALS-Journey [der Patienten] eingehen, bevor sie stürzen oder bevor es ein Problem gibt“, sagte Samantha Luke, Senior Director of Technologie und Support bei der ALS Association
KI-Agenten verändern die Art und Weise, wie Arbeit erledigt wird, aber sie verändern auch, was Sicherheit bedeutet. Während Unternehmen darum wetteifern, ihre Leistungsfähigkeit zu nutzen, stellt sich nicht mehr die Frage, ob sie eingesetzt werden sollen, sondern wie man sie im Zaum hält.
