Für Unternehmen weltweit ist die Einführung von KI-Agenten nicht optional, sondern unerlässlich, um wettbewerbsfähig zu bleiben. Wenn KI-Agenten jedoch ohne Aufsicht eingesetzt werden, stellen sie einen weiteren Vektor für den wachsenden Wildwuchs bei Schatten-KI dar.
Schatten-KI breitet sich weiter aus, da Angestellte auf GenAI-Tools, nicht autorisierte private Accounts für SaaS-Anwendungen und andere nicht genehmigte Ressourcen zurückgreifen, um Produktivitätssteigerungen außerhalb des Einflussbereichs der IT-Infrastruktur zu erzielen.
Dies sind reale Risiken und können von der Offenlegung von Daten bis hin zu eingeschränkter Transparenz führen, sodass Unternehmen die KI-Nutzung nachvollziehbarerweise gänzlich einschränken möchten. Aber weitreichende Einschränkungen sind nicht die Lösung.
Das beste Werkzeug für Sicherheitsverantwortliche ist Governance, nicht Gatekeeping
„In der heutigen Zeit sollte der Fokus von Sicherheitsverantwortlichen auf sicherem Enablement liegen und nicht auf dem Blockieren von Aktivitäten“, sagt Sandeep Kumbhat, Head of Global Field CTO bei Okta. Die Unterstützung von agentenbasiertem Zugriff auf Anwendungen kann die User Experience verbessern, muss jedoch ordnungsgemäß erfolgen, um die Offenlegung von Unternehmensdaten und eine erhebliche Erhöhung des Risikos zu vermeiden.
„Es besteht eine Diskrepanz zwischen den guten Absichten der Stakeholder und dem, was sie preisgeben, wenn sie den Lebenszyklus dieser Agenten nicht kennen“, sagt Kumbhat. „Uns geht es dabei nicht darum, jemanden zu bestrafen, sondern um die Erkennung und Kontrolle dieser Agenten.“
Auf der RSA Conference in San Francisco am 24. März wird Kumbhat erörtern, wie Unternehmen die Identität von KI-Agenten absichern und durch Schatten-KI entstehende Herausforderungen bewältigen können. Zudem wird er von Akhila Nama, Head of Enterprise Security bei Box, begleitet.
Schatten-KI ist riskant. KI-Agenten machen es nur noch riskanter.
Das nicht-deterministische Verhalten von KI-Agenten birgt besondere Herausforderungen für die Sicherheit, weshalb Unternehmen nicht nur die Agenten selbst absichern, sondern auch von der Registrierung bis zur Deprovisionierung vollständige Governance aufrechterhalten müssen.
„Bei einem nicht-deterministischen Agenten müssen Sie jede einzelne Aktion absichern, nicht nur den Agenten selbst“, sagt Kumbhat. „Ein Aspekt ist also die Agentensicherheit, die Sie bei der Entwicklung eines Agenten gewährleisten müssen. Doch Sie müssen auch alle Transaktionen absichern oder autorisieren, die ein Agent durchführt.“
Die Herausforderung wird dadurch verschärft, wie leicht Schatten-KI mittlerweile in ein Unternehmen gelangt.
Warum Schatten-KI Sorgen bereiten sollte
Studien zeigen, dass Angestellte hauptsächlich aus einem Grund Schatten-KI nutzen: Produktivitätssteigerungen. Die Zugangsmöglichkeiten sind zahlreicher denn je. SaaS-basierte GenAI kann von Angestellten mit einem kostenlosen Online-Account genutzt werden. Mithilfe von Low-Code- und No-Code-Entwicklungsplattformen können sie benutzerdefinierte KI-Agenten und Integrationen erstellen.
Wenn KI-Agenten nicht verwaltet werden, erhöhen sie das Risiko von Compliance-Verstößen, Kompromittierungen sensibler Informationen und Sicherheitsangriffen. Viele Führungskräfte reagieren darauf, indem sie die Hürden bei der Einführung von KI-Tools abbauen und sich auf die Schaffung von Transparenz und Governance konzentrieren.
Die RSAC-Session wird demonstrieren, wie wichtig die Implementierung von Mechanismen zur Aufdeckung von Schatten-KI ist, um Angestellten dennoch die Nutzung der benötigten Tools zu ermöglichen. „Die Zuweisung von Verantwortlichen für entdeckte Agenten etabliert Zuständigkeit und verbessert die Unternehmens-Governance“, fügt Kumbhat hinzu. Er merkt an, dass KI-Agenten oft eher auf Abteilungs- als auf Unternehmensebene implementiert werden, was zu abteilungsspezifischer Schatten-KI führt.
„Jede Autorisierung und Transaktion, an der ein KI-Agent beteiligt ist, muss abgesichert werden, um die Offenlegung von Daten zu verhindern“, betont er.
„Es muss einen kontinuierlichen Mechanismus geben, der sämtliche agentenbasierte Zugriffe in Ihrem Unternehmen erfasst und in die Verwaltung integriert“, sagt Kumbhat.
Schaffung einer Grundlage für autonome Sicherheit
„Während der Session sollen Security-Teams für die Leitprinzipien zur Absicherung von Agentenzugriffen sensibilisiert werden“, führt Kumbhat aus. Dazu gehört:
Nutzung sicherer Entwicklungspraktiken, z. B. Token Vaulting
Überblick über Schatten-KI sowie autorisierte Agenten
Implementierung von effektivem Lebenszyklusmanagement für alle KI-Agenten
Umfassende Governance mit Zugriffsprüfungen und Zertifizierungen
Automatisierte Bedrohungserkennung und -reaktion auf Basis von Verhaltensanalysen
Audit-Funktionen, die Maßnahmen zur Einhaltung gesetzlicher Vorschriften unterstützen
„Unsere wichtigste Aufgabe ist die Absicherung der Transaktionen“, sagt Kumbhat. „Eines meiner Themen wird sein, dass wir keine Angst vor KI zu haben brauchen. Die Technologie ist vorhanden und bereit, aber aus Sicherheitsperspektive sollten wir dabei große Vorsicht walten lassen.“
Die Session mit dem Titel „Shadow AI: Securing the Rise of the Autonomous Super Admin“ (Schatten-KI: Absicherung des autonomen Super-Admins) findet am 24. März um 8:30 Uhr PDT statt.
Wenn Sie mehr darüber erfahren möchten, wie Sie die Herausforderungen von Schatten-KI lösen können, lesen Sie Okta schützt KI: Ein erster Einblick in die Transparenz, die Schatten-KI in verwaltete Identitäten verwandelt.
