Für praktisch jede Organisation ist KI alltägliche Realität

Die große Mehrheit (92 %) der befragten Führungskräfte gab an, dass autonome KI-Agenten in ihrem Unternehmen bereits umfassend (58 %) oder moderat (35 %) im Einsatz sind.

Darüber hinaus gaben fast zwei Drittel (64 %) der Wissensarbeiter:innen an, mindestens täglich ein KI-Tool zu nutzen, und ein ähnlicher Anteil (65 %) geht davon aus, in den nächsten 6 Monaten weitere KI-Tools zu verwenden.

Während heutige KI-Tools in vielen Formen vorkommen, sind KI-Agenten (die von 68 % der Mitarbeiter:innen genutzt werden) und LLMs/Chatbots (62 %) am weitesten verbreitet. Viele andere Tools – darunter Schreibassistenten, Programmierassistenten, Browser-Erweiterungen und branchenspezifische Versorgungsunternehmen – sind ebenfalls weit verbreitet.

Was all diese Tools verbindet, ist ihr Bedarf an Daten und in vielen Fällen der Zugriff auf die internen Systeme eines Unternehmens.

Übergabe der Schlüssel zum Königreich: Benutzer:in teilen regelmäßig sensible Daten mit KI-Tools

Um ihre Arbeit zu erledigen, geben Mitarbeiter:innen vertrauliche Unternehmensdaten und personenbezogene Daten in eine Vielzahl von KI-Tools ein, darunter Agenten, Chatbots und Schreibassistenten.

Unsere Daten zeigen, dass Mitarbeiter:innen routinemäßig Folgendes teilen:

Das Risiko geht über reine Daten hinaus. Mitarbeiter:innen gewähren KI-Tools zudem direkten Zugriff auf kritische interne Systeme, einschließlich E-Mail, Cloud-Speicher, Collaboration-Tools und CRM-Datenbanken, was das potenzielle Schadensausmaß eines Sicherheitsvorfalls erheblich vergrößert.

Dieser Datenaustausch und der Systemzugriff sind nicht grundsätzlich negativ; sie führen oft zu erheblichen Produktivitätssteigerungen. Dies unterstreicht jedoch die Notwendigkeit, KI-Tools und -Systeme mit äußerster Sorgfalt zu überwachen.

Kaum die Hälfte der Unternehmen verfügt über eine Strategie für den Umgang mit KI, und die Nutzungsrichtlinien sind nicht so klar, wie Führungskräfte glauben.

Eine wichtige Erkenntnis aus der letztjährigen Umfrage war die alarmierende Lücke zwischen KI-Nutzung und KI-Governance: Während 91 % der Unternehmen bereits KI-Agenten einsetzten, verfügten nur 10 % über eine gut durchdachte Strategie oder Roadmap für die Verwaltung nicht-menschlicher Identitäten (NHIs).

Im vergangenen Jahr gab es erhebliche Fortschritte, da mehr als die Hälfte (53 %) der Führungskräfte angab, dass ihr Unternehmen über eine etablierte Strategie zur Steuerung des KI-Einsatzes verfügt. Natürlich bedeutet dies, dass fast die Hälfte noch immer keine solche Strategie implementiert hat.

Und weitere besorgniserregende Lücken bleiben bestehen. Beispielsweise gaben 65 % der Führungskräfte an, dass die KI-Nutzungsrichtlinien ihres Unternehmens sehr klar sind, während nur 43 % der Wissensarbeiter:innen dieser Ansicht sind. 

Blinder Fleck der Führungsebene: Führungskräfte unterschätzen die Verbreitung von Schatten-KI erheblich

Führungskräfte wissen nicht, was sie nicht wissen. Die Daten zeigen, dass die befragten Führungskräfte das Ausmaß von Schatten-KI in ihren Unternehmen unterschätzen.

Die überwiegende Mehrheit der Führungskräfte (90 %) ist zuversichtlich, was den Überblick ihres Unternehmens über KI-Tools angeht, doch die tatsächlichen Gewohnheiten der Mitarbeiter:innen zeigen, dass dieses Vertrauen unangebracht ist – mehr als die Hälfte (52 %) der Wissensarbeiter:innen gab an, am Arbeitsplatz nicht genehmigte KI-Tools zu verwenden, und fast ein Viertel (24 %) gab zu, dies regelmäßig zu tun.

Wissensarbeiter:innen, die nicht genehmigte KI-Tools verwenden, geben mit höherer Wahrscheinlichkeit vertrauliche Informationen weiter. Von den Nutzer:innen nicht genehmigter KI-Tools gehörten zu den drei am häufigsten geteilten Informationsarten interne Nachrichten und E-Mails (54 %), personalbezogene Informationen (45 %) und vertrauliche Unternehmensdokumente, einschließlich Finanzdaten und Verträgen (39 %). Über 20 % der Nutzer:innen von nicht genehmigten Tools teilen auch Anmeldedaten und Passwörter, und 28 % teilen Bank- und Zahlungsinformationen.

Die überwiegende Mehrheit (95 %) der Führungskräfte geht davon aus, dass ihre Mitarbeiter:innen KI verantwortungsvoll nutzen. Angesichts des großen Anteils von Mitarbeiter:innen, die nicht genehmigte Tools verwenden und sensible Informationen wie Anmeldedaten eingeben, ist dieses Vertrauen wahrscheinlich unangebracht.

Frage der Umfrage: Welche der folgenden Arten von Informationen haben Sie in den letzten 6 Monaten eingegeben, hochgeladen oder mit einem KI-Tool oder -Agenten geteilt? Wählen Sie alle zutreffenden Antworten aus. (Antworten beschränkt auf Mitarbeiter:innen, die nicht genehmigte KI-Tools nutzen.) 

Während die Diskrepanz zwischen dem Einblick der Führungsebene und der Nutzung nicht genehmigter KI-Tools durch die Mitarbeitenden ein globales Phänomen ist, variiert ihr Ausmaß je nach Land und zeigt unterschiedliche Ansätze zur KI-Governance auf.

Die Lücke ist in Großbritannien und Australien am größten: 

• Britische Führungskräfte äußern das größte Vertrauen in die KI-Sichtbarkeit (96 %), dennoch nutzt mehr als die Hälfte ihrer Mitarbeiter:innen (55 %) nicht genehmigte KI. 

• Australische Führungskräfte sind ähnlich selbstsicher (94 %), während fast 60 % ihrer Belegschaft Schatten-Tools nutzen. 

Die USA sind bei der Nutzung von Schatten-KI unter allen befragten Ländern führend, wobei zwei Drittel der amerikanischen Arbeitnehmenden (67 %) nicht genehmigte KI verwenden.

Führungskräfte in Kanada und Japan äußerten mit 82 % bzw. 85 % das geringste Vertrauen in den Einblick ihrer Organisationen in Schatten-KI. Rund die Hälfte der Mitarbeiter:innen in beiden Ländern nutzt Schatten-KI – 50 % in Kanada und 48 % in Japan.

In Frankreich und Deutschland nutzen Mitarbeiter mit nur 31 % bzw. 32 % am seltensten nicht genehmigte KI, was darauf hindeutet, dass das hohe Vertrauen der Führungskräfte in diesen Ländern fundierter ist. 

Bequemlichkeit und soziale Berechtigung treiben Schatten-KI voran

Warum umgehen Mitarbeiter:innen autorisierte KI-Tools? Für die meisten läuft es auf Geschwindigkeit und soziale Normen hinaus. Die überwältigende Mehrheit der Mitarbeiter:innen gab an, nicht genehmigte Tools zu verwenden, da es einfacher ist, die eigenen Konten zu nutzen (80 %), oder weil ihr Team diese bereits verwendet und es als normal gilt (78 %). 

Der Aufwand offizieller Prozesse spielt ebenfalls eine Rolle, wobei 57 % angeben, dass der Genehmigungsprozess zu langsam oder schwierig ist, und 49 % anmerken, dass die genehmigten Tools ihre spezifischen Anforderungen einfach nicht erfüllen. Nur ein kleiner Prozentsatz (6 %) gab mangelndes Bewusstsein für die Notwendigkeit einer Genehmigung an.

Die letztjährige Umfrage ergab, dass 85 % der Führungskräfte Identity and Access Management (IAM) für die erfolgreiche Einführung und Integration von KI in ihrem Unternehmen für entscheidend halten.

In diesem Jahr bringen Führungskräfte weiterhin ihr Vertrauen in IAM als eine entscheidende Ebene der umfassenderen Sicherheitsstruktur zum Ausdruck:

Auch hier gibt uns die Umfrage Grund, diese Zuversicht infrage zu stellen, da kaum ein Drittel (34 %) der Führungskräfte angab, dass ihr Unternehmen stets dieselben Sicherheitskontrollen auf die digitale Belegschaft anwendet wie auf die menschliche Belegschaft.

Wenn selbst ein einziger kompromittierter Agent in Maschinengeschwindigkeit Zugriffe in Ihrer gesamten Umgebung verketten kann, sollte es eine Grundvoraussetzung sein, für KI-Agenten dieselben Kontrollen anzuwenden wie für menschliche Mitarbeiter:innen.

Die Daten zeigen eine kritische Diskrepanz zwischen der Zuversicht der Führungsebene und der Realität der Belegschaft. Um diese Lücke zu schließen und Ihr Unternehmen abzusichern, finden Sie hier vier Schritte basierend auf den Ergebnissen dieser Umfrage:

1. Gehen Sie davon aus, dass Schatten-KI existiert, und räumen Sie der Erkennung Priorität ein.
   Die Daten zeigen, dass 52 % der Mitarbeitenden nicht genehmigte KI-Tools nutzen. Ihr erster Schritt besteht darin, davon auszugehen, dass Schatten-KI bereits in Ihrer Umgebung vorhanden ist. Nutzen Sie Tools wie die Shadow KI Agent-Erkennung, um vollständige Transparenz über alle KI-Agenten zu erhalten, nicht nur über diejenigen, die Ihr IT-Team genehmigt hat.
   
   
2. Machen Sie den sicheren Weg zum einfachsten Weg.
   Mitarbeiter:innen entscheiden sich für nicht genehmigte Tools, weil diese schneller und einfacher sind. Eine strengere Richtlinie wird dies nicht lösen; sie wird nur ignoriert, wenn sie die Produktivität behindert. Konzentrieren Sie sich stattdessen darauf, Reibungsverluste bei Ihren genehmigten KI-Tools und -Workflows zu beseitigen, indem Sie Standardprotokolle wie Cross App Access implementieren. Wenn der offizielle, sichere Weg zur Nutzung von KI auch der effizienteste ist, werden die Mitarbeiter ihn nutzen.
   
   
3. Definieren Sie jetzt Ihre KI-Governance-Strategie.
   Da der Großteil der befragten Führungskräfte bereits von KI-bedingten Sicherheitsvorfällen oder Beinahe-Unfällen berichtet, sollten Sie nicht erst auf eine Krise warten, um Ihre Governance-Strategie zu definieren. Nutzen Sie das Konzept für den sicheren Einsatz von Agenten in Unternehmen, um die entscheidende Transparenz, die Zugriffskontrollen und die Verantwortlichkeit zu etablieren, die für eine sichere Skalierung von KI erforderlich sind. Der KI-Konzept-Checker von Okta kann Sie dabei unterstützen, Ihre Agenten-Sicherheitsarchitektur zu bewerten und Sicherheitslücken aufzudecken.
   
   
4. Behandeln Sie KI-Agenten wie privilegierte Insider.
   Fast zwei Drittel der Unternehmen wenden für KI-Agenten schwächere Sicherheitskontrollen an als für menschliche Mitarbeitende, was einen gefährlichen doppelten Standard schafft. Jeder KI-Agent sollte als vollwertige Identität mit einem eigenen Lebenszyklus und granularen Berechtigungen behandelt werden. Ziehen Sie Identity-Lösungen in Betracht, die auf die Verwaltung von KI-Agenten zugeschnitten sind, wie beispielsweise Okta for AI Agents.

Indem Sie diese Schritte unternehmen, können Sie beginnen, die KI-Governance-Lücke zu schließen, die realen Risiken einer agentenbasierten Belegschaft zu bewältigen und das volle Potenzial von KI sicher auszuschöpfen.