Von der Theorie zur Praxis: Implementieren ethischer KI in Unternehmen

Es gibt eine neue Grenze von Cybersicherheit – eine Herausforderung, über die kaum jemand spricht. Bis Ende dieses Jahres wird mit 45 Milliarden nicht-menschlichen Identitäten, also KI-Agenten, gerechnet. Als Unternehmen für Identity-Sicherheit kommt Okta im Bereich der ethischen KI eine einzigartige Rolle zu. Diese besteht darin, KI-Agenten sicherer zu machen, damit Sicherheit und Datenschutz gewährleistet werden. Die Einführung ethischer KI in unsere Entwicklungspraxis ist keine Ausnahme, sondern fester Bestandteil unserer Strategie. Aufbauend auf unserem Ansatz, den wir in unserem Blog-Beitrag Verantwortungsbewusste KI-Innovationen vorstellen, haben wir festgestellt, dass die effektive Umsetzung ethischer KI-Prinzipien vier Schlüsselelemente erfordert:

1. Ausrichtung der Prinzipien auf Geschäft, Vision und Werten, um Zustimmung und Akzeptanz zu gewinnen
2. Einrichtung von Governance, um menschliche Aufsicht zu erreichen
3. Verankerung von Prinzipien in jeder Funktion, um sie relevant und praktikabel zu machen
4. Unterstützung der Branche, um die Wirkung zu erhöhen und inklusiver zu werden

1. Ausrichtung auf Geschäft, Vision und Werte

Das Kerngeschäft von Okta ist die Bereitstellung von Identity-Management. Wir stellen Software bereit, die es IT-Teams ermöglicht, Mitarbeitenden sicheren Zugriff auf benötigte Anwendungen zu gewähren, und die Entwickelnde in die Lage versetzt, Identity-Lösungen für ihre Kundschaft im Gesundheitswesen, im Finanzwesen und in anderen Branchen zu konstruieren. Unsere Plattformen schützen alle Arten von Identitäten für KI-Agenten, Kund:innen, Mitarbeitende und Partnerunternehmen. Da die Identität der primäre Zugangspunkt für sämtliche digitalen Interaktionen ist, ermöglicht ihre Sicherung die Achtung der Menschenrechte. Dazu gehören auch der Schutz der Privatsphäre, Sicherheit und Schutz vor Diskriminierung.

Ethische KI lässt sich nahtlos mit der Philosophie von Okta vereinbaren:

• Geschäft: Unser Geschäft ist die Sicherung von Identitäten. Dies beinhaltet nun auch KI-Agenten – die nächste große Cyberbedrohung.
• Vision: Unsere Vision ist es, „allen Menschen die sichere Nutzung jeder Technologie zu ermöglichen“. Die Sicherung von KI-Agenten fügt sich als natürliche Erweiterung ein.
• Werte: Unsere Grundsätze für die verantwortungsvolle Nutzung von KI sind unseren Unternehmenswerten direkt zugeordnet:
  • Wir schätzen unsere Kund:innen: Wir vermitteln unseren Kund:innen transparent unsere KI-Fähigkeiten und deren Konfiguration, damit sie unsere Tools sicher nutzen können.
  • Stets sicher und stets für Sie da: Wir konzentrieren uns auf Sicherheit, Datenschutz und Safety by Design.
  • Unsere Entwicklung, unsere Verantwortung: Wir übernehmen die Verantwortung für unsere Arbeit.
  • Auf die Zukunft gerichtet: Wir entwickeln Innovationen verantwortungsbewusst.

2. Einrichtung von Governance und vorgezeichneten Pfaden 

Okta hat ein funktionsübergreifendes KI-Governance-Team aufgestellt, das unsere Strategie der verantwortungsvollen KI überwacht. Effektive Governance wird oft als Hindernis für den Fortschritt wahrgenommen, doch in der Realität beschleunigt sie Innovationen und sorgt dafür, dass Vertrauen mit von der Partie ist. KI-Tools, die von diesem Team vorab genehmigt wurden, beschleunigen die verantwortungsvolle Einführung von KI und ermöglichen die Implementierung unserer Grundsätze für die verantwortungsvolle Nutzung von KI. Darüber hinaus gibt sie Mitarbeitenden einen Prozess an die Hand, der es ihnen ermöglicht, Überprüfungen für die sichere Einführung neuer KI-Tools zu beantragen. Spezifische angewandte KI-Anwendungsfälle werden vom Governance-Team sorgfältig auf ihre Vereinbarkeit mit unseren vertraglichen Verpflichtungen geprüft. Darüber hinaus hat unser Entwicklungsteam vorgezeichnete Pfade für die Einführung von KI-Tools eingerichtet. Diese „vorgezeichneten Pfade“ wurden von den Governance-Teams geprüft und verfügen über integrierte Schutzmechanismen für Datenschutz, Sicherheit und Compliance. Dank dieses Ansatzes können sich unsere Entwickelnden auf den Aufbau innovativer Funktionen konzentrieren und verlieren keine Zeit durch mögliche Compliance-Unklarheiten oder Reibungsverluste.

Wir wissen, dass unsere Mitarbeitenden Raum für Experimente und Innovationen benötigen. Zu diesem Zweck haben wir strukturierte Experimentierzonen geschaffen, wie spezielle KI-Sandboxes während interner Hackathons. Diese kontrollierten Umgebungen bieten die notwendige Aufsicht. Gleichzeitig fördern sie das Selbstvertrauen der Mitarbeitenden und bieten ihnen Möglichkeiten zum Lernen und zur Weiterbildung.

3. Verankerung von Prinzipien in jeder Funktion

Damit ethische Grundsätze in der Praxis angewendet werden, müssen sie auf die täglichen Aufgaben jeder Funktion zugeschnitten sein. Um dies zu erreichen, gilt es, abstrakte Prinzipien in einfache, relevante Anleitungen für die Entscheidungen jedes Teams zu übersetzen.

So machen wir das bei Okta:

• Unser KI-Strategie-Team bietet unternehmensweite KI-Tage an, die ethische KI-Inhalte, wie die Mensch-KI-Partnerschaft, beinhalten.
• Unser Design-Team hat spezifische KI-Designprinzipien aufgestellt.
• Unser Security-Team hat die Okta-Richtlinien zur verantwortungsvollen Nutzung von KI entwickelt.
• Unser Social and Environmental Impact-Team hat Normen und Best Practices für KI erstellt und gemeinsam mit dem Entwicklungsteam einen Leitfaden für die nachhaltige Nutzung von KI für alle Okta-Mitarbeitenden erarbeitet.
• Unser Entwicklungsteam organisierte einen internen KI-Entwicklungstag, um den Wissensaustausch über KI-Initiativen zu fördern, wobei der Schwerpunkt auf der verantwortungsvollen Einführung von KI lag.
• Unser Entwicklungsteam hat vorgezeichnete Pfade für die Einführung von KI-Tools eingerichtet, die mit den Empfehlungen des KI-Governance-Teams übereinstimmen. 
• Unser Talent Learning and Development-Team hat ein obligatorisches, unternehmensweites KI-Training-Bootcamp angeboten, das für jede Funktion angepasst wurde und ein Modul zu verantwortungsvoller KI enthielt. Dieses Modul behandelte Themen wie den Schutz sensibler Informationen, Halluzinationen in KI-Assistenten, Verzerrungen in KI-Assistenten sowie Oktas Prinzipien für die verantwortungsvolle KI-Nutzung.
• Jedes Team und jede Region hat einen eigenen KI-Change-Champion, der die Richtung vorgibt, wie wir mit KI lernen, experimentieren und wachsen. Die Mitarbeitenden von Okta haben Zugang zu formellen unternehmensweiten Schulungen, die Kurse zur verantwortungsvollen Nutzung von KI und funktionsspezifische Angebote umfassen, sowie die Möglichkeit, ihr Wissen über die verantwortungsvolle Einführung von KI zu erweitern. Dadurch erwerben die Mitarbeitenden neue Fähigkeiten und Erfahrungen, die es ihnen ermöglichen, bei Okta erfolgreich zu sein und sich beruflich weiterzuentwickeln.

4. Unterstützung der Branche und der Community

Ethische KI ist eine gemeinsame Verantwortung. Wir setzen uns in der Branche, in der Wissenschaft und im öffentlichen Sektor konstruktiv dafür ein, eine ethische und verantwortungsvolle Nutzung von KI voranzutreiben. Die Vision von Okta for Good ist es, jedem Menschen die sichere Nutzung jeder Technologie zu ermöglichen. Wir tun dies durch Zuschüsse, unsere Identity-Softwareplattform und die Leidenschaft und das Fachwissen unserer Mitarbeitenden. Beispiele für Beiträge von Okta:

Cybersicherheitsthemen von öffentlichem Interesse: Wir arbeiten mit dem Center for Long-Term Cybersecurity (CLTC) der UC Berkeley zusammen, um die Forschung im Bereich Cyber- und KI-Sicherheit voranzutreiben und die Cybersicherheit für verschiedenste Organisationen von öffentlichem Interesse zu verbessern. Bei einer Initiative nahmen wir an einer Tabletop-Übung an der University of California, Berkeley teil, die sich mit der Rolle generativer KI in der Cyberkriminalität befasste, und veröffentlichten anschließend Forschungsergebnisse zu dem Thema im IEEE-Journal. Nachdem wir erkannt hatten, dass Organisationen, die relevante Dienstleistungen erbringen, immer häufiger von Cyberangriffen betroffen sind, beteiligten wir uns im Rahmen einer anderen Initiative an einer Partnerschaft mit WaTech des Bundesstaates Washington und dem CLTC der UC Berkeley, um den Schutz der digitalen Frontlinien des sozialen Sektors zu unterstützen.

Digitale Chancengleichheit: Über Okta for Good (O4G) stellen wir Nonprofit-Organisationen kostenlose oder vergünstigte Produkte und Dienstleistungen zur Verfügung. Dazu gehören der Zugriff auf Identity Threat Protection mit Okta AI sowie finanzielle Zuschüsse für Organisationen, die Cybersicherheits- und KI-Schulungen für unterrepräsentierte Zielgruppen anbieten. 

Etablierung offener Standards: Wir sind Teil einer OpenID Foundation-Arbeitsgruppe zur Erstellung von IPSIE (Interoperability Profile for Secure Identity in the Enterprise), einem neuen Sicherheitsstandard für KI-Agenten, damit diese systemübergreifend sicher interagieren.

Stärkung des Ökosystems: Gemeinsam mit ISVs arbeiten wir am neuen offenen Protokoll Cross-App Access, das die Interaktionen von KI-Agenten sicher verwaltet.

Teilen von Best Practices: Wir signalisieren dem Markt unser Engagement durch unsere öffentlichen Prinzipien und indem wir Anbieter nach ihren nachhaltigen KI-Praktiken fragen. Wir geben auch unseren Mitarbeiterleitfaden zur nachhaltigeren Nutzung von KI weiter, um die Branche zu ermutigen, ebenfalls effiziente und verantwortungsvolle Praktiken einzuführen.

Blick in die Zukunft 

Die Umsetzung der Prinzipien von der Theorie in die Praxis sollte nicht als einmaliges Projekt, sondern als kontinuierliches operatives Vorhaben verstanden werden. Ganz gleich, ob es um die Absicherung der menschlichen Belegschaft oder von 45 Milliarden nicht-menschlichen Identitäten geht, unsere Mission ist dieselbe: Wir möchten allen die sichere Nutzung jeder Technologie ermöglichen. Indem wir unsere KI-Strategie auf diese Weise verankern, möchten wir sicherstellen, dass Innovation nicht zulasten der Sicherheit geht. Für Okta geht es bei ethischer KI nicht nur darum, Risiken zu reduzieren, sondern auch darum, ein System zu entwickeln, in dem Technologie der Menschheit auf lange Sicht sicher und zuverlässig dient.