Die Absicherung von KI erfordert mehr als Code. Dazu muss die Fachkräftelücke in der Cybersicherheit geschlossen werden.

Warum Okta und CodePath Identitäts-Leitplanken mit einer neuen Generation von Cyber-Verteidiger:innen kombinieren.

 

Ob es darum geht, wettbewerbsfähig zu bleiben, innovativ zu sein oder zu wachsen (oder alles zusammen), das Streben nach mehr Geschwindigkeit hat Unternehmen dazu veranlasst, mehr operative Aufgaben und Aufgaben der Entscheidungsfindung an KI-Agenten zu übertragen.

Der Wandel ist in vollem Gange. Laut dem Report AI Agents at Work von Okta geben 92 % der befragten Führungskräfte an, dass autonome KI-Agenten in ihren Unternehmen weit verbreitet (58 %) oder moderat (35 %) im Einsatz sind. Dennoch schreitet die Einführung schneller voran als die Governance. Gartner® erwartet Folgendes: „Bis Ende 2027 werden über 40 % der Projekte für agentische KI aufgrund von steigenden Kosten, unklarem geschäftlichem Nutzen oder unzureichenden Risikokontrollen abgebrochen.“

Die Geschwindigkeit, die KI-Agenten für seriöse Unternehmen so attraktiv macht, zieht auch Angreifer:innen an. Wenn autonome Software in Maschinengeschwindigkeit arbeitet, kann sich ein kompromittierter KI-Agent in Millisekunden durch Unternehmenssysteme bewegen und ist dabei oft schneller als menschliche Reaktionen. 

Technische Kontrollen können helfen, die Auswirkungen zu begrenzen, aber die Steuerung von KI und der Schutz der davon betroffenen Bereiche dürfen nicht allein von Code abhängen. Dies erfordert Entwickler:innen mit dem Urteilsvermögen, automatisierte Ergebnisse zu hinterfragen und strikte Grenzen durchzusetzen.

Aufbau der Architektur und der passenden Talente

Die Entwicklung dieser Kombination von Fähigkeiten steht für Chris Coleman, Chief Product Officer bei CodePath, im Mittelpunkt, einer nationalen Nonprofit-Organisation, die kostenlose, branchengestützte technische Ausbildung für Student:innen der ersten Generation und aus einkommensschwachen Verhältnissen sowie für Nachwuchstalente anbietet und 2022 eine Partnerschaft mit Okta eingegangen ist.

Okta hat die Identity-Infrastruktur aufgebaut, um die heutigen agentenbasierten Unternehmen abzusichern. CodePath hingegen bildet die Ingenieur:innen aus, die diese betreiben, und greift dabei auf ein Jahrzehnt Erfahrung in der Ausbildung von Studierenden zurück, die von der Technologiebranche in der Vergangenheit oft übersehen wurden. Gemeinsam trägt dies zur Lösung zweier Herausforderungen bei: die steigende Nachfrage nach Fachkräften in der Cyberabwehr zu decken und neue Wege zur wirtschaftlichen Mobilität in einem der wachstumsstärksten Bereiche der Wirtschaft zu eröffnen.

Okta baut seine Zusammenarbeit mit CodePath mit einem Zuschuss von 3 Millionen $ aus dem Okta for Good-Fonds aus. Über einen Zeitraum von drei Jahren wird die Investition CodePath dabei helfen, KI-Sicherheit zu einer Grundkompetenz für die nächste Generation von Softwareentwickler:innen zu machen. Dies wird erreicht, indem Sicherheit und agentisches KI-Denken in das gesamte Kursangebot integriert und Lerninhalte zur KI-Sicherheit an Informatikstudent:innen, Student:innen in informatiknahen Bereichen sowie bereits in der Branche tätige Entwickler:innen vermittelt werden.

Victor Cordon, Director of Social Impact bei Okta, sieht die Partnerschaft als eine Möglichkeit, wirtschaftliche Chancen mit den Cybersicherheitsanforderungen der Branche zu verbinden.

„Jedes Unternehmen, jede:r Kund:in und jede:r Partner:in in unserem Ökosystem benötigt Cyber-Talente“, sagte Cordon. „Anstatt uns auf einen begrenzten Pool von Entwickler:innen zu verlassen, müssen wir diesen Pool deutlich vergrößern und sicherstellen, dass Absolvent:innen vom ersten Tag an mit einem grundlegenden Sicherheitsverständnis in die Branche eintreten, insbesondere da KI die Art und Weise, wie Software entwickelt wird, neu gestaltet. Durch Investitionen in Organisationen wie CodePath, die Informatikstudent:innen im ganzen Land erreichen, heben wir den Standard für die gesamte Branche an.“

Warum menschliches Urteilsvermögen für die Sicherheitsgrenze entscheidend ist

Für diese nächste Generation von Cybersicherheits-Expert:innen sieht Coleman eine bestimmte Fähigkeit als unverzichtbar an: Urteilsvermögen.

„Es geht darum, sich zu überlegen, was das System können sollte und was nicht, was es tun dürfen sollte, bevor Sie es überhaupt entwickeln“, erklärte Coleman. „Letztendlich ist es von entscheidender Bedeutung, den Weg zu einem reflektierten KI-Anwender einzuschlagen und die nötige Urteilskraft zu entwickeln, um das Zusammenspiel dieser Systeme zu verstehen.“

Diese Art von Urteilsvermögen anzuwenden, bedeutet auch, vorherzusehen, wie Dinge schiefgehen können, bevor sie eintreten. Dies erfordert nicht nur ein Verständnis dafür, wie sich Software verhält, sondern auch, wie böswillige Akteur:innen sie angreifen oder gegen andere Menschen einsetzen. 

„Bedrohungen kommen von überall her und wirken sich auf unterschiedliche Weise auf das Leben der Menschen aus“, merkte Coleman an. "Wir brauchen also ein anderes Spektrum an Perspektiven. Die Angreifer:innen stammen aus einer sehr vielfältigen Gruppe mit sehr unterschiedlichen Absichten. Daher müssen wir in der Lage sein zu verstehen, nachzuvollziehen und rational zu erfassen, welche Bedrohungen auf uns zukommen und was die Motivationen dahinter sind. Cybersicherheit betrifft uns alle."

Dieser Zusammenhang zwischen vielfältigen Perspektiven und effektiver Abwehr ist nicht theoretisch. Für Studierende wie Miles, einen CodePath-Absolventen im Bereich Cybersicherheit, begann dieser Fokus auf die Abwehr, als seine Patentante zweimal von Cyberkriminellen betrogen wurde, sagte Coleman. Diese Erfahrung machte Cybersicherheit sowohl zu einem Karriereweg als auch zu einer persönlichen Mission. Durch den Lehrplan und die Hands-on-Labs von CodePath wandelte Miles diese Motivation in handfeste Expertise um, absolvierte vier Praktika bei der NASA und sicherte sich eine Position im Bereich Cybersicherheit bei Capital One.

„Wenn diese Art von Betrug ein Thema ist, über das wir in einem Unternehmen sprechen, ist es unglaublich wirkungsvoll, jemanden wie Miles im Raum zu haben, der damit persönliche Erfahrungen gemacht hat“, sagte Coleman. „Er bringt eine andere Perspektive ein. Er wird dieses Gespräch nicht ohne eine konkrete Lösung enden lassen.“

Überwindung des Nullsummenspiels um Talente

Wenn Unternehmen verhindern wollen, dass ihre KI-Initiativen Teil dieser 40-%-Abbruchstatistik von Gartner werden, ist der Aufbau dieser menschlichen Verteidigungsebene unerlässlich. Für Coleman bedeutet das, dass Unternehmen aktiv in die Entwicklung der Fachkräfte investieren müssen, die das Design und die Durchsetzung dieser Risikokontrollen übernehmen können.

„Wir brauchen mehr Unternehmen, die in Lösungen investieren, die über ihr eigenes Unternehmen hinausgehen und dazu beitragen, die Technik- und Cybersicherheits-Community insgesamt zu unterstützen“, sagte Coleman. Diese Unterstützung umfasst die Einbindung von Ingenieur:innen in den Bildungsprozess. 

Einer der Gründe, warum die Okta-Partnerschaft funktioniert, ist, dass ihre Ingenieur:innen vor Ort sind und Zeit mit den Student:innen verbringen, sagte Coleman.

Der Aufbau dieser breiteren Pipeline verwandelt die Cybersicherheit von einem Nullsummenspiel um bestehende Anmeldedaten in ein dauerhaftes Abwehr-Ökosystem.

Wandel statt Abbau: Was Karrieren in der Cybersicherheit erwartet

Es ist schwer, die Schlagzeilen zu ignorieren, die das gesamte Spektrum der Auswirkungen von KI auf den Arbeitsmarkt abdecken. Aber die düstere Seite des Spektrums sollte laut Coleman diejenigen nicht abschrecken, die eine Karriere im Bereich Cybersicherheit anstreben. 

„Wir entwickeln weiterhin Softwaresysteme. Wir sichern weiterhin Softwaresysteme. Das wird sich so schnell nicht ändern“, sagte Coleman. „Die Veränderung des Weges bedeutet ähnliche Arbeit, aber andere Fähigkeiten.“ 

Die Grundlage für diese Fähigkeiten bilden kritisches Urteilsvermögen und grundlegende Prinzipien der Informatik – genau die Kompetenzen, die CodePath seinen Student:innen vermittelt.

„Manchmal treten in Softwaresystemen Fehler auf. KI-Systeme werden Fehler machen," sagte Coleman. "Wer ist rechenschaftspflichtig? Wer ist verantwortlich? Wir als Menschen sind es, oder? Daher denke ich, dass sich eine enorme Chance bietet."

Identity-Newsletter abonnieren

Access Granted Newsletter