Produktivität verantwortungsvoll vorantreiben: Wie Okta den Energieverbrauch von KI misst

Wir befinden uns im Zeitalter der KI, und auch wir bei Okta möchten ihr Potenzial nutzen, um Produktivität und Innovation zu revolutionieren. Indem wir leistungsstarke KI-Tools für unsere Mitarbeitenden einführen, erleben wir aus erster Hand, wie diese unsere Arbeitsweise verbessern können. Gleichzeitig sind wir uns bewusst, dass ein wichtiger Aspekt bei der verantwortungsvollen Nutzung von KI darin besteht, ihre Auswirkungen auf die Umwelt zu verstehen und zu reduzieren.

Lassen Sie uns gemeinsam einen Blick hinter die Kulissen des Programms für nachhaltige KI von Okta werfen. Nachfolgend möchten wir Ihnen unsere Arbeit an einem Modell vorstellen, das der Messung des Energieverbrauchs und der CO₂-Emissionen durch die Nutzung von KI dient, das wir gemeinsam mit IT Climate Ed entwickeln. Wir möchten Sie transparent über unsere Journey, unsere Methodik und unsere Erkenntnisse informieren.

Unsere Strategie für nachhaltige KI

Unser Ansatz für nachhaltige KI ist eine Erweiterung unserer umfassenderen Klimastrategie, die auf vier Säulen basiert:

• Messen und steuern: Wir möchten unseren ökologischen Fußabdruck durch KI verstehen.
• Reduzieren: Wir möchten KI effizient nutzen und die am besten geeigneten Modelle für die jeweilige Aufgabe wählen.
• Erneuerbarer Strom: Wir erweitern unser auf 100 % erneuerbaren Strom ausgelegtes Programm um unsere wichtigsten KI-Tools im Unternehmen.
• Anbieter einbeziehen: Wir möchten gemeinsam mit unseren KI-Anbietern die Nachhaltigkeit in der gesamten Branche fördern.

Dieser Artikel konzentriert sich auf den grundlegenden ersten Schritt: Messen und steuern. Denn letztendlich können wir nur dass verbessern, was wir auch messen können.

Eine vorläufige Methodik in einem dynamischen Feld

Eine der größten Herausforderungen beim Bewerten der Umweltauswirkungen von KI ist das Nichtvorhandensein eines einheitlichen, branchenweiten Standards für die Messung und Dokumentation des Energieverbrauchs und der CO₂-Emissionen von KI-Tools und -Modellen. Die andere Herausforderung ist die mangelnde Offenlegung und das Fehlen von Tools seitens der KI-Industrie, mit denen sich die Emissionen ihrer Kundinnen und Kunden berichtlich erfassen lassen. In dieser sich schnell entwickelnden Landschaft haben wir eine vorläufige Methodik entwickelt, die es uns erlaubt, uns in diesem neuen Terrain besser zurechtzufinden. Unser Ansatz basiert auf öffentlich zugänglichen Forschungsergebnissen und Daten, die es uns ermöglichen, die Umweltauswirkungen unserer KI-Nutzung abzuschätzen. Gleichzeitig setzen wir uns weiterhin für mehr Transparenz und Standardisierung seitens unserer Partnerunternehmen und in der gesamten Branche ein.

Ziehen wir zunächst einen Anwendungsfall heran, z. B. die KI-gestützte Codegenerierung. Anschließend wenden wir wie folgt einen dreistufigen Prozess an:

1. Nutzungsaktivität messen: Zuerst betrachten wir unsere eigenen Nutzungsdaten, darunter Kennzahlen wie die Anzahl generierter Codezeilen und das Volumen von Chatinteraktionen.
2. Aktivität in Energieverbrauch umwandeln: Als Nächstes rechnen wir diese Nutzungsaktivität in Energieverbrauch um. Dies ist ein komplexer Schritt, bei dem Codezeilen und Chatnachrichten in „Token“ (die von KI-Modellen verarbeiteten Texteinheiten) umgewandelt werden. Anschließend wird anhand von Energieprofilen für verschiedene KI-Modelle die Energiedichte der Token geschätzt. Zusätzlich berücksichtigen wir den Anteil des Modelltrainings, der Okta zugeschrieben werden kann.
3. CO₂-Emissionen berechnen: Abschließend berechnen wir den CO₂-Fußabdruck auf der Grundlage des geschätzten Energieverbrauchs und der Standorte der Rechenzentren. In diesem Zusammenhang berücksichtigen wir die Mitarbeiterverteilung, damit wir Cloud-Rechenzentrumsregionen und die damit verbundene Intensität der CO₂-Emissionen für Inferenzzwecke abbilden können. Für das Modelltraining stützen wir uns auf eine Schätzung des Rechenzentrumsstandorts anhand des KI-Anbieters und des KI-Modells. Dies umfasst die betriebsbedingten Emissionen aus dem Stromverbrauch für den Betrieb der KI-Modelle, die verkörperten Emissionen, die mit der Herstellung der Serverhardware verbunden sind, sowie die Training-bezogenen Emissionen, die Okta zugeschrieben werden können.

Wir glauben, dass diese Methodik, wenngleich sie verschiedenen Annahmen und Ungewissheiten unterliegt, ein Schritt nach vorne ist, der uns dabei hilft, die Auswirkungen unseres Handelns besser zu verstehen und eine Basis zu schaffen, von der aus wir Verbesserungen einleiten können. Sie beruht sowohl auf der eingeschränkten Offenlegung spezifischer Modellarchitekturen für geschlossene Modelle als auch auf der Rechenzentrumsinfrastruktur, in der diese Modelle ausgeführt werden. Diese Informationen werden für interne Zwecke genutzt und fließen nicht in unsere Inventur zu Treibhausgasen ein. Die Methodik ermöglicht uns ein grundlegendes Verständnis unseres KI-bezogenen ökologischen Fußabdrucks und versetzt uns in die Lage, Möglichkeiten für die Dekarbonisierung zu identifizieren.

Der Weg zu nachhaltiger KI

Dies ist erst der Anfang unserer Journey. Das sind unsere nächsten Schritte:

• Aktualisierung der Basislinie: Wir werden unsere KI-bezogenen Emissionen weiterhin verfolgen, um Trends im Zeitverlauf zu überwachen.
• Optimierung der Effizienz: Wir ermutigen unsere Mitarbeitenden weiterhin, KI effizienter zu nutzen, indem sie sich für die passendsten und energieärmsten Modelle für ihre Bedürfnisse entscheiden und effiziente Prompts verwenden.
• Förderung von Transparenz: Wir werden unsere Fortschritte weiterhin mit unseren Partnerunternehmen und der Öffentlichkeit teilen und uns für mehr Transparenz seitens unserer KI-Anbieter und in der gesamten Branche einsetzen.

Wir haben uns dazu verpflichtet, das Potenzial von KI auf nachhaltige Art und Weise für unsere geschäftliche Weiterentwicklung zu nutzen. Ziel unseres proaktiven und transparenten Ansatzes zur Messung und Steuerung unseres KI-Fußabdrucks ist es, das ökologische Engagement von Okta fortzusetzen und Lösungen zu entwickeln, die unsere Umwelt noch besser schützen. Erfahren Sie mehr über unsere Strategie für nachhaltige KI im Update zu Oktas Klimaschutz-Initiativen 2025.