La IA está en la cima del ciclo de exageración. Su crecimiento exponencial comenzó en 2022 con el lanzamiento de ChatGPT. Si bien el modelo freemium de ChatGPT atrajo la atención generalizada sobre su impresionante capacidad, lo que impulsa la comercialización de la IA es la disminución de la barrera de entrada.
Constantemente se están lanzando modelos de código abierto a gran escala basados en API disponibles. Los desarrolladores pueden adaptar y redistribuir fácilmente estos modelos para sus propios casos de uso sin una gran potencia computacional ni datos de entrenamiento. En todas las salas de juntas, la pregunta no es si se debe adoptar la IA, sino cómo hacerlo de manera responsable y rápida.
La innovación está arraigada en el ADN de Okta. Continuamente superamos los límites para mantenernos a la vanguardia de los avances tecnológicos para proteger a nuestros clientes y capacitarlos para usar cualquier tecnología de forma segura. La adopción de la IA en nuestra práctica de ingeniería no es una excepción; es parte integral de nuestra estrategia. También lo es el enfoque de Okta basado en el valor de la IA.
De los experimentos a la producción: Aumentar de forma segura la velocidad de la innovación en IA
Creamos un sólido equipo de científicos de datos e ingenieros de aprendizaje automático (ML) que ofrecen numerosos productos de IA de vanguardia, incluido el pionero Identity Threat Protection. La semilla de nuestra innovación se plantó hace un par de años, cuando un grupo de ingenieros de Okta se reunieron para crear lo que se convertiría en el Okta AI/ML Guild.
Nuestros diversos miembros, desde Ingeniería hasta Estrategia y los equipos de Campo, creen que todos los Oktanauts deben esforzarse por estar al menos al tanto de las nuevas tecnologías, porque la falta de atención a las tecnologías emergentes podría convertirse en una deficiencia fatal para la innovación.
Desde entonces, hemos creado una comunidad para que nuestros Oktanauts discutan una amplia gama de temas, desde una comprensión conceptual de la IA y la tecnología habilitada para la IA hasta experimentos, e incorporamos los aprendizajes en nuestros productos y servicios. Hemos invitado a líderes en innovación en IA de universidades, grandes empresas tecnológicas y empresas emergentes para que compartan sus aprendizajes y las mejores prácticas de ingeniería.
Priorizar la seguridad y el cumplimiento para Okta y nuestros clientes
Como parte del valor central de Okta de "Impulsar lo que sigue", alentamos a nuestros ingenieros a probar tecnologías emergentes y nos mantenemos enfocados en cómo usar esas tecnologías de manera segura. Hemos desarrollado directrices internas para ayudar a nuestros desarrolladores a interactuar con la IA de forma responsable y segura.
Nuestros desarrolladores se adhieren a los principios de IA responsable con respecto a la privacidad, la seguridad, la innovación responsable y los principios y obligaciones más generales con respecto a los datos del cliente. Por ejemplo, en nuestros hackatones, con medidas de protección claras, los equipos aún pueden demostrar de manera efectiva el potencial de la IA de manera hipotética.
A medida que interactuamos con las plataformas de modelo como servicio GenAI, trabajamos para garantizar que se implementen las protecciones adecuadas para el manejo de datos. Ganar y honrar la confianza del cliente es nuestra prioridad en nuestro enfoque de las tecnologías emergentes de IA. Practicamos una gestión de riesgos rigurosa, incluso en la etapa inicial de la incubación del producto.
Establecer estándares para el desarrollo responsable de la IA
Tenemos la responsabilidad colectiva de ser conscientes de los posibles daños y consecuencias no deseadas de las nuevas tecnologías. En Okta, es de suma importancia construir sistemas que sean funcionales y robustos, pero también seguros e inclusivos.
Nuestro objetivo es alinearnos con los estándares internacionales de derechos humanos. Los equipos de ingeniería, derechos humanos e ingeniería de Okta trabajan juntos para comprender e incorporar el respeto por los derechos humanos, como la privacidad, evitar sesgos y la seguridad, a través de la colaboración con expertos internos y externos en derechos humanos.
Los principios de IA responsable de Okta subrayan (i) la transparencia; (ii) la creación de confianza del cliente a través de la seguridad, la privacidad y la protección; (iii) la rendición de cuentas; y (iv) la innovación responsable con respecto a la inclusión, la equidad y la ética. Estos principios están alineados con los valores de Okta: "Amar a nuestros clientes". "Siempre seguro. Siempre encendido". "Construirlo y ser dueño de ello". "Impulsar lo que sigue".
“¿Qué sigue?” para Okta AI
Okta AI es un trabajo en progreso a medida que mejoramos la productividad y la seguridad de nuestros clientes y redefinimos lo que significa estar integrado y protegido. El lanzamiento de Identity Threat Protection en el lado de Workforce Identity y Auth for GenAI en el lado de Customer Identity son los primeros pasos para ayudar a nuestros clientes a comprender la actividad en sus aplicaciones, diagnosticar problemas y defender a otros clientes de diversos vectores de amenazas.
Con nuestro sistema de anti-fraude telefónico, Okta puede detectar intentos de actores de amenazas que utilizan un modelo ML personalizado para proteger a las organizaciones del fraude y los costos telefónicos excesivos. Attack Protection proporciona defensa contra una variedad de ataques, con funciones como Bot Detection, así como otras capacidades de seguridad que incluyen la detección de contraseñas vulneradas y la limitación de IP sospechosas.
Log Investigator, una próxima capacidad de IA impulsada por el procesamiento del lenguaje natural (NLP), permite a los administradores de Okta consultar sobre los datos del Registro del sistema de Okta en lenguaje cotidiano. Esta capacidad proporciona información sobre el contexto histórico de su seguridad de identidad, lo que simplifica la detección de actividades inusuales o sospechosas.
Nuestro equipo está trabajando para ampliar nuestra base de conocimientos sobre el impacto de la IA en la gestión de identidades y accesos. Con el próximo Governance Analyzer con Okta AI, anunciado en Oktane 2024, los clientes podrán aprovechar los vastos conjuntos de datos de Okta, desde la postura del dispositivo hasta los datos de relación y las decisiones de gobernanza anteriores, para obtener información y recomendaciones críticas para obtener la autorización correcta. Continuaremos compartiendo nuestro liderazgo intelectual y nuestras prácticas, y aprendiendo de nuestros pares a través de eventos como grupos de la industria centrados en prácticas e innovación de IA responsables. Obtenga más información sobre los Principios de IA responsable de Okta, Okta AI, y nuestra investigación sobre AI at Work.
¿Tiene preguntas sobre esta entrada de blog? Comuníquese con nosotros a través de eng_blogs@okta.com.
Explore más blogs de ingeniería interesantes de Okta para ampliar sus conocimientos.
¿Listo para unirse a nuestro apasionado equipo de ingenieros excepcionales? Visite nuestra página de empleo.
Desbloquee el potencial de la administración de identidades moderna y sofisticada para su organización. Póngase en contacto con ventas para obtener más información.
