La IA está en la cima del ciclo de exageración. Su crecimiento exponencial comenzó en 2022 con el lanzamiento de ChatGPT. Si bien el modelo freemium de ChatGPT atrajo la atención generalizada sobre su impresionante capacidad, lo que impulsa la comercialización de la IA es la disminución de la barrera de entrada.
Constantemente se están lanzando modelos de código abierto a gran escala basados en API disponibles. Los desarrolladores pueden adaptar y redistribuir fácilmente estos modelos para sus propios casos de uso sin una gran potencia computacional ni datos de entrenamiento. En todas las salas de juntas, la pregunta no es si se debe adoptar la IA, sino cómo hacerlo de manera responsable y rápida.
La innovación está arraigada en el ADN de Okta. Continuamente superamos los límites para mantenernos a la vanguardia de los avances tecnológicos, proteger a nuestros clientes y empoderarlos para usar cualquier tecnología de forma segura. La adopción de la IA en nuestra práctica de ingeniería no es una excepción; es fundamental para nuestra estrategia. También lo es el enfoque basado en el valor de Okta para la IA.
De los experimentos a la producción: Aumentar de forma segura la velocidad de la innovación en IA
Hemos creado un sólido equipo de científicos de datos e ingenieros de aprendizaje automático (ML) que ofrecen numerosos productos de IA de vanguardia, incluido el innovador Identity Threat Protection. La semilla de nuestra innovación se plantó hace un par de años cuando un grupo de ingenieros de Okta se reunieron para crear lo que se convertiría en el Okta AI/ML Guild.
Nuestros diversos miembros, desde Ingeniería hasta Estrategia y los equipos de Campo, creen que todos los Oktanauts deben esforzarse por estar al menos al tanto de las nuevas tecnologías, porque la falta de atención a las tecnologías emergentes podría convertirse en una deficiencia fatal para la innovación.
Desde entonces, hemos creado una comunidad para que nuestros Oktanauts discutan una amplia gama de temas, desde una comprensión conceptual de la IA y la tecnología habilitada para la IA hasta experimentos, e incorporamos los aprendizajes en nuestros productos y servicios. Hemos invitado a líderes en innovación en IA de universidades, grandes empresas tecnológicas y empresas emergentes para que compartan sus aprendizajes y las mejores prácticas de ingeniería.
Priorizar la seguridad y el cumplimiento para Okta y nuestros clientes
Como parte del valor central de Okta de "Impulsar lo que sigue", alentamos a nuestros ingenieros a probar tecnologías emergentes y nos mantenemos enfocados en cómo usar esas tecnologías de manera segura. Hemos desarrollado directrices internas para ayudar a nuestros desarrolladores a interactuar con la IA de forma responsable y segura.
Nuestros desarrolladores cumplen con los principios de IA responsable en cuanto a la privacidad, la seguridad, la innovación responsable, y principios y obligaciones más generales relacionados con los datos de los clientes. Por ejemplo, en nuestros hackatones, con protecciones claras establecidas, los equipos aún pueden demostrar eficazmente el potencial de la IA de manera hipotética.
A medida que interactuamos con las plataformas de modelo como servicio GenAI, trabajamos para garantizar que se implementen las protecciones adecuadas para el manejo de datos. Ganar y honrar la confianza del cliente es nuestra prioridad en nuestro enfoque de las tecnologías emergentes de IA. Practicamos una gestión de riesgos rigurosa, incluso en la etapa inicial de la incubación del producto.
Establecer estándares para el desarrollo responsable de la IA
Tenemos la responsabilidad colectiva de ser conscientes de los posibles daños y consecuencias no deseadas de las nuevas tecnologías. En Okta, es de suma importancia construir sistemas que sean funcionales y robustos, pero también seguros e inclusivos.
Nuestro objetivo es alinearnos con los estándares internacionales de derechos humanos. Los equipos de Ingeniería y Derechos Humanos de Okta trabajan juntos para comprender e incorporar el respeto por los derechos humanos, como la privacidad, la evitación de sesgos y la seguridad, a través de la colaboración con expertos internos y externos en derechos humanos.
Los principios de IA responsable de Okta subrayan (i) la transparencia; (ii) la creación de confianza del cliente a través de la seguridad, la privacidad y la protección; (iii) la rendición de cuentas; y (iv) la innovación responsable con respecto a la inclusión, la equidad y la ética. Estos principios están alineados con los valores de Okta: "Amar a nuestros clientes". "Siempre seguro. Siempre encendido". "Construirlo y ser dueño de ello". "Impulsar lo que sigue".
“¿Qué sigue?” para Okta AI
Okta AI es un trabajo en progreso con el cual buscamos mejorar la productividad y la seguridad de nuestros clientes, y redefinir lo que significa estar integrado y protegido. El lanzamiento de Identity Threat Protection en el ámbito de identidad de la fuerza laboral y Auth for GenAI en el ámbito de identidad del cliente son los primeros pasos para ayudar a nuestros clientes a comprender la actividad en sus aplicaciones, diagnosticar problemas y proteger a otros clientes de diversos vectores de amenazas.
Con nuestro sistema Telephony Anti-Toll Fraud System, Okta puede detectar intentos de actores de amenazas que utilizan un modelo de aprendizaje automático personalizado para proteger a las organizaciones contra el fraude y los costos excesivos de telefonía. Attack Protection ofrece defensa contra una variedad de ataques, con funciones como Bot Detection, así como otras capacidades de seguridad, como Breached Password Detection y Suspicious IP Throttling.
Log Investigator, una capacidad de IA que se lanzará próximamente, impulsada por el procesamiento de lenguaje natural (PLN), permite a los administradores de Okta consultar los datos del registro de sistema de Okta en lenguaje cotidiano. Esta capacidad proporciona información sobre el contexto histórico de la seguridad de identidad, lo que facilita la detección de actividades inusuales o sospechosas.
Nuestro equipo está trabajando para ampliar nuestra base de conocimiento sobre el impacto de la IA en la gestión de identidades y accesos. Con la próxima versión de Governance Analyzer con Okta AI, anunciada en Oktane 2024, los clientes podrán aprovechar los vastos conjuntos de datos de Okta —desde la postura del dispositivo hasta los datos de relación y las decisiones de gobernanza anteriores— para obtener información y recomendaciones críticas que garanticen una autorización adecuada. Continuaremos compartiendo nuestro liderazgo de opinión y nuestras prácticas, además de aprender de nuestros colegas mediante eventos como grupos de la industria enfocados en prácticas responsables e innovación en IA. Más información sobre los Principios para una IA responsable de Okta, Okta AI y nuestra investigación sobre AI at Work.
¿Tiene preguntas sobre esta publicación de blog? Comuníquese con nosotros a eng_blogs@okta.com.
Explore más blogs de ingeniería con información útil de Okta para ampliar sus conocimientos.
¿Tiene lo necesario para unirse a nuestro apasionado equipo de ingenieros excepcionales? Visite nuestra página de empleos.
Aproveche el potencial de la gestión de identidades moderna y sofisticada para su organización. Comuníquese con el equipo de ventas para obtener más información.
