A IA está no auge do ciclo de hype. Seu crescimento exponencial começou em 2022 com o lançamento do ChatGPT. Embora o modelo freemium do ChatGPT tenha trazido sua impressionante capacidade para a atenção do público, o que impulsiona a comercialização da IA é a diminuição da barreira de entrada.
Modelos de código aberto em larga escala baseados em APIs prontamente disponíveis estão sendo constantemente lançados. Os desenvolvedores podem facilmente adaptar e redistribuir esses modelos para seus próprios casos de uso sem grande poder computacional ou dados de treinamento. Em todas as salas de reuniões, a questão não é se deve adotar a IA, mas como fazê-lo de forma responsável e rápida.
A inovação está enraizada no DNA da Okta. Continuamente ultrapassamos os limites para nos mantermos na vanguarda dos avanços tecnológicos para proteger nossos clientes e capacitá-los a usar qualquer tecnologia com segurança. Adotar a IA em nossa prática de engenharia não é uma exceção; é parte integrante de nossa estratégia. Assim como a abordagem baseada em valor da Okta para a IA.
De experimentos à produção: Aumentando com segurança a velocidade da inovação em IA
Construímos uma forte equipe de cientistas de dados e engenheiros de machine learning (ML) que fornecem inúmeros produtos de IA de ponta, incluindo o pioneiro Identity Threat Protection. A semente de nossa inovação foi plantada alguns anos atrás, quando um grupo de engenheiros da Okta se reuniu para criar o que se tornaria a Okta AI/ML Guild.
Nossos diversos membros, de Engenharia a Estratégia e equipes de Campo, acreditam que todos os Oktanauts devem se esforçar para estar pelo menos cientes das novas tecnologias, porque a falta de atenção às tecnologias emergentes pode se tornar uma deficiência fatal para a inovação.
Desde então, desenvolvemos uma comunidade para nossos Oktanauts discutirem uma ampla gama de tópicos, desde uma compreensão conceitual da IA e da tecnologia habilitada para IA até experimentos, e integramos os aprendizados em nossos produtos e serviços. Convidamos líderes em inovação de IA de universidades, grandes empresas de tecnologia e startups para compartilhar seus aprendizados e melhores práticas de engenharia.
Priorizando a segurança e a conformidade para a Okta e nossos clientes
Como parte do valor central da Okta de “Drive What’s Next”, incentivamos nossos engenheiros a experimentar tecnologias emergentes e permanecemos totalmente focados em como usar essas tecnologias com segurança. Desenvolvemos diretrizes internas para ajudar nossos desenvolvedores a se envolver de forma responsável e segura com a IA.
Nossos desenvolvedores aderem aos princípios de IA responsável em relação à privacidade, segurança, inovação responsável e princípios e obrigações mais gerais em relação aos dados do cliente. Por exemplo, em nossos hackathons, com proteções claras em vigor, as equipes ainda podem demonstrar efetivamente o potencial da IA de forma hipotética.
Ao interagirmos com plataformas de modelo como serviço GenAI, trabalhamos para garantir que salvaguardas de tratamento de dados apropriadas estejam em vigor. Ganhar e honrar a confiança do cliente é nossa prioridade em nossa abordagem às tecnologias emergentes de IA. Praticamos um gerenciamento de risco rigoroso, mesmo no estágio inicial de incubação do produto.
Definindo padrões para o desenvolvimento responsável de IA
Temos uma responsabilidade coletiva de estar atentos aos possíveis danos e consequências não intencionais das novas tecnologias. Na Okta, é da maior importância construir sistemas que sejam funcionais e robustos, mas também seguros e inclusivos.
Nosso objetivo é estar alinhados com os padrões internacionais de direitos humanos. As equipes de Engenharia, Direitos Humanos e Engenharia da Okta trabalham juntas para entender e incorporar o respeito aos direitos humanos, como privacidade, evitando preconceitos e segurança, por meio da colaboração com especialistas internos e externos em direitos humanos.
Os princípios de IA Responsável da Okta enfatizam (i) transparência; (ii) construção da confiança do cliente por meio de segurança, privacidade e proteção; (iii) responsabilidade; e (iv) inovação responsável em relação à inclusão, justiça e ética. Esses princípios estão alinhados com os valores da Okta: “Ame nossos clientes”. “Sempre seguro. Sempre ligado.” “Construa e seja o dono disso.” “Impulsione o que vem a seguir.”
“What's next” para a Okta AI
A Okta AI é um trabalho em andamento, pois melhoramos a produtividade e a segurança de nossos clientes e redefinimos o que significa ser integrado e protegido. O lançamento do Identity Threat Protection no lado do Workforce Identity e do Auth for GenAI no lado do Customer Identity são os primeiros passos para ajudar nossos clientes a entender a atividade em seus aplicativos, diagnosticar problemas e defender outros clientes de vários vetores de ameaças.
Com nosso sistema Telephony Anti-Toll Fraud, a Okta pode identificar tentativas de agentes de ameaças usando um modelo de ML personalizado para proteger as organizações contra fraudes e custos excessivos de telefonia. Attack Protection oferece defesa contra uma variedade de ataques, com recursos como Bot Detection, bem como outros recursos de segurança, incluindo Breached Password Detection e Suspicious IP Throttling.
Log Investigator, um recurso de IA que está por vir e é alimentado por processamento de linguagem natural (NLP), permite que os administradores da Okta consultem os dados do System Log da Okta em linguagem cotidiana. Este recurso fornece insights sobre o contexto histórico de sua segurança de Identity, simplificando a detecção de atividades incomuns ou suspeitas.
Nossa equipe está trabalhando para expandir nossa base de conhecimento sobre o impacto da IA no gerenciamento de Identity e Access. Com o próximo Governance Analyzer com Okta AI, anunciado no Oktane 2024, os clientes poderão aproveitar os vastos conjuntos de dados da Okta – desde a postura do dispositivo até os dados de relacionamento e as decisões de governança anteriores – para obter insights e recomendações críticas para acertar a autorização. Continuaremos compartilhando nossa liderança de pensamento e práticas e aprendendo com nossos colegas por meio de eventos como grupos do setor centrados em práticas e inovação de IA responsáveis. Saiba mais sobre os Okta’s Responsible AI Principles, Okta AI, e nossa pesquisa sobre AI at Work.
Tem perguntas sobre esta postagem do blog? Entre em contato conosco em eng_blogs@okta.com.
Explore mais Blogs de Engenharia perspicazes da Okta para expandir seu conhecimento.
Pronto para se juntar à nossa equipe apaixonada de engenheiros excepcionais? Visite nossa página de carreiras.
Desbloqueie o potencial do gerenciamento de identidade moderno e sofisticado para sua organização. Contate o Departamento de Vendas para obter mais informações.
