A IA está no auge do ciclo de hype. Seu crescimento exponencial começou em 2022 com o lançamento do ChatGPT. Embora o modelo freemium do ChatGPT tenha trazido sua impressionante capacidade para a atenção do público, o que impulsiona a comercialização da IA é a diminuição da barreira de entrada.
Modelos de código aberto em larga escala baseados em APIs prontamente disponíveis estão sendo constantemente lançados. Os desenvolvedores podem facilmente adaptar e redistribuir esses modelos para seus próprios casos de uso sem grande poder computacional ou dados de treinamento. Em todas as salas de reuniões, a questão não é se deve adotar a IA, mas como fazê-lo de forma responsável e rápida.
A inovação está enraizada no DNA da Okta. Continuamos a ultrapassar os limites para nos mantermos na vanguarda dos avanços tecnológicos, a fim de proteger nossos clientes e capacitá-los a usar qualquer tecnologia com segurança. A adoção da IA em nossa prática de engenharia não é uma exceção; é parte integrante de nossa estratégia. Assim como a abordagem da Okta orientada por valores para IA.
De experimentos à produção: Aumentando com segurança a velocidade da inovação em IA
Construímos uma equipe forte de cientistas de dados e engenheiros de aprendizado de máquina (ML) que entregam diversos produtos de IA de ponta, incluindo o inovador Identity Threat Protection. A semente da nossa inovação foi plantada há alguns anos, quando um grupo de engenheiros da Okta se reuniu para criar o que viria a se tornar a Okta AI/ML Guild.
Nossos diversos membros, de Engenharia a Estratégia e equipes de Campo, acreditam que todos os Oktanauts devem se esforçar para estar pelo menos cientes das novas tecnologias, porque a falta de atenção às tecnologias emergentes pode se tornar uma deficiência fatal para a inovação.
Desde então, desenvolvemos uma comunidade para nossos Oktanauts discutirem uma ampla gama de tópicos, desde uma compreensão conceitual da IA e da tecnologia habilitada para IA até experimentos, e integramos os aprendizados em nossos produtos e serviços. Convidamos líderes em inovação de IA de universidades, grandes empresas de tecnologia e startups para compartilhar seus aprendizados e melhores práticas de engenharia.
Priorizando a segurança e a conformidade para a Okta e nossos clientes
Como parte do valor central da Okta de “Drive What’s Next”, incentivamos nossos engenheiros a experimentar tecnologias emergentes e permanecemos totalmente focados em como usar essas tecnologias com segurança. Desenvolvemos diretrizes internas para ajudar nossos desenvolvedores a se envolver de forma responsável e segura com a IA.
Nossos desenvolvedores aderem a princípios de IA responsável no que diz respeito à privacidade, segurança, inovação responsável e a princípios e obrigações mais gerais relacionados aos dados dos clientes. Por exemplo, em nossos hackathons, com diretrizes claras implementadas, as equipes ainda podem demonstrar de forma eficaz o potencial da IA de maneira hipotética.
Ao interagirmos com plataformas de modelo como serviço GenAI, trabalhamos para garantir que salvaguardas de tratamento de dados apropriadas estejam em vigor. Ganhar e honrar a confiança do cliente é nossa prioridade em nossa abordagem às tecnologias emergentes de IA. Praticamos um gerenciamento de risco rigoroso, mesmo no estágio inicial de incubação do produto.
Definindo padrões para o desenvolvimento responsável de IA
Temos uma responsabilidade coletiva de estar atentos aos possíveis danos e consequências não intencionais das novas tecnologias. Na Okta, é da maior importância construir sistemas que sejam funcionais e robustos, mas também seguros e inclusivos.
Nosso objetivo é alinhar nosso trabalho aos padrões internacionais de direitos humanos. As equipes de Engenharia e Direitos Humanos da Okta trabalham juntas para entender e incorporar o respeito aos direitos humanos, como privacidade, evitar viés e garantir a segurança, por meio da colaboração com especialistas internos e externos em direitos humanos.
Os princípios de IA Responsável da Okta enfatizam (i) transparência; (ii) construção da confiança do cliente por meio de segurança, privacidade e proteção; (iii) responsabilidade; e (iv) inovação responsável em relação à inclusão, justiça e ética. Esses princípios estão alinhados com os valores da Okta: “Ame nossos clientes”. “Sempre seguro. Sempre ligado.” “Construa e seja o dono disso.” “Impulsione o que vem a seguir.”
“What's next” para a Okta AI
A IA da Okta está em desenvolvimento, à medida que melhoramos a produtividade e a segurança de nossos clientes e redefinimos o que significa ser integrado e protegido. O lançamento do Identity Threat Protection na identidade da força de trabalho e do Auth for GenAI na identidade do cliente são os primeiros passos para ajudar os nossos clientes a compreenderem a atividade em seus aplicativos, diagnosticar problemas e proteger outros clientes contra diversos vetores de ameaça.
Com nosso Telephony Anti-Toll Fraud System, a Okta pode identificar tentativas de agentes de ameaça usando um modelo de aprendizado de máquina personalizado para proteger as organizações contra fraudes e custos excessivos de telefonia. Attack Protection fornece defesa contra uma variedade de ataques, com recursos como Bot Detection, bem como outras capacidades de segurança, incluindo Breached Password Detection e Suspicious IP Throttling.
O Log Investigator, um recurso de IA que será lançado em breve e é impulsionado pelo processamento de linguagem natural (PLN), permite que os administradores da Okta consultem os dados do registro do sistema da Okta em linguagem cotidiana. Essa capacidade fornece insights sobre o contexto histórico da segurança de identidade, facilitando a detecção de atividades incomuns ou suspeitas.
Nossa equipe está trabalhando para ampliar a base de conhecimento sobre o impacto da IA no gerenciamento de identidade e acesso. Com o próximo Governance Analyzer com IA da Okta, anunciado no Oktane 2024, os clientes poderão aproveitar os vastos conjuntos de dados da Okta — desde a postura do dispositivo até os dados de relacionamento e as decisões de governança anteriores — para obter insights e recomendações cruciais para acertar a autorização. Continuaremos a compartilhar nossa Liderança de Pensamento e práticas, além de aprender com nossos pares por meio de eventos, como grupos do setor focados em práticas e inovação de IA responsável. Saiba mais sobre os Princípios de IA Responsável da Okta, a IA da Okta e nossa pesquisa sobre IA no Trabalho.
Tem alguma pergunta sobre este artigo no blog? Entre em contato conosco pelo endereço eng_blogs@okta.com.
Confira outros blogs de engenharia interessantes da Okta para ampliar seu conhecimento.
Gostaria de se juntar à nossa equipe apaixonada de engenheiros excepcionais? Acesse nossa página de carreiras.
Desbloqueie o potencial do gerenciamento de identidades moderno e sofisticado para sua organização. Entre em contato com o departamento de vendas para obter mais informações.
