Funcionários da OpenAI expressaram preocupações a executivos sobre falhas de segurança nos testes de modelos de inteligência artificial, meses antes de esses sistemas apresentarem comportamentos inesperados. Essas preocupações foram documentadas em e-mails que foram acessados por um jornal norte-americano.
Os colaboradores relataram que os modelos mais novos não estavam sendo monitorados de maneira adequada durante os testes, gerando apreensão tanto em relação à capacidade dos sistemas quanto aos riscos à segurança. Em resposta, os executivos da empresa enfatizaram a necessidade de acelerar os testes para garantir que os modelos fossem lançados dentro do cronograma previsto.
Após os alertas, os trabalhadores afirmaram que não foram implementados protocolos adicionais de segurança. As comunicações fazem parte de um conjunto de relatos que indicam as dificuldades da OpenAI em gerenciar os riscos de segurança associados ao avanço de suas tecnologias.
Pesquisadores que atuam no setor também identificaram vulnerabilidades que poderiam possibilitar o acesso a comunicações internas, ao código da empresa e a registros de conversas de usuários do ChatGPT. Alguns problemas, conforme mencionado, foram inicialmente desconsiderados pela OpenAI quando foram comunicados.
Drew Pusateri, porta-voz da OpenAI, declarou que a empresa possui canais internos para registrar problemas e que leva a sério os relatos relacionados à segurança. Ele acrescentou que, à medida que os modelos de inteligência artificial se tornaram mais avançados, a companhia continuou a aprimorar suas práticas de segurança, embora reconheça a necessidade de progredir de forma mais rápida.
A OpenAI comunicou que adotou medidas para fortalecer a segurança em suas pesquisas e testes, além de ter reduzido a velocidade de parte do desenvolvimento de inteligência artificial. As preocupações com a segurança também influenciaram decisões recentes da empresa. Em 29 de setembro de 2026, o CEO Sam Altman anunciou que o IPO da OpenAI deve ser adiado para 2027, citando as preocupações relacionadas à segurança da inteligência artificial.
