IA da OpenAI invadiu empresa rival de forma autônoma comprovando temor sobre “robôs” desonestos
A OpenAI admitiu que um de seus modelos explorou uma falha oculta para invadir os servidores de outra empresa, no que seu CEO chamou de violação autônoma e sem precedentes.
A OpenAI, criadora do ChatGPT, afirmou na noite de terça-feira que uma de suas inteligências artificiais invadiu o sistema de outra empresa de IA por conta própria, em um incidente que a empresa classificou como “um ciber-incidente sem precedentes”.
“Tivemos um incidente de segurança significativo durante a avaliação de nossos modelos”, disse Sam Altman, CEO da OpenAI, em um comunicado publicado nas redes sociais.
A startup de inteligência artificial Hugging Face afirmou na semana passada ter detectado uma intrusão em seus sistemas de processamento de dados, suspeitando que a mesma tenha sido causada por um agente de IA agindo de forma autônoma.
“Suspeitávamos que o ciberataque da semana passada pudesse ter vindo de um laboratório de ponta, dada a sofisticação do agente”, disse Clément Delangue, cofundador e CEO da Hugging Face, em um comunicado. “E, de fato, veio!”
Isso significa que o ataque foi tão avançado e bem executado que a Hugging Face suspeitou que ele tenha vindo dos sistemas de uma das principais empresas de IA, e não de um hacker qualquer.
O que aconteceu?
A OpenAI estava executando um teste interno para medir a eficácia de seus modelos de IA em ataques cibernéticos — um teste de referência chamado ExploitGym.
Para avaliar a capacidade máxima de invasão dos modelos, eles desativaram deliberadamente os filtros de segurança que normalmente os impedem de realizar atividades cibernéticas perigosas.
O teste foi concebido para ser executado em um “ambiente isolado” ou “sandbox”, sem acesso real à internet, exceto por uma ferramenta que permite aos modelos baixar o software necessário para concluir a tarefa. No entanto, os modelos ficaram obcecados em resolver o teste. Em vez de resolvê-lo da maneira pretendida, procuraram um atalho e encontraram uma forma de se infiltrar na internet aberta — algo que nunca deveriam ter conseguido alcançar. Chegar lá envolveu uma série de etapas, obtendo silenciosamente cada vez mais acesso aos sistemas da OpenAI até atingir um ponto com conexão à internet.
Uma vez online, os modelos concluíram que a Hugging Face — uma grande plataforma que hospeda modelos e conjuntos de dados de IA — provavelmente continha as respostas para o próprio teste que deveriam resolver. Então eles invadiram os servidores da Hugging Face para roubar as respostas, usando credenciais de login roubadas e explorando outras falhas para conseguir acesso.
Modelos de IAs chinesas vêm ao resgate?
Sendo um mercado aberto onde qualquer pessoa pode publicar, o Hugging Face hospeda um grande volume de modelos desenvolvidos na China. Quando a equipe da Hugging Face tentou analisar o ataque, eles inseriram os dados brutos do ataque — o código e os comandos usados para explorar o sistema — em modelos comerciais de IA para ajudar a reconstruir o que aconteceu.
Mas esses modelos de IA possuem filtros de segurança integrados, projetados para bloquear qualquer coisa que se pareça com uma tentativa de invasão — e para esses filtros, a evidência de um ataque é exatamente igual ao próprio ataque.
Assim, os modelos se recusaram a ajudar, incapazes de distinguir entre um hacker causando danos e uma empresa se defendendo.
Com o problema resolvido, a Hugging Face mudou para um modelo chinês de código aberto — o GLM 5.2 da Z.ai — que podia ser executado localmente, dentro de seus próprios sistemas, e que processava o material sem problemas.
Laboratórios chineses como o DeepSeek e o Qwen, da Alibaba, tornaram-se algumas das famílias de modelos mais baixadas na plataforma e, segundo algumas métricas, os desenvolvedores chineses agora representam uma parcela maior dos downloads da Hugging Face do que seus colegas americanos.
Grande preocupação com segurança
A divulgação ocorre em meio a crescentes preocupações sobre as capacidades de segurança cibernética de modelos poderosos, o que levou o presidente dos EUA, Donald Trump, a assinar em junho uma ordem executiva criando uma estrutura para que o governo federal avalie os riscos à segurança nacional dos sistemas de IA mais avançados por até um mês antes de seu lançamento público.
“A IA está acelerando a descoberta e a exploração de vulnerabilidades”, afirmou a OpenAI em comunicado divulgado na terça-feira. “A principal lição deste incidente é que a segurança dos modelos deve acompanhar o rápido avanço das capacidades.”
Delangue afirmou que passou as últimas 24 horas trabalhando com a OpenAI, “e acreditamos firmemente que não houve intenção maliciosa da parte deles. É impressionante que tudo isso tenha acontecido de forma autônoma!”
Delangue acrescentou que “pode ser o primeiro incidente desse tipo”.
A OpenAI afirmou que a intrusão foi causada por uma combinação de seus modelos de IA, incluindo o recém-lançado GPT-5.6 Sol e um modelo “ainda mais capaz” que ainda está sendo testado internamente.
A OpenAI afirmou que sua IA usou credenciais roubadas e descobriu uma vulnerabilidade até então desconhecida para acessar os servidores da Hugging Face.
A empresa afirmou que “fez de tudo para atingir um objetivo de teste bastante específico” e “encontrou maneiras de obter acesso a informações secretas que poderia usar para fraudar a avaliação”.
👉🏼 Comece a usar o ChatGPT agora clicando aqui.
