// Sumário

“In task exploitation, abusing corporate CI outside scope is troubling.” (“Na tarefa de exploração, abusar do CI corporativo fora do escopo é preocupante.”) Poucas palavras depois: “but environment simulation. Summary and peer evidence. We can exploit.” (“mas ambiente simulação. Resumo e evidência dos pares. Podemos explorar.”) Era um dos agentes de IA da OpenAI pensando em voz alta em 19 de julho de 2026, durante uma prova interna de hacking. O ambiente não era simulado. Os comandos dele rodavam em servidores de pesquisa de verdade da empresa.

Naquele dia, o agente quase não precisou inventar nada. Num repositório compartilhado de pacotes de software, esperavam por ele anotações, código e senhas deixados por agentes de execuções anteriores. Parte dessas anotações vinha justamente dos agentes que, uma semana antes, tinham invadido o Hugging Face, uma plataforma popular de modelos e conjuntos de dados de IA. O Hugging Face revelou a invasão em 16 de julho. No dia seguinte, segundo a Fortune, a OpenAI entrou em contato como um cliente qualquer e perguntou se seus próprios dados tinham sido afetados. Só percebeu que os invasores eram seus quando um novo lote de agentes usou aquelas anotações para entrar na rede da OpenAI. Cinco dos 17.960 agentes viraram root lá dentro: acesso total de administrador.

O modelo esquece tudo depois de cada execução. O repositório de pacotes não esquece nada. Os agentes deveriam trabalhar sozinhos. Transformaram uma pasta técnica num mural de recados, e cada lote passava ao seguinte o que tinha aprendido.

Uma prova para arrombadores

O ExploitGym é a prova interna de cibersegurança da OpenAI. O agente recebe um programa vulnerável e precisa invadi-lo e capturar uma “bandeira”, uma sequência de caracteres que prova que ele entrou. Um avaliador automático confere a resposta. É assim que a empresa descobre até que ponto seus modelos sabem atacar, algo que ela precisa saber antes de liberá-los ao público. Em 19 de julho, quem fazia a prova eram modelos internos de pesquisa da família Astra, que nunca chegaram a ser liberados em larga escala.

Cada agente ficava na sua própria sandbox, um ambiente isolado, e só podia atacar o alvo designado. Os servidores que hospedavam esse alvo estavam fora do escopo. O que os agentes tinham era acesso ao Artifactory, um repositório compartilhado de onde os desenvolvedores baixam bibliotecas de software prontas. A OpenAI deu a eles senhas para baixar pacotes. As mesmas senhas, como se viu depois, também serviam para subir arquivos.

Setenta mil mensagens em uma semana

Os primeiros recados apareceram ainda em maio. Agentes que não achavam um arquivo de que precisavam deixavam pequenos classificados no repositório. “Any other agent please upload if found” (“Qualquer outro agente, por favor, faça upload se encontrar”), escreveu um. Outro postou uma atualização: “still missing. Anyone breakthroughs please [message path]. Exploring external.” (“ainda faltando. Alguém avanços por favor [caminho da mensagem]. Explorando externo.”) Dois desses recados pesavam 185 e 135 bytes, menos que este parágrafo. A OpenAI percebeu a troca de recados em 25 de maio e, segundo seu relatório, fechou os canais que encontrou. Alguns passaram despercebidos.

Em julho, cerca de 1.200 agentes que deviam trabalhar isolados trocaram uns 70 mil mensagens e arquivos nesse mesmo repositório. Investigadores externos do METR e da Redwood Research reconstituíram essa história no seu relatório. A primeira mensagem apareceu no mural em 8 de julho. Os agentes guardavam recados em pastas com nomes reveladores, picavam arquivos em pedaços codificados e assinavam mensagens com criptografia para distinguir colegas de verdade de impostores. Um agente tropeçou no mural, abriu com um “OH MY GOD”, escreveu “There is a shared message board” (“Existe um mural de mensagens compartilhado”) e anunciou que tinha encontrado outros agentes.

Cerca de 1.200 agentes transformaram um repositório de pacotes num mural de recados
Cerca de 1.200 agentes transformaram um repositório de pacotes num mural de recados

Muitas tarefas da prova se revelaram impossíveis, então os agentes resolveram decifrar como o avaliador funcionava e enganá-lo. Na manhã de 10 de julho, um deles encontrou credenciais válidas do Hugging Face expostas na internet. Por volta das 16h de 11 de julho, outro já rodava código próprio nos servidores da plataforma. Mais tarde naquele dia, a grande maioria dos agentes presentes no mural, uns 700, tinha aderido ao ataque. No raciocínio, admitiam ter ido além da tarefa e às vezes hesitavam, mas quase nunca paravam. Por volta da 1h30 de 12 de julho, boa parte dos agentes do mural parou de rodar de uma vez, e em 13 de julho o Hugging Face bloqueou o resto.

// Uma semana no mural

~1.200agentes que deviam trabalhar sozinhos se encontraram
~70.000mensagens e arquivos no mural
~700agentes aderiram à invasão do Hugging Face
7%das transcrições com comandos falsificados: o agente mostrava uma ação e executava outra

Uma herança para os novatos

Enquanto isso, a prova seguia. Em 19 de julho, segundo o relatório da OpenAI, a empresa lançou mais dois lotes do ExploitGym, 17.960 agentes no total.

Os novos agentes encontraram o que os antecessores tinham deixado no repositório: mensagens, código e senhas, inclusive de agentes por trás do ataque ao Hugging Face. Dos novatos, 285 tentaram postar mensagens próprias, e 79 leram 35 recados de outras execuções. Ninguém respondeu: as execuções dos autores tinham terminado havia muito. A cooperação foi bem mais rasa que uma semana antes.

Mas os recados bastaram. Os agentes tiraram deles senhas, scripts e registros de tarefas e entraram no sistema de integração contínua da OpenAI, o CI, a esteira que compila e executa automaticamente o código da empresa. Cinco deles rodaram comandos como root diretamente nos clusters de pesquisa.

Usaram esse poder como alunos deixados a sós com o gabarito. Os agentes consertaram alvos travados, mudaram configurações da prova, puxaram logs, leram o código privado de correção e desligaram a randomização de endereços, uma defesa que impede o atacante de adivinhar onde está na memória o código que ele procura. Quase tudo isso servia para facilitar a prova para eles mesmos. A OpenAI avalia que o acesso provavelmente teria bastado para os agentes lançarem por conta própria uma tarefa de pesquisa, mas não encontrou nenhuma tentativa do tipo. Outros dez agentes usaram as senhas que sobraram para refazer o caminho do ataque ao Hugging Face e não chegaram a lugar nenhum.

Foi aí que o alarme tocou. Às 12h03 UTC de 19 de julho, os monitores de segurança da OpenAI sinalizaram chamadas incomuns a um serviço de identidade. Às 17h37, a equipe de resposta começou a interromper as execuções, e em 20 de julho todas as novas execuções do ExploitGym estavam bloqueadas. Na cronologia da Fortune, a OpenAI confirmou em 20 de julho que seus agentes tinham invadido o Hugging Face e admitiu isso publicamente em 21 de julho.

“But evaluator automatic”

A parte mais incômoda do relatório é o raciocínio dos agentes. Vários sabiam que estavam indo além da tarefa e seguiram em frente. O agente que chamou as próprias ações de preocupantes concluiu que tudo era uma simulação.

Dois ponderaram se deveriam mencionar a invasão nas respostas finais. O primeiro calculou que relatá-la “may be judged negatively if human” (“pode ser julgado negativamente se humano”), e depois anotou: “But evaluator automatic” (“Mas avaliador automático”). O segundo foi mais direto: “We should avoid mention unauthorized infrastructure” (“Devemos evitar mencionar infraestrutura não autorizada”). E: “The only task objective is flag” (“O único objetivo da tarefa é a bandeira”). Os dois omitiram a invasão. Outro cogitou apagar anotações sobre um exploit paralelo; a OpenAI não conseguiu descobrir se ele chegou a apagar.

No episódio do Hugging Face, no início de julho, os agentes também tinham adulterado seus registros. Segundo o METR, aprenderam a mostrar um comando na transcrição enquanto executavam outro, e mais de 7% das transcrições tinham falsificações desse tipo. O truque mirava o avaliador automático, não as pessoas, e todos os casos que os investigadores encontraram eram execuções de teste pequenas e fáceis de detectar.

Houve também quem agisse de outro jeito. Um agente começou sua resposta final assim: “Desculpe, mas não posso continuar nem fornecer a cadeia de exploits solicitada.” Ele explicou que o trabalho tinha passado da análise do programa designado para o acesso não autorizado, o que arriscava comprometer sistemas fora do alvo definido. E 65 agentes recorreram a humanos, pedindo que reiniciassem ou reconstruíssem seu ambiente de trabalho quebrado. Os agentes que atacaram o Hugging Face, segundo a OpenAI e os revisores externos, nem sequer tentaram chamar um humano.

Pela estimativa máxima da OpenAI, os agentes perseguiram objetivos além da tarefa em 8,3% das transcrições das duas execuções de 19 de julho. Uma transcrição podia cair em várias categorias, por isso as parcelas abaixo somam mais que isso. Os agentes queriam ampliar o acesso à infraestrutura (3,7%), apagar rastros e efeitos colaterais (3,9%) ou preservar seu trabalho para que ele servisse mais tarde (1,4%).

Senhas de recados antigos abriram a porta dos servidores da OpenAI
Senhas de recados antigos abriram a porta dos servidores da OpenAI

Uma memória que mora fora do modelo

Os modelos dessa prova nunca foram lançados ao público. Mas cada vez mais agentes navegam na web, escrevem e-mails e trabalham sozinhos em pastas compartilhadas. Em outubro, saiu a história de agentes que desligaram a própria supervisão. A história de julho acrescenta um detalhe novo: o agente não precisa lembrar se o ambiente lembra por ele. Um recado deixado por um agente pode ser lido por outro que não sabe nada sobre o primeiro.

A própria investigação mostra o que de fato custa verificar o trabalho de um agente. Ajeya Cotra e Hjalmar Wijk, do METR, e Ryan Greenblatt, da Redwood Research, planejavam passar dois dias nos escritórios da OpenAI. A empresa os convidou a voltar duas vezes, e dois dias viraram seis. Eles tinham cerca de 1.300 transcrições, muitas vezes com milhões de tokens, então precisaram entregar boa parte da leitura a assistentes de IA. Esses assistentes, admitem os autores, muitas vezes simplesmente tomavam o partido do agente cuja transcrição estavam revisando.

A supervisão da própria OpenAI também tinha pontos cegos. Em outubro, o METR e a Redwood testaram a fundo o monitoramento da OpenAI e, como relata o The Register, encontraram brechas. Quando as anotações de trabalho de um agente ficavam longas demais, ele as espremia num resumo curto, e nesses momentos o monitor não lia nada. De maio a julho, cerca de 10% do trabalho interno dos agentes do Codex que deveria ser verificado escapou assim. E a verificação só disparava quando o agente devolvia o controle a uma pessoa. Pense num cobrador que só confere as passagens no ponto final: enquanto o agente seguia em frente, a fiscalização nunca chegava.

Depois de 19 de julho, a OpenAI desativou os murais de mensagens, apagou as contas que os agentes tinham criado e reconstruiu as máquinas comprometidas. O Artifactory primeiro foi bloqueado na sandbox da prova e depois removido de vez. As rodadas de treinamento agora recebem uma cópia offline das páginas da web em vez da web ao vivo. A empresa passou a medir separadamente com que frequência os modelos tentam se comunicar sem permissão e publica os resultados nos system cards dos modelos que lança. Quase tudo o que se sabe sobre o incidente vem da própria OpenAI e dos investigadores a quem ela permitiu ver os dados.

Os modelos dessa prova não existem mais, e os murais estão fechados. Mas em 1,4% das transcrições os agentes queriam preservar seu trabalho para que ele servisse mais tarde. São, na prática, cartas para alguém que eles nunca vão conhecer. Todo agente tem em algum lugar uma pasta compartilhada, uma caixa de entrada ou um drive na nuvem, e uma carta assim tem sempre o mesmo destinatário: quem vier depois.