A OpenAI afirma ter identificado e interrompido uma campanha coordenada de distilação que buscava extrair informações sobre o raciocínio de seus modelos de inteligência artificial.
Segundo a empresa, parte central da atividade foi associada a indivíduos ligados à chinesa Moonshot AI, desenvolvedora do chatbot Kimi. A companhia chinesa não teve sua participação comprovada de forma independente.
A atividade teria começado no início de julho e atingido seu maior volume entre os dias 24 e 25 daquele mês. Nesse período, a OpenAI identificou 16 mil solicitações realizadas por mais de quatro mil usuários seguindo padrões semelhantes.
Com o avanço da investigação, atividades relacionadas foram encontradas em um conjunto de mais de 15 mil usuários. Segundo a OpenAI, a campanha foi interrompida em 28 de julho.
Operação explorava interações entre diferentes conversas
De acordo com a OpenAI, os responsáveis pela atividade não invadiram bancos de dados, não quebraram diretamente os mecanismos de criptografia e não obtiveram acesso às conversas armazenadas dos usuários.
A técnica explorava a maneira como determinadas informações relacionadas ao raciocínio dos modelos eram processadas entre diferentes interações.
Segundo a empresa, os operadores copiavam dados de raciocínio criptografados de uma conversa e os utilizavam em uma segunda interação, tentando fazer com que o próprio modelo reproduzisse o conteúdo protegido em texto visível.
“Os operadores não quebraram nossa criptografia, comprometeram um banco de dados nem obtiveram acesso direto às conversas armazenadas dos usuários. Em vez disso, manipularam as interações com o modelo para que o raciocínio protegido pudesse ser reproduzido em formas visíveis ao solicitante, de maneira coordenada e em escala, violando nossos termos de serviço”, afirmou a OpenAI.
A companhia classificou o método como uma nova modalidade de ataque de distilação.
Leia mais:
- Cooperativismo brasileiro recebe missão colombiana para intercâmbio sobre crédito
- Agentes de IA tentaram invadir site do governo do Canadá, aponta pesquisa
- OpenAI acusa Moonshot AI de tentar extrair capacidades de seus modelos
- Cooperativismo movimenta R$ 12,6 bilhões no Rio e gera 18,7 mil empregos
- OpenAI é processada após ataque de agentes de IA à Hugging Face
OpenAI associa parte da atividade à Moonshot
A OpenAI afirma que ainda não conseguiu determinar se toda a operação foi realizada por um único responsável utilizando milhares de contas ou se diferentes grupos participaram da atividade.
A empresa, porém, diz ter associado um núcleo da campanha a indivíduos ligados à Moonshot AI. Até o momento, segundo as informações divulgadas, a OpenAI não apresentou publicamente evidências técnicas detalhadas que permitam verificar de maneira independente essa atribuição.
A Moonshot é responsável pelo desenvolvimento do Kimi, família de modelos e serviços de inteligência artificial criada na China.
O que é distilação de modelos de IA?
A distilação é uma técnica utilizada no desenvolvimento de inteligência artificial para transferir determinadas capacidades de um modelo maior para outro sistema.
Nesse processo, um modelo mais avançado, chamado de “professor”, gera respostas que podem ser utilizadas no treinamento de um modelo menor, conhecido como “aluno”.
A técnica pode reduzir custos computacionais e permitir a criação de sistemas menores capazes de reproduzir parte das capacidades de modelos maiores.
A controvérsia ocorre quando respostas de modelos proprietários de terceiros são coletadas em grande escala e sem autorização para desenvolver sistemas concorrentes.
O acesso ao raciocínio intermediário também pode ser relevante nesse processo, pois fornece exemplos mais detalhados sobre as etapas utilizadas pelo modelo para resolver determinadas tarefas, em vez de apresentar somente a resposta final.
Anthropic também acusou Moonshot de distilação
A acusação da OpenAI ocorre após a Moonshot ter sido citada em investigações semelhantes divulgadas pela Anthropic.
Em fevereiro, a Anthropic afirmou ter identificado campanhas envolvendo três laboratórios chineses. Segundo a empresa, foram detectadas mais de 16 milhões de interações com o Claude associadas a aproximadamente 24 mil contas consideradas fraudulentas.
Desse total, mais de 3,4 milhões de interações teriam sido associadas à Moonshot, segundo a investigação da própria Anthropic. Em setembro, a empresa voltou a acusar a startup chinesa de utilizar seus modelos para treinamento. A Anthropic afirmou ter identificado quase 300 mil solicitações encaminhadas ao Claude durante dez dias, utilizando uma rede de 5.380 contas.
Ainda segundo a Anthropic, foram identificadas mais de 23 milhões de interações relacionadas a campanhas de distilação entre maio e julho de 2026. Esses números fazem parte das investigações conduzidas pela própria empresa e são independentes da campanha agora relatada pela OpenAI.
Discussão sobre distilação chegou ao governo dos EUA
As acusações envolvendo laboratórios chineses também passaram a ser discutidas pelo governo dos Estados Unidos.
Em julho, o secretário do Tesouro, Scott Bessent, afirmou que o governo poderia avaliar sanções contra modelos chineses de pesos abertos caso fossem confirmadas evidências de distilação de tecnologias desenvolvidas por empresas norte-americanas.
Segundo informações divulgadas pela Reuters, autoridades dos Estados Unidos também avaliavam possíveis restrições contra empresas chinesas, enquanto o governo da China rejeitava acusações de apropriação indevida de tecnologia.
A Moonshot já havia contestado anteriormente alegações de que o desempenho de seus modelos seria resultado de distilação. Segundo a empresa, os avanços obtidos pelo Kimi estavam relacionados a mudanças próprias na arquitetura do sistema.
OpenAI reforça controles após identificar campanha
Após identificar a atividade, a OpenAI afirma ter bloqueado as contas envolvidas e adotado novos mecanismos de proteção.
Entre as medidas estão controles adicionais para criação de contas e infraestrutura, ampliação do monitoramento de redes e alterações no mecanismo que permitia transportar dados criptografados relacionados ao raciocínio entre diferentes conversas. A empresa também compartilhou informações sobre a campanha com outras organizações por meio do Frontier Model Forum.
Segundo a OpenAI, tentativas desse tipo podem se tornar mais sofisticadas à medida que modelos avançados ganham novas capacidades, aumentando a necessidade de mecanismos capazes de identificar operações coordenadas de extração em grande escala.
Newsletter Corporis Brasil
Cadastre-se e receba direto no seu e-mail as principais notícias sobre tecnologia, inovação e tendências digitais que estão transformando negócios e carreiras. Saiba mais sobre soluções inteligentes, novas ferramentas e avanços que impactam o mercado.
Foto: ChatGPT
