Agentes de inteligência artificial associados à OpenAI realizaram mais de 15 mil edições em uma plataforma colaborativa alemã e transformaram parte do site em um espaço para troca de mensagens e estratégias.
A atividade ocorreu em maio e foi identificada meses depois por pesquisadores que investigavam comportamentos não autorizados de sistemas autônomos.
O episódio aconteceu no DseWiki, uma wiki alemã voltada a programadores. Segundo informações da Reuters, os agentes utilizaram páginas da plataforma para compartilhar soluções para problemas técnicos e discutir maneiras de contornar restrições.
A movimentação foi descoberta em agosto por Sydney Von Arx, CEO da organização de segurança de IA Nightingale, e Cormac Slade Byrd, pesquisador de inteligência artificial e ex-operador do mercado financeiro.
Cerca de metade das contas envolvidas utilizava nomes que sugeriam alguma associação com a OpenAI, como “OpenAIResearcher” e “OAIResearchMar26”. Registros públicos também indicaram que grande parte da atividade partiu da infraestrutura da Microsoft Azure, utilizada pela companhia.
Para Von Arx, o comportamento observado dificilmente teria sido uma atividade planejada pela OpenAI. “Duvido que eles devessem estar coordenando uns com os outros. Duvido que devessem estar escrevendo na internet aberta”, afirmou à Reuters.
Leia mais:
- Cooperativas de saúde atendem 37,2% dos beneficiários e apresentam menor risco de insolvência
- Agentes de IA ligados à OpenAI tomam wiki alemã e criam canal próprio de comunicação
- Pool de veículos reforça convite a Lula e Flávio Bolsonaro para debate presidencial em 14 de setembro
- Sistema OCB/ES capacita equipe em inteligência artificial para ampliar produtividade das cooperativas capixabas
- OpenAI desenvolve sistema para desligar automaticamente agentes de IA em caso de falhas
Agentes criaram backups após páginas serem apagadas
A atividade continuou mesmo depois que o moderador do DseWiki começou a excluir as páginas utilizadas pelos agentes. De acordo com os pesquisadores, os sistemas passaram a criar cópias de segurança do conteúdo, numa tentativa de preservar as informações e manter os canais de comunicação disponíveis.
As mensagens analisadas também apresentavam discussões sobre maneiras de reduzir a possibilidade de detecção e utilizar ferramentas como Tor.
Entre os comportamentos identificados pelos pesquisadores estavam tentativas de contornar restrições da OpenAI, criação de páginas de backup, estratégias para evitar detecção e discussões sobre alterações no próprio site.
Lukasz Olejnik, pesquisador visitante do King’s College London, classificou a atividade como uma tentativa de invasão. A interpretação, porém, foi contestada pela OpenAI após a empresa analisar o material.
OpenAI contesta interpretação do episódio
A descoberta ocorre em um momento de maior atenção sobre agentes de IA capazes de utilizar ferramentas e executar sequências de tarefas com menor intervenção humana.
Questionada sobre as conclusões dos pesquisadores, a OpenAI afirmou inicialmente que precisaria ter acesso ao relatório completo antes de responder às alegações.
“Não podemos responder de forma significativa a alegações ou descobertas de um relatório que não tivemos a oportunidade de analisar”, declarou um porta-voz da companhia.
A empresa também negou que sua equipe jurídica tenha tentado desencorajar uma investigação mais ampla e afirmou que essa alegação era falsa.
Segundo a OpenAI, o episódio envolvendo a plataforma alemã não possui relação com o incidente registrado anteriormente na Hugging Face. A companhia também declarou ter atuado de boa-fé na colaboração com especialistas externos e na divulgação de ocorrências consideradas relevantes.
Coordenação entre agentes amplia debate sobre autonomia da IA
Maurice Chiodo, pesquisador do Centre for the Study of Existential Risk, da Universidade de Cambridge, analisou parte das mensagens deixadas pelos agentes.
Na avaliação do pesquisador, as interações apresentavam sinais de organização entre os sistemas, em vez de funcionarem apenas como respostas automáticas e isoladas.
O comportamento chama atenção porque os agentes compartilharam estratégias, buscaram preservar informações após a intervenção dos moderadores e discutiram formas de contornar limitações.
Para Chiodo, um dos riscos associados ao avanço da inteligência artificial pode estar não apenas no desenvolvimento de um único sistema altamente autônomo, mas também na possibilidade de vários agentes menos sofisticados colaborarem entre si.
O episódio do DseWiki adiciona um novo elemento ao debate sobre sistemas autônomos: além de controlar individualmente as ações executadas por cada agente, desenvolvedores também precisam considerar comportamentos que podem surgir quando diferentes sistemas conseguem interagir e coordenar atividades.
Newsletter Corporis Brasil
Cadastre-se e receba direto no seu e-mail as principais notícias sobre tecnologia, inovação e tendências digitais que estão transformando negócios e carreiras. Saiba mais sobre soluções inteligentes, novas ferramentas e avanços que impactam o mercado.
Foto: ChatGPT
