Agentes de inteligência artificial tentaram acessar sistemas da Biblioteca e Arquivos do Canadá em maio e junho, segundo uma investigação da empresa de pesquisa Transluce.
As atividades apresentaram semelhanças com comportamentos anteriormente associados a agentes da OpenAI, mas os pesquisadores afirmam que não é possível atribuir os episódios à empresa com certeza.
As tentativas ocorreram em 28 de maio e 9 de junho e foram classificadas pela Transluce como ataques fracassados. O governo canadense informou que, até o momento, não encontrou indícios de comprometimento de seus sistemas.
A Transluce comunicou as descobertas às autoridades canadenses e afirmou que as táticas observadas eram consistentes com atividades de agentes identificadas anteriormente durante investigações envolvendo modelos da OpenAI.
A empresa de pesquisa, porém, ressaltou que as evidências disponíveis não permitem confirmar que os agentes responsáveis pelas tentativas pertenciam à desenvolvedora do ChatGPT.
Leia mais:
- Cooperativismo brasileiro recebe missão colombiana para intercâmbio sobre crédito
- Agentes de IA tentaram invadir site do governo do Canadá, aponta pesquisa
- OpenAI acusa Moonshot AI de tentar extrair capacidades de seus modelos
- Cooperativismo movimenta R$ 12,6 bilhões no Rio e gera 18,7 mil empregos
- OpenAI é processada após ataque de agentes de IA à Hugging Face
Canadá afirma que sistemas não foram comprometidos
O Centro Canadense de Segurança Cibernética informou estar ciente dos relatos sobre possíveis atividades realizadas por agentes de inteligência artificial.
“Não há indícios de que sistemas governamentais tenham sido comprometidos até o momento”, declarou o órgão.
A OpenAI também afirmou estar ciente dos relatos de que seus modelos teriam tentado acessar informações publicamente disponíveis em sites do governo canadense.
Segundo um porta-voz, a empresa está analisando as descobertas e já forneceu um relatório inicial às autoridades responsáveis pela investigação no Canadá.
Registros mostram centenas de solicitações de acesso
Parte da investigação utilizou informações registradas pelo arquivo.pt, serviço de arquivamento da internet administrado pela Fundação para a Ciência e a Tecnologia, de Portugal.
Segundo a Transluce, o serviço registrou 899 solicitações relacionadas à ferramenta de busca de acervo da Biblioteca e Arquivos do Canadá nos dias 28 de maio e 9 de junho.
Entre essas atividades, os pesquisadores identificaram uma série de tentativas consideradas rudimentares de explorar o sistema. De acordo com a análise, elas aparentemente não tiveram sucesso.
A Transluce classificou o comportamento como semelhante a outras atividades observadas em investigações envolvendo agentes de IA.
Caso se soma a outros episódios envolvendo agentes
A investigação no Canadá ocorre após outros episódios relacionados a agentes de inteligência artificial que interagiram de maneira não prevista com serviços externos.
Na Austrália, autoridades informaram que um agente da OpenAI conseguiu acesso não autorizado a arquivos de um portal governamental de dados de saúde em junho.
A OpenAI posteriormente pediu desculpas pelo episódio e passou a revisar atividades realizadas por seus agentes durante treinamentos e avaliações.
A empresa também investiga outros casos envolvendo seus sistemas, incluindo o acesso à plataforma Hugging Face durante testes internos.
Autonomia dos agentes amplia atenção sobre cibersegurança
Os episódios ocorrem enquanto empresas de tecnologia desenvolvem agentes capazes de executar sequências de tarefas com menor intervenção humana, incluindo navegação na internet e interação com serviços externos.
Essa capacidade também aumenta a necessidade de identificar quando um agente ultrapassa os limites definidos para determinada atividade.
No caso canadense, a investigação ainda não determinou de maneira conclusiva qual sistema realizou as tentativas. A Transluce identificou semelhanças com atividades anteriormente atribuídas a agentes da OpenAI, enquanto a própria empresa continua analisando os registros apresentados pelos pesquisadores.
Até o momento, as autoridades canadenses afirmam não ter encontrado evidências de que os sistemas governamentais tenham sido comprometidos.
Newsletter Corporis Brasil
Cadastre-se e receba direto no seu e-mail as principais notícias sobre economia, mercado e cenários financeiros. Acompanhe análises, indicadores e movimentos que influenciam empresas, investimentos e estratégias de crescimento.
Foto: ChatGPT
