A Anthropic anunciou o desenvolvimento do Project Glasswing, um novo modelo de inteligência artificial voltado à cibersegurança.
A iniciativa conta com a participação de empresas como Nvidia, Google, Amazon Web Services, Apple e Microsoft, além de outras organizações do setor.
O projeto tem como objetivo identificar vulnerabilidades em sistemas com baixa necessidade de intervenção humana, ampliando a capacidade de resposta a ameaças digitais em grandes empresas e, potencialmente, em órgãos governamentais.
Leia mais:
- Meta apresenta IA de pesos abertos capaz de rodar diretamente em computadores pessoais
- Nvidia negocia investimento de até US$ 3 bilhões em infraestrutura ligada ao Stargate
- Jornais franceses questionam resumos de IA do Google por possível perda de audiência
- Anthropic prepara marca invisível para identificar conteúdos produzidos pelo Claude
- Agente de IA explora falha em sistema de academia para avançar usuário em lista de espera
Como parte do projeto, a Anthropic disponibiliza para parceiros selecionados o modelo Claude Mythos Preview, que não será liberado ao público neste momento devido a preocupações relacionadas à segurança.
Segundo Newton Cheng, responsável pela equipe de cibersegurança da empresa, o modelo foi projetado para oferecer vantagem na identificação de riscos.
Ele destacou que, embora não tenha sido treinado exclusivamente para esse fim, suas capacidades de codificação e raciocínio permitem identificar falhas com eficiência.
De acordo com a Anthropic, o sistema já identificou milhares de vulnerabilidades críticas em sistemas operacionais e navegadores nas últimas semanas.
Uma das características apontadas é a capacidade de operar de forma autônoma, sem direcionamento humano direto para detectar e desenvolver explorações dessas falhas.
O acesso restrito busca evitar que as mesmas vulnerabilidades sejam exploradas por agentes mal-intencionados.
O Project Glasswing envolve cerca de 40 organizações, incluindo empresas como JPMorgan Chase, Broadcom e Cisco, além de entidades como a Linux Foundation e a Palo Alto Networks, que atuam no desenvolvimento e manutenção de infraestrutura de software.
A Anthropic também anunciou investimentos para apoiar a utilização da tecnologia, com até US$ 100 milhões em créditos e US$ 4 milhões em doações destinadas a instituições como a Linux Foundation e a Apache Software Foundation.
A empresa avalia transformar o modelo em um serviço pago, caso sua eficácia seja comprovada. A iniciativa ocorre em um momento em que companhias de inteligência artificial buscam ampliar receitas e consolidar modelos de negócio.
A Anthropic também mantém diálogo com representantes do governo dos Estados Unidos sobre as capacidades do sistema, tanto no aspecto defensivo quanto ofensivo.
A existência do modelo havia sido revelada anteriormente após um vazamento de dados, atribuído a erro humano. A empresa informou que adotou medidas para aprimorar seus processos internos de segurança.
Newsletter Corporis Brasil
Cadastre-se e receba direto no seu e-mail as principais notícias sobre tecnologia, inovação e tendências digitais que estão transformando negócios e carreiras. Saiba mais sobre soluções inteligentes, novas ferramentas e avanços que impactam o mercado.
Foto: Freepik
