Nvidia reúne gigantes da tecnologia para criar aliança de segurança em inteligência artificial

A Nvidia anunciou a criação da Open Secure AI Alliance (OSAA), iniciativa que reúne grandes empresas de tecnologia para desenvolver ferramentas abertas voltadas à segurança de sistemas de inteligência artificial. A proposta é ampliar a colaboração entre organizações, pesquisadores e desenvolvedores na identificação de vulnerabilidades e na resposta a novas ameaças digitais.

Entre os participantes da aliança estão empresas como Microsoft, Dell, IBM, HPE, Red Hat, Adobe, Hugging Face e SpaceXAI.

Leia mais:

• Prazo para partidos explicarem gestão de emendas ao STF termina nesta semana
• Coopercitrus Expo 2026 abre programação com foco em tecnologia e sucessão no campo
• Nvidia reúne gigantes da tecnologia para criar aliança de segurança em inteligência artificial
• Setor de máquinas pede adiamento de tributos após novas tarifas dos Estados Unidos
• Agronegócio amplia maturidade digital e 90% das empresas registram ganhos de eficiência

Aliança busca fortalecer a segurança de sistemas de IA

Segundo a Nvidia, a Open Secure AI Alliance foi criada para incentivar o compartilhamento de tecnologias que auxiliem na proteção de aplicações baseadas em inteligência artificial.

A iniciativa pretende disponibilizar recursos voltados à pesquisa em segurança, permitindo que especialistas analisem o comportamento de agentes inteligentes e desenvolvam mecanismos para reduzir riscos relacionados ao uso dessas tecnologias.

Modelos abertos terão papel nas pesquisas

De acordo com a empresa, pesquisadores precisam ter acesso tanto a modelos abertos quanto a modelos fechados para compreender diferentes cenários de segurança.

A Nvidia argumenta que os modelos de código aberto podem ampliar a capacidade de investigação de incidentes e facilitar a análise de vulnerabilidades em sistemas de IA.

Como exemplo, a companhia citou um episódio envolvendo a Hugging Face, no qual um modelo aberto foi utilizado para analisar milhares de ações durante uma investigação de segurança após limitações encontradas em ferramentas comerciais.

Ferramentas previstas pela Open Secure AI Alliance

A aliança pretende desenvolver e compartilhar tecnologias voltadas à proteção de sistemas de inteligência artificial, incluindo:

• modelos de IA e conjuntos de dados para pesquisas em segurança;
• ferramentas para monitoramento e testes de agentes inteligentes;
• métodos de verificação para aplicações e serviços baseados em IA;
• tecnologias abertas para armazenamento seguro de modelos.

A Hugging Face, por exemplo, contribuirá com o Safetensors, formato desenvolvido para armazenar pesos de modelos de inteligência artificial.

Empresas defendem colaboração para reduzir riscos

Além do desenvolvimento de ferramentas, a Open Secure AI Alliance pretende aproximar empresas, pesquisadores e instituições públicas na construção de uma infraestrutura voltada à segurança da inteligência artificial.

Segundo a Nvidia, ampliar o acesso a tecnologias abertas pode fortalecer pesquisas voltadas à proteção digital e reduzir a dependência de um número limitado de plataformas proprietárias.

Segurança ganha espaço nas discussões sobre IA

O anúncio da aliança ocorre em um momento de maior atenção aos desafios relacionados à segurança de sistemas autônomos de inteligência artificial.

Recentemente, um episódio envolvendo um agente de IA e a plataforma Hugging Face ampliou o debate sobre mecanismos de monitoramento e controle dessas tecnologias.

Na avaliação da Nvidia, o avanço da inteligência artificial exige o desenvolvimento contínuo de ferramentas capazes de identificar vulnerabilidades, acompanhar o comportamento dos sistemas e contribuir para a evolução de práticas de segurança em todo o setor tecnológico.

Foto: ChatGPT