A Nvidia anunciou a criação da Open Secure AI Alliance (OSAA), iniciativa que reúne grandes empresas de tecnologia para desenvolver ferramentas abertas voltadas à segurança de sistemas de inteligência artificial. A proposta é ampliar a colaboração entre organizações, pesquisadores e desenvolvedores na identificação de vulnerabilidades e na resposta a novas ameaças digitais.
Entre os participantes da aliança estão empresas como Microsoft, Dell, IBM, HPE, Red Hat, Adobe, Hugging Face e SpaceXAI.
Leia mais:
- Ganhos da IA podem deixar jovens para trás, alertam FMI e OCDE
- Teto do MEI sobe para R$ 140 mil: o que muda para quem contrata
- Cooperativas de crédito chegam a 1.072 municípios sem agência bancária
- Projeto na Câmara cria regras para o trabalho cooperado em home care
- IA nas cooperativas: 6 em cada 10 já usam, mas só 9,4% têm política
Aliança busca fortalecer a segurança de sistemas de IA
Segundo a Nvidia, a Open Secure AI Alliance foi criada para incentivar o compartilhamento de tecnologias que auxiliem na proteção de aplicações baseadas em inteligência artificial.
A iniciativa pretende disponibilizar recursos voltados à pesquisa em segurança, permitindo que especialistas analisem o comportamento de agentes inteligentes e desenvolvam mecanismos para reduzir riscos relacionados ao uso dessas tecnologias.
Modelos abertos terão papel nas pesquisas
De acordo com a empresa, pesquisadores precisam ter acesso tanto a modelos abertos quanto a modelos fechados para compreender diferentes cenários de segurança.
A Nvidia argumenta que os modelos de código aberto podem ampliar a capacidade de investigação de incidentes e facilitar a análise de vulnerabilidades em sistemas de IA.
Como exemplo, a companhia citou um episódio envolvendo a Hugging Face, no qual um modelo aberto foi utilizado para analisar milhares de ações durante uma investigação de segurança após limitações encontradas em ferramentas comerciais.
Ferramentas previstas pela Open Secure AI Alliance
A aliança pretende desenvolver e compartilhar tecnologias voltadas à proteção de sistemas de inteligência artificial, incluindo:
- modelos de IA e conjuntos de dados para pesquisas em segurança;
- ferramentas para monitoramento e testes de agentes inteligentes;
- métodos de verificação para aplicações e serviços baseados em IA;
- tecnologias abertas para armazenamento seguro de modelos.
A Hugging Face, por exemplo, contribuirá com o Safetensors, formato desenvolvido para armazenar pesos de modelos de inteligência artificial.
Empresas defendem colaboração para reduzir riscos
Além do desenvolvimento de ferramentas, a Open Secure AI Alliance pretende aproximar empresas, pesquisadores e instituições públicas na construção de uma infraestrutura voltada à segurança da inteligência artificial.
Segundo a Nvidia, ampliar o acesso a tecnologias abertas pode fortalecer pesquisas voltadas à proteção digital e reduzir a dependência de um número limitado de plataformas proprietárias.
Segurança ganha espaço nas discussões sobre IA
O anúncio da aliança ocorre em um momento de maior atenção aos desafios relacionados à segurança de sistemas autônomos de inteligência artificial.
Recentemente, um episódio envolvendo um agente de IA e a plataforma Hugging Face ampliou o debate sobre mecanismos de monitoramento e controle dessas tecnologias.
Na avaliação da Nvidia, o avanço da inteligência artificial exige o desenvolvimento contínuo de ferramentas capazes de identificar vulnerabilidades, acompanhar o comportamento dos sistemas e contribuir para a evolução de práticas de segurança em todo o setor tecnológico.
Newsletter Corporis Brasil
Cadastre-se e receba direto no seu e-mail as principais notícias sobre tecnologia, inovação e tendências digitais que estão transformando negócios e carreiras. Saiba mais sobre soluções inteligentes, novas ferramentas e avanços que impactam o mercado.
Foto: ChatGPT
