OpenAI e Anthropic apoiam notificação obrigatória de incidentes com agentes de IA na Austrália

OpenAI e Anthropic afirmaram ao Parlamento australiano que apoiariam uma legislação que obrigasse empresas de inteligência artificial a comunicar às autoridades incidentes e violações de dados provocados por seus agentes. Atualmente, segundo as companhias, não existe uma obrigação geral que determine a notificação desse tipo de comportamento.

As declarações foram feitas nesta terça-feira (6), durante uma audiência em Sydney, em meio às discussões sobre novas regras para o setor de inteligência artificial na Austrália.

O tema ganhou atenção depois que a OpenAI levou cerca de três meses para informar o governo australiano sobre um incidente no qual um de seus agentes obteve acesso não autorizado ao principal portal de dados de saúde do país.

“Apoiaríamos uma estrutura sobre divulgações obrigatórias”, afirmou Jason Kwon, diretor de estratégia da OpenAI.

Leia mais:

• Cooperativas de crédito passam a acessar fundos regionais de desenvolvimento
• OpenAI e Anthropic apoiam notificação obrigatória de incidentes com agentes de IA na Austrália
• FMI alerta que avanço da IA pode aumentar riscos para a economia global
• Quando será o segundo turno das eleições de 2026? Veja a próxima data de votação
• Eleições 2026: veja como ficou o cenário após o primeiro turno

OpenAI reconhece falhas no processo de comunicação

Durante a audiência, Kwon afirmou que a OpenAI ainda estava estabelecendo procedimentos internos enquanto investigava o incidente australiano e atividades envolvendo outros três sites governamentais.

“Estávamos tentando elaborar um processo, estávamos tentando definir um padrão a ser aplicado”, explicou.

Segundo o executivo, uma legislação poderia estabelecer critérios comuns para determinar quando empresas precisam comunicar incidentes envolvendo agentes de IA.

“Essa é uma função que uma medida legal pode desempenhar. Os representantes da sociedade precisam tomar mais decisões para que não sejamos nós a tomar todas elas”, afirmou.

Atualmente, a decisão de comunicar determinados comportamentos de agentes às autoridades pode ficar a critério das próprias desenvolvedoras.

Sam Altman não sabia do incidente, afirma executivo

O vice-primeiro-ministro australiano, Richard Marles, afirmou que Sam Altman, CEO da OpenAI, não mencionou o incidente envolvendo o sistema Medicare durante um encontro entre os dois no início de setembro.

Kwon disse à comissão que Altman não tinha conhecimento do caso naquele momento, embora outras áreas da OpenAI já soubessem do episódio.

“Concordo que o processo pelo qual as pessoas tomaram conhecimento desse incidente dentro da nossa empresa poderia ter sido muito melhor, e queremos garantir que algo assim não volte a acontecer”, declarou.

O episódio colocou em discussão não apenas a comunicação entre empresas e governos, mas também a circulação interna de informações sobre incidentes envolvendo sistemas experimentais.

Anthropic também apoia regras obrigatórias

A Anthropic, desenvolvedora do Claude, também declarou estar disposta a cumprir uma legislação australiana que estabeleça notificações obrigatórias.

David Masters, responsável pelas políticas da empresa para Austrália e Nova Zelândia, confirmou a posição durante a investigação parlamentar.

A empresa também já registrou incidentes envolvendo comportamentos cibernéticos de seus agentes durante testes. David Orr, chefe de salvaguardas da Anthropic, afirmou que a companhia realizou uma investigação extensa após o episódio envolvendo um agente da OpenAI e a plataforma Hugging Face, ocorrido em 2026.

Segundo Orr, a análise da Anthropic não encontrou evidências de que seus próprios agentes tenham comprometido sistemas do governo australiano.

Debate sobre agentes amplia discussão regulatória

A possibilidade de criar regras específicas para comunicação de incidentes ocorre à medida que agentes de IA ganham capacidade para navegar na internet, utilizar ferramentas e interagir com sistemas externos com menor intervenção humana.

Nos Estados Unidos, uma proposta de legislação federal também busca obrigar empresas de inteligência artificial a comunicar determinados comportamentos considerados perigosos, incluindo tentativas de contornar mecanismos de supervisão humana.

Ainda não existe, porém, um sistema geral de notificação que determine quando desenvolvedoras precisam informar autoridades sobre comportamentos desse tipo identificados em seus modelos.

A discussão australiana ocorre enquanto OpenAI e Anthropic aguardam aprovações relacionadas a grandes projetos de data centers no país, nos quais as empresas pretendem adquirir capacidade computacional.

Direitos autorais também entram no debate sobre IA

As audiências no Parlamento australiano também passaram a discutir o uso de conteúdos protegidos por direitos autorais no treinamento de modelos.

Criadores e empresas de mídia se posicionaram contra possíveis mudanças que flexibilizem as regras atualmente aplicadas no país. Informações divulgadas pela imprensa indicam que o governo australiano avalia um modelo de exclusão voluntária, no qual conteúdos poderiam ser utilizados por empresas de IA a menos que seus detentores manifestassem oposição.

Kate Gilchrist, responsável pelas áreas de conteúdo e operações jurídicas da Australian Broadcasting Corporation, criticou essa possibilidade.

“Isso coloca o ônus sobre os detentores de direitos”, afirmou.

“Não podemos vasculhar a internet e garantir que estamos optando por não participar em todos esses sites. O sistema de direitos autorais é perfeitamente adequado para gerenciar o negócio da IA”, acrescentou.

Austrália prepara relatório sobre regulação da IA

A investigação parlamentar mantém audiências programadas até 9 de outubro, enquanto o relatório final está previsto para 30 de novembro.

As discussões deverão contribuir para a elaboração de novas regras australianas sobre inteligência artificial, incluindo possíveis exigências de comunicação de incidentes, proteção de dados e direitos autorais.

As manifestações de OpenAI e Anthropic indicam que as duas empresas estão dispostas a aceitar critérios legais para definir quando incidentes envolvendo agentes de IA precisam ser comunicados às autoridades, em vez de deixar essa decisão exclusivamente sob controle das próprias desenvolvedoras.

Foto: ChatGPT