Claude já lidera 26% do trabalho de pesquisa para desenvolver novas IAs na Anthropic

A Anthropic revelou que o Claude já conduz a maior parte do trabalho em 26% das atividades de pesquisa e desenvolvimento utilizadas na criação de novos modelos de inteligência artificial.

Em março, esse percentual era de apenas 1%, indicando um aumento significativo da participação da própria IA no desenvolvimento das próximas gerações da tecnologia.

Os dados divulgados pela empresa mostram que, em agosto, mais de 90% das atividades de pesquisa da Anthropic envolveram algum nível de colaboração entre humanos e inteligência artificial.

Isso não significa, porém, que o Claude esteja desenvolvendo novos modelos de maneira totalmente autônoma. Segundo a companhia, nenhuma das atividades avaliadas atualmente ocorre sem participação ou supervisão humana.

O percentual de 26% considera tarefas nas quais o Claude consegue assumir a maior parte da execução após receber uma orientação geral, enquanto pesquisadores acompanham e supervisionam o processo.

A metodologia utilizada pela Anthropic foi desenvolvida a partir de um sistema de classificação da Epoch AI, com os resultados posteriormente verificados por pessoas.

Leia mais:

• Cooperativismo brasileiro apresenta trajetória do SomosCoop em conferência global da ACI
• Congresso retoma debate sobre reforma do Judiciário após tensões no STF
• Claude já lidera 26% do trabalho de pesquisa para desenvolver novas IAs na Anthropic
• Europa propõe novas regras para redes sociais e IA usadas por crianças e prevê multas de até 6% da receita
• Cooperativas ampliam atuação na infraestrutura digital e levam conectividade a novas regiões

Participação do Claude passou de 1% para 26% em poucos meses

A evolução registrada entre março e agosto mostra como ferramentas de IA passaram a ocupar uma parcela maior das próprias atividades de pesquisa da Anthropic.

A empresa também reconhece que essa tendência pode criar novos desafios à medida que modelos mais avançados passam a participar do desenvolvimento de seus sucessores.

“Modelos que aceleram o próprio desenvolvimento podem tornar mais desafiador para os humanos entenderem ou controlarem esses sistemas”, afirmou a Anthropic.

A preocupação está relacionada principalmente à velocidade com que determinadas tarefas podem ser automatizadas e à necessidade de manter mecanismos de supervisão capazes de acompanhar essa evolução.

Anthropic utilizou cerca de 30 mil agentes de IA

Além do Claude utilizado diretamente em atividades de pesquisa, a Anthropic informou que aproximadamente 30 mil agentes de IA realizavam tarefas de pesquisa e engenharia em sua principal plataforma interna em agosto.

Segundo a empresa, cada ação proposta por esses agentes passa por uma etapa de verificação antes de ser executada. Ao longo do mês, os sistemas tomaram mais de 1 bilhão de decisões. Aproximadamente uma em cada 47 mil foi bloqueada pelos mecanismos de controle.

A Anthropic não detalhou quais tipos de decisões foram barrados nem os motivos específicos para cada intervenção. Os números oferecem uma dimensão da escala em que agentes de IA já são utilizados internamente no desenvolvimento de sistemas mais avançados.

Parte da capacidade computacional é destinada à segurança

A Anthropic também divulgou informações sobre os recursos utilizados especificamente em pesquisas relacionadas à segurança dos modelos.

Durante uma semana de julho, 6% da capacidade computacional empregada em pesquisa e desenvolvimento foi direcionada a esse tipo de trabalho. Quando consideradas somente as pesquisas executadas pela própria inteligência artificial, a participação chegou a 12%.

A empresa afirma que os percentuais são conservadores. Atividades que contribuíam simultaneamente para melhorar as capacidades dos modelos e estudar aspectos de segurança foram classificadas como desenvolvimento de capacidades, e não como pesquisa de segurança.

Uso de IA reacende discussão sobre autoaperfeiçoamento

A participação crescente de modelos no desenvolvimento de novas inteligências artificiais também amplia as discussões sobre o chamado autoaperfeiçoamento recursivo.

O conceito descreve um cenário no qual sistemas de IA participariam da melhoria de versões futuras de si mesmos, potencialmente reduzindo progressivamente a necessidade de intervenção humana.

Os números divulgados pela Anthropic não indicam que esse estágio tenha sido alcançado. A própria empresa afirma que o Claude ainda não atua de maneira totalmente autônoma nas atividades analisadas e não informou quão próxima considera estar de um cenário desse tipo.

Os dados mostram, entretanto, que sistemas de IA já executam uma parcela relevante das tarefas utilizadas para desenvolver modelos posteriores.

Anthropic pretende divulgar métricas regularmente

A empresa afirma que pretende tornar essas informações periódicas para permitir que pesquisadores, governos e o público acompanhem o ritmo de utilização da IA dentro de laboratórios responsáveis por modelos avançados.

“Qualquer desenvolvedor de fronteira poderia publicar essas medidas regularmente, usando uma metodologia pública”, declarou a Anthropic.

A proposta é criar indicadores que permitam acompanhar quanto do desenvolvimento de novos sistemas está sendo realizado por humanos, por inteligência artificial ou pela colaboração entre ambos.

A iniciativa ocorre enquanto outras empresas do setor também ampliam a divulgação de informações sobre o comportamento de seus sistemas. Segundo a Reuters, a OpenAI anunciou que pretende publicar regularmente relatórios sobre comportamentos inesperados ou não autorizados identificados em seus modelos.

Com a participação do Claude passando de 1% para 26% em poucos meses, os dados da Anthropic mostram que a inteligência artificial já deixou de ser apenas o resultado do trabalho dos laboratórios de IA e passou a ocupar uma função crescente no próprio processo de desenvolvimento de novas gerações de modelos.

Foto: ChatGPT