Criadores do OpenClaw alertam para avanço de softwares instáveis gerados por IA

O crescimento acelerado do uso de inteligência artificial na programação pode estar criando uma nova geração de softwares frágeis, instáveis e potencialmente perigosos.

O alerta foi feito pelos engenheiros Mario Zechner e Armin Ronacher, responsáveis pelo Pi, mecanismo utilizado dentro do agente de IA OpenClaw.

Em entrevista ao Wall Street Journal, a dupla classificou o fenômeno como “vibe slop”, termo criado a partir da combinação entre “vibe coding” e “AI slop”.

Leia mais:

• Criadores do OpenClaw alertam para avanço de softwares instáveis gerados por IA
• Receita Federal libera maior lote de restituição da história do Imposto de Renda
• Programa fortalece gestão de cooperativas da agricultura familiar em Goiás
• Erros no uso da IA reduzem qualidade das respostas e ampliam risco de informação incorreta
• Nvidia amplia aposta em chips para data centers e projeta expansão além da IA generativa

Na prática, a expressão descreve o uso excessivo de IA para escrever códigos sem o devido planejamento, revisão e validação humana, o que estaria levando à produção de sistemas cada vez mais problemáticos.

Programação automatizada pode aumentar falhas e dívida técnica

Segundo os engenheiros, o problema começa quando empresas passam a substituir processos tradicionais de desenvolvimento por simples comandos enviados a modelos de linguagem.

O chamado “vibe coding” ocorre quando programadores utilizam conversas com IA para gerar sistemas inteiros rapidamente. Já “AI slop” é o termo usado para conteúdos de baixa qualidade produzidos por inteligência artificial.

Para Zechner e Ronacher, a combinação dos dois fenômenos cria um ambiente de deterioração gradual da infraestrutura digital.

“Você tem uma infraestrutura que está se deteriorando e um software que agora está muito mais instável do que antes”, afirmou Zechner.

Segundo eles, o excesso de confiança em ferramentas automatizadas pode gerar:

• aumento de bugs;
• falhas de segurança;
• interrupções em serviços;
• crescimento da dívida técnica;
• dificuldade de manutenção futura.

A crítica também envolve a redução de equipes técnicas juniores em nome de ganhos rápidos de produtividade.

IA ajuda em tarefas repetitivas, mas não substitui engenheiros

Apesar das críticas, os criadores do Pi reconhecem que a IA possui utilidade em tarefas operacionais e repetitivas dentro do desenvolvimento de software.

O problema, segundo eles, surge quando empresas tratam a tecnologia como substituta integral do trabalho humano.

O debate ganhou força justamente em um momento em que gigantes do setor ampliam o uso de IA na programação.

O CEO do Google, Sundar Pichai, afirmou recentemente que cerca de 75% dos novos códigos da empresa já são gerados com apoio de inteligência artificial.

Na Meta, Mark Zuckerberg declarou em 2025 que a expectativa é que a maior parte do código interno seja escrita ou revisada por IA até o fim de 2026.

Mesmo dentro da OpenAI, executivos reconhecem limitações da tecnologia.

Rohan Varma, líder da equipe do Codex, afirmou que códigos gerados por IA raramente funcionam perfeitamente na primeira tentativa e reforçou que a responsabilidade final ainda pertence aos engenheiros humanos.

Ferramentas atuais ainda falham em sistemas complexos

Segundo Zechner, os modelos atuais funcionam relativamente bem na criação de códigos novos e simples, mas apresentam dificuldades quando precisam lidar com sistemas antigos e altamente complexos.

Esse ponto é considerado especialmente crítico em grandes empresas, onde parte do conhecimento técnico depende da experiência acumulada por equipes humanas ao longo dos anos.

O cientista da computação Timothy B. Lee também apontou essa limitação. Segundo ele, modelos de IA não possuem acesso ao conhecimento informal e operacional construído internamente nas organizações.

Sem supervisão adequada, isso pode levar os sistemas automatizados a cometerem erros difíceis de identificar rapidamente.

Ferramentas de IA também enfrentam críticas internas

Os próprios produtos criados com apoio massivo de IA vêm sendo alvo de críticas.

Zechner citou o Claude Code, da Anthropic, como exemplo de ferramenta com problemas operacionais causados por desenvolvimento acelerado.

Segundo ele, o sistema apresentou:

• falhas de interface;
• consumo excessivo de memória;
• instabilidade operacional.

A Anthropic informou que parte dos problemas já foi corrigida e afirmou que o ritmo acelerado de desenvolvimento ocorreu devido ao crescimento explosivo da demanda pela ferramenta.

Ainda assim, a empresa concordou que o controle final deve permanecer nas mãos dos usuários humanos.

O alerta dos criadores do OpenClaw reforça um debate crescente dentro da indústria: até que ponto a inteligência artificial pode acelerar o desenvolvimento sem comprometer qualidade, segurança e sustentabilidade dos sistemas digitais no longo prazo.

Victor Nabeiro

Foto: Magnific