O YouTube anunciou a expansão de sua ferramenta de detecção de deepfakes criados com inteligência artificial para todos os usuários maiores de 18 anos. A novidade foi divulgada em comunicado publicado no fórum oficial da plataforma voltado a criadores de conteúdo.
Com a ampliação, qualquer pessoa adulta poderá utilizar o sistema para identificar vídeos manipulados que utilizem sua imagem sem autorização dentro da plataforma.
A medida faz parte do movimento do YouTube para reforçar mecanismos de combate a fraudes, golpes e desinformação envolvendo conteúdos gerados por IA.
Leia mais:
- Nvidia negocia investimento de até US$ 3 bilhões em infraestrutura ligada ao Stargate
- Jornais franceses questionam resumos de IA do Google por possível perda de audiência
- Anthropic prepara marca invisível para identificar conteúdos produzidos pelo Claude
- Agente de IA explora falha em sistema de academia para avançar usuário em lista de espera
- Sistema OCB e MGI discutem modernização da regularização ambiental e fundiária no campo
Ferramenta usa selfie para identificar uso indevido da imagem
O sistema funciona por meio de uma verificação facial realizada pelo próprio usuário, semelhante a uma selfie.
A partir dessa digitalização, a plataforma cria um padrão de reconhecimento facial capaz de monitorar vídeos publicados no YouTube em busca de possíveis correspondências com rostos manipulados artificialmente.
Quando o sistema encontra um conteúdo suspeito, o usuário recebe uma notificação e pode solicitar a remoção do material.
Segundo o YouTube, a ferramenta atua especificamente na identificação de imagens faciais alteradas por IA e não inclui, neste momento, análise de clonagem de voz.
Expansão ocorreu após fase de testes com criadores e autoridades
O recurso começou a ser testado inicialmente com criadores de conteúdo da plataforma. Depois, foi ampliado para grupos considerados mais vulneráveis ao uso indevido de imagem, incluindo:
- jornalistas;
- políticos;
- autoridades públicas;
- profissionais da indústria do entretenimento.
Agora, o acesso passa a ser liberado para todos os usuários adultos da plataforma.
A expansão acontece em meio ao crescimento das preocupações envolvendo deepfakes, tecnologia capaz de criar vídeos altamente realistas utilizando inteligência artificial para reproduzir rostos e expressões de pessoas reais.
Especialistas alertam que esse tipo de conteúdo já vem sendo utilizado em:
- fraudes digitais;
- golpes financeiros;
- campanhas de desinformação;
- assédio virtual;
- conteúdos falsos envolvendo celebridades e adolescentes.
Pedidos de remoção passarão por análise da plataforma
O YouTube informou que os pedidos de remoção serão avaliados com base em suas políticas de privacidade e autenticidade.
Entre os critérios considerados pela plataforma estão:
- o grau de realismo do vídeo;
- a possibilidade de identificar claramente a pessoa retratada;
- a indicação de que o conteúdo foi gerado por IA;
- o contexto da publicação.
A empresa afirmou que conteúdos de sátira, humor ou paródia poderão receber tratamento diferente durante a análise.
Além disso, usuários poderão sair do programa quando desejarem e solicitar a exclusão de seus dados faciais armazenados pelo sistema.
No comunicado oficial, o porta-voz Jack Malon afirmou que a proposta é ampliar a proteção de todos os usuários, independentemente do tamanho de seus canais.
“Com essa expansão, estamos deixando claro que, independentemente de os criadores estarem publicando conteúdo no YouTube há uma década ou estarem apenas começando, eles terão acesso ao mesmo nível de proteção”, declarou.
Newsletter Corporis Brasil
Cadastre-se e receba direto no seu e-mail as principais notícias sobre tecnologia, inovação e tendências digitais que estão transformando negócios e carreiras. Saiba mais sobre soluções inteligentes, novas ferramentas e avanços que impactam o mercado.
Foto: Magnific
