Sistema Anti-IA da Meta falha quando fotos são editadas; entenda o problema
A Meta acaba de enfrentar um revés considerável com sua ferramenta de detecção de imagens geradas por inteligência artificial. Segundo testes realizados pela Reuters, o sistema não conseguiu identificar corretamente imagens criadas pelo modelo Muse Image quando elas passavam por simples edições de recorte.
O experimento envolveu 40 imagens totalmente geradas por IA. Inicialmente, o detector funcionou perfeitamente, reconhecendo 100% dos conteúdos artificiais. Porém, quando a Reuters cortou essas mesmas imagens — uma edição básica que qualquer usuário pode fazer — o sistema falhou em 55% dos casos, deixando de identificá-las como criação de máquina.
Como funciona a “marca d’água invisível” da Meta?
A ferramenta se baseia em um “Selo de Conteúdo”, basicamente uma marca d’água digital praticamente imperceptível inserida nas imagens geradas pelo Muse Image. Teoricamente, esse selo deveria sobreviver a modificações comuns em arquivos, como compressão ou mudanças de tamanho. Na prática, não é o que acontece.
Para o universo gamer e de criadores de conteúdo, isso representa um problema sério. Com ferramentas de IA gerando imagens cada vez mais realistas, a dificuldade em detectá-las após simples edições abre brechas para disseminação de desinformação, conteúdo falso e fraudes em plataformas de streaming e redes sociais.
A Meta ainda não se pronunciou oficialmente sobre as falhas encontradas nos testes, mas o caso reforça um debate importante na indústria: será que as ferramentas atuais conseguem realmente conter a proliferação de conteúdo artificial? Enquanto isso, criadores de conteúdo, streamers e plataformas continuam buscando soluções mais confiáveis para validar a autenticidade de imagens na internet.
Fonte: Voxel
