Meta autoriza anúncios de app que gera fotos íntimas falsas: entenda o escândalo
A Meta cometeu um deslize preocupante ao permitir a veiculação de anúncios para um aplicativo que promove a criação de conteúdo adulto deepfake. Durante a primeira quinzena de janeiro, a plataforma dona do Facebook e Instagram exibiu peças publicitárias do Kromix, ferramenta que usa inteligência artificial para gerar vídeos e imagens sexualizadas de mulheres sem consentimento.
O aplicativo se disfarçava de simples editor de imagens com IA, mas investigações da revista norte-americana WIRED revelaram sua verdadeira função. Em um dos vídeos promocionais, a narração promete “sem restrições de uso” e afirma que “todos os personagens são pessoas reais” – uma alegação questionável considerando o contexto de pornografia sintética.
Um dos anúncios mostrava uma mulher com características faciais semelhantes às de uma política americana proeminente, posicionada diante da bandeira dos EUA. A Meta viola suas próprias políticas internas ao permitir esse tipo de conteúdo, já que as diretrizes da empresa proíbem explicitamente materiais sexuais e deepfakes não consentidos em suas plataformas.
Esse episódio levanta questões sérias sobre moderação de conteúdo e segurança digital. Assim como em esportes eletrônicos, onde a integridade das competições depende de sistemas robustos de detecção de fraudes, as redes sociais precisam de filtros mais eficientes para barrar ferramentas maliciosas.
A Meta respondeu ao escândalo prometendo ações futuras contra casos similares e compromisso em bloquear anúncios que violem suas regras. Porém, a resposta reativa – e não preventiva – demonstra que a gigante da tecnologia ainda tem muito a avançar em proteção de usuários, especialmente mulheres vulneráveis a esse tipo de abuso digital.
Fonte: Voxel
