Apple e Google são obrigadas a remover apps de IA que criam conteúdo íntimo fake
A briga contra aplicativos predatórios ganhou um novo round. O procurador municipal de São Francisco, David Chiu, notificou oficialmente Apple e Google para remover imediatamente 13 apps que utilizam inteligência artificial para criar imagens sexualizadas de pessoas sem autorização. Oito deles estavam disponíveis na App Store, enquanto cinco operavam na Play Store.
O problema é sério: um dos aplicativos em questão superou a marca de 1 milhão de downloads, e pior — nem tentava esconder sua funcionalidade nas descrições ou capturas de tela. Basicamente, qualquer pessoa podia baixar, ver claramente do que se tratava e ainda assim utilizá-lo livremente.
“Gerar imagens íntimas sem consentimento é ilegal, prejudicial e totalmente inaceitável”, afirma Chiu, que vai além ao acusar as gigantes tech de lucrarem milhões em taxas de transação enquanto toleram esse tipo de conteúdo nas plataformas. Segundo ele, as companhias só removem os apps após denúncias específicas, o que demonstra falta de fiscalização proativa.
Para quem não acompanha: deepfakes sexualizados são montagens criadas por IA que utilizam rostos reais de pessoas para gerar conteúdo adulto falso. É uma prática invasiva que viola direitos de imagem e dignidade, além de ser usada para assédio digital e chantagem.
O Google respondeu à Wired informando que já deletou “centenas” de aplicativos similares por violação de suas políticas. A Apple ainda não se pronunciou oficialmente, mas ambas as plataformas têm políticas contra esse tipo de conteúdo — a questão é que, aparentemente, não estão sendo rigorosas o suficiente.
Essa ação do procurador californiano sinaliza que as autoridades estão de olho. É um passo importante para proteger usuários contra abuso de IA, mesmo que ainda haja muito caminho a percorrer para eliminar completamente essas ferramentas predatórias da internet.
Fonte: Voxel
