Processo Contra Aplicativo ‘Nudify’ da Meta Files Destrói IA por Anúncios em Plataformas

Crédito:Bryce Durbin / TechCrunch

A Meta entrou com uma ação judicial contra o criador do Crush AI, um aplicativo de “nudificação” com IA amplamente utilizado, que supostamente exibia milhares de anúncios nas plataformas da Meta. Além da ação judicial, a Meta anunciou novas medidas para coibir aplicativos semelhantes.

Um processo em Hong Kong acusa a Joy Timeline HK, criadora do Crush AI, de tentar burlar a revisão de anúncios da Meta para promover nudificação com IA. Segundo a Meta, mesmo após repetidas remoções, a empresa continuava enviando novos anúncios.

Anúncios Meta impulsionaram a ascensão do aplicativo deepfake com tecnologia de IA “Crush AI”, revela relatório

O Crush AI, app que gera nudes falsos com IA sem consentimento, teria veiculado mais de 8.000 anúncios nas plataformas da Meta nas duas primeiras semanas de 2025. Segundo Alexios Mantzarlis, 90% do tráfego do app vinha do Facebook e Instagram.

Para contornar o sistema de revisão de anúncios do Meta, o Crush AI teria criado dezenas de contas de anunciantes e alternado nomes de domínio com frequência. Muitas dessas contas, de acordo com Mantzarlis, eram chamadas de “Eraser Annyone’s Clothes” (Roupas de Borracha de Qualquer Pessoa), com números variados. Em determinado momento, a empresa chegou a operar uma página no Facebook para promover seus serviços.

O Facebook e o Instagram não são os únicos a enfrentar esses problemas. Com a adoção da IA generativa, plataformas como X e Meta enfrentam desafios para moderar seus impactos, especialmente na segurança de menores.

Plataformas lutam para conter aumento de aplicativos de despir com IA, apesar dos novos esforços de detecção

Em 2024, pesquisadores notaram um aumento de links para apps de nudificação com IA em X, Reddit e YouTube, com milhões expostos. Meta e TikTok bloquearam buscas por termos relacionados, mas a remoção total ainda é difícil.

A Meta anunciou nova tecnologia para detectar e remover anúncios de nudificação com IA, mesmo sem conteúdo explícito, usando correspondência avançada e ampliando palavras-chave e emojis sinalizados.

A Meta agora aplica suas táticas contra redes maliciosas para combater grupos que anunciam serviços de nudez com IA.
Desde o início de 2025, a empresa afirma ter desmantelado quatro dessas redes.

A Meta também vai compartilhar dados sobre apps de nudificação com IA via Lantern, programa da Tech Coalition que combate a exploração sexual infantil online.
Desde março, a Meta afirma ter contribuído com mais de 3.800 URLs exclusivas para esse esforço colaborativo.