O avanço da inteligência artificial trouxe ferramentas impressionantes, mas também abriu espaço para usos preocupantes. Um exemplo disso são os apps que utilizam IA para remover roupas de fotos, que já estão disponíveis em lojas oficiais como a Google Play Store e a Apple App Store.
Esses aplicativos, muitas vezes disfarçados como editores de imagem, permitem criar imagens íntimas falsas a partir de fotos comuns. Segundo um relatório do Tech Transparency Project, essas ferramentas passaram pela moderação das plataformas e alcançaram milhões de downloads, levantando sérias preocupações sobre privacidade e segurança digital.
O problema se agrava quando consideramos que muitos desses apps estão acessíveis a menores de idade, evidenciando falhas importantes nos sistemas de controle das Big Techs.
O relatório da TTP e os números preocupantes
O estudo do Tech Transparency Project revela a dimensão do problema. Aplicativos com esse tipo de funcionalidade já ultrapassaram 500 milhões de downloads nas lojas digitais.
Além disso, essas plataformas geraram cerca de US$ 122 milhões (cerca de R$ 609 mi) em receita, mostrando que existe um mercado lucrativo baseado na exploração de imagens manipuladas.
Esse cenário expõe fragilidades na segurança na Google Play Store e também nos processos da Apple, que deveriam impedir a distribuição de apps com alto potencial de abuso.
Aplicativos “Livre para todos”
Um dos pontos mais críticos é a classificação etária inadequada. Muitos desses aplicativos foram liberados como apropriados para crianças e adolescentes, mesmo oferecendo recursos claramente sensíveis.
Na prática, isso permite que jovens tenham acesso fácil a ferramentas capazes de gerar deepfakes na Play Store, sem qualquer tipo de barreira eficaz.
Esse tipo de falha amplia riscos como assédio digital, exposição indevida e uso malicioso de imagens de terceiros.
Como funcionam esses apps de IA
Esses aplicativos utilizam modelos de aprendizado de máquina para analisar imagens e gerar versões manipuladas com aparência realista. Em poucos segundos, uma foto comum pode ser transformada em conteúdo falso de caráter íntimo.
É importante diferenciar essas ferramentas de soluções legítimas, como o Magic Editor, que possuem limitações técnicas e diretrizes claras para evitar abusos.
Já os aplicativos problemáticos costumam operar sem controles adequados. Em geral, eles:
Permitem uso de imagens sem consentimento
Aceitam fotos de terceiros sem verificação
Não possuem filtros eficazes de conteúdo
Ignoram mecanismos de denúncia
Esse conjunto de fatores torna essas ferramentas altamente suscetíveis a uso indevido.
Reação das Big Techs e pressão regulatória
Após a repercussão do relatório, Google e Apple começaram a remover alguns desses aplicativos. No entanto, a resposta foi considerada tardia por especialistas.
A principal crítica está na falta de prevenção. Ou seja, os apps conseguem entrar nas lojas e alcançar grande escala antes de qualquer ação ser tomada.
No cenário internacional, governos já discutem medidas mais rígidas. O Reino Unido, por exemplo, avalia restrições ao uso de tecnologias de deepfake, especialmente quando envolvem conteúdo íntimo sem consentimento.
Isso indica que a regulação pode se tornar mais comum caso as plataformas não consigam conter o problema.
Conclusão: O desafio da moderação na era da inteligência artificial
A presença desses aplicativos nas principais lojas digitais mostra que os sistemas atuais de moderação não estão preparados para lidar com os desafios da inteligência artificial.
Para usuários, especialmente pais e responsáveis, é essencial acompanhar os aplicativos instalados e orientar o uso consciente da tecnologia.
Para empresas como Google e Apple, o momento exige mudanças mais profundas. Melhorar os processos de aprovação, investir em detecção mais eficiente e assumir maior responsabilidade são passos fundamentais.
A tecnologia continua avançando rapidamente. A segurança precisa acompanhar esse ritmo.
Ignorar esse problema não é mais uma opção.
