Uma vasta rede composta por mais de 400 aplicações e sites interligados foi exposta por operar um esquema focado na geração de imagens manipuladas, também conhecidas como deepfakes, de cariz sexual através de inteligência artificial. Esta operação levanta sérias questões sobre a forma como ferramentas abusivas conseguem infiltrar-se nas principais plataformas tecnológicas e chegar aos utilizadores comuns. Segundo uma investigação da WIRED, diversos programas disfarçaram a sua verdadeira natureza, apresentando-se como produtos inofensivos de edição digital, enquanto ocultavam funcionalidades capazes de fabricar fotografias falsas a partir de rostos de pessoas reais.
A operação estendeu-se de forma coordenada através das plataformas de publicidade da Meta, da App Store da Apple e do Google Play. As campanhas direccionavam os utilizadores para aplicações que pareciam cumprir todas as directrizes de segurança, mas que possuíam a capacidade de desbloquear funções perigosas. Embora as gigantes tecnológicas continuem a aplicar medidas punitivas contra os programas identificados, a investigação sugere que a simples remoção de listagens individuais não é suficiente para desmantelar a complexa infra-estrutura que sustenta a rede.
O mecanismo de evasão aos controlos
O sucesso desta infiltração deveu-se a uma estratégia técnica desenhada para enganar os processos de revisão das lojas virtuais. As aplicações não exibiam as suas funcionalidades abusivas durante a fase de avaliação da Apple e da Google. Em vez disso, os programadores utilizaram ligações a servidores remotos para controlar quais as ferramentas que apareciam a diferentes perfis de utilizadores. Alguns destes programas transmitiam informações detalhadas, como a localização geográfica e as definições de idioma, directamente para esses servidores externos.
Com base nestes dados recolhidos, a infra-estrutura remota determinava qual a interface a apresentar no ecrã do telemóvel. Esta técnica permitia que uma aplicação mostrasse funcionalidades normais de inteligência artificial aos revisores das lojas, enquanto expunha as ferramentas ocultas de manipulação de imagens a outros alvos específicos. Nalguns casos documentados, a simples instalação de uma aplicação após o clique num anúncio associado na rede da Meta desencadeava imediatamente a funcionalidade escondida.
Isto significa que os programas passavam incólumes durante o processo de aprovação inicial, mas alteravam a sua conduta assim que chegavam aos dispositivos finais. Permanece desconhecida a forma exacta como os sistemas de verificação falharam na detecção do código que especificava este comportamento pós-instalação, bem como o método utilizado para alterar componentes do software sem forçar uma nova verificação obrigatória.
A infra-estrutura partilhada e as origens da rede
A análise aprofundada revelou a existência de código partilhado e de uma base técnica comum que liga centenas destas aplicações e sites. As investigações descobriram que os programas estavam directamente ligados a programadores chineses e à KeLing Technology Limited, uma empresa sediada em Hong Kong. Após a divulgação do relatório, a empresa cortou imediatamente os laços com as aplicações envolvidas.
Este nível de sofisticação demonstra que não se trata de incidentes isolados, mas sim de uma operação altamente estruturada. O escrutínio sobre o comportamento de ferramentas baseadas em algoritmos generativos aumenta a nível global, num contexto em que até os Estados Unidos banem a utilização da inteligência artificial DeepSeek nas agências federais por receios de segurança. A proliferação destas redes sublinha a urgência de uma supervisão mais rigorosa.
As reacções das gigantes tecnológicas
Tanto a Apple como a Google defenderam os seus processos de revisão, sublinhando as medidas tomadas contra os responsáveis pela distribuição destas aplicações abusivas. A Apple atribuiu o problema à acção deliberada dos programadores, que alteraram a funcionalidade dos programas após a aprovação oficial, substituindo o conteúdo revisto por material explícito obtido a partir de sites externos.
Por sua vez, a Google informou a Android Authority que as aplicações identificadas na investigação da WIRED já tinham sido removidas proactivamente da loja Google Play antes da publicação da investigação. A empresa suspendeu também centenas de outras aplicações por violação directa das suas políticas internas. Dan Jackson, porta-voz da Google, clarificou que a empresa proíbe estritamente qualquer software que contenha conteúdo sexual ou que permita aos utilizadores manipular imagens íntimas de pessoas.
Apesar destas acções de fiscalização mostrarem um esforço contínuo para limpar as lojas virtuais, a eficácia do modelo actual levanta dúvidas. A dependência exclusiva das garantias dadas pelas lojas de aplicações já não é suficiente. Os utilizadores precisam de manter um nível elevado de vigilância e devem denunciar qualquer software que oculte a sua verdadeira função através de anúncios no Facebook e no Instagram.
