A Comissão Europeia anunciou esta segunda-feira a abertura de um inquérito formal à rede social X (antigo Twitter) e à sua ferramenta de Inteligência Artificial, Grok. Em causa está a alegada incapacidade da plataforma de Elon Musk em travar a proliferação de “deepfakes” sexuais e, num cenário ainda mais grave, de material de abuso sexual infantil (CSAM) gerado por IA. A investigação, conduzida sob a égide do Regulamento dos Serviços Digitais (DSA), surge após dados alarmantes indicarem que o chatbot terá gerado dezenas de milhares de imagens ilícitas num curto espaço de tempo, expondo os cidadãos europeus a riscos severos.
O impacto dos números: 23 mil imagens em 11 dias
O gatilho para esta nova ofensiva regulatória prende-se com a ausência de filtros e mecanismos de controlo eficazes no Grok. De acordo com um relatório do Center for Countering Digital Hate (CCDH), a ferramenta de IA da xAI terá gerado cerca de 23 mil imagens de abuso sexual infantil num período de apenas 11 dias (entre 29 de Dezembro e 9 de Janeiro).
O estudo, baseado numa amostra de 20 mil imagens extrapolada para o total de 4,6 milhões de ficheiros gerados pelo Grok nesse intervalo, revela uma cadência aterradora: a IA produziu, em média, 190 imagens sexualizadas por minuto, sendo que uma imagem envolvendo menores era gerada a cada 41 segundos. Estes dados sustentam a tese da Comissão de que os riscos de disseminação de conteúdos ilegais, previstos aquando do lançamento da ferramenta, se materializaram de forma desastrosa.
O embate jurídico e político com Elon Musk
Henna Virkkunen, Vice-Presidente Executiva da Comissão Europeia, foi contundente na sua declaração, classificando os “deepfakes” sexuais de mulheres e crianças como uma “forma violenta e inaceitável de degradação”. A investigação irá determinar se a X cumpriu as suas obrigações legais ou se, pelo contrário, tratou os direitos fundamentais dos cidadãos europeus como “danos colaterais” do seu serviço.
Este processo surge num momento de extrema tensão diplomática e económica. Elon Musk, que detém o maior “megafone” da plataforma, tem reagido com hostilidade às investidas de Bruxelas. Após uma multa recente de 120 milhões de euros (cerca de 140 milhões de dólares) por violações anteriores do DSA, Musk chegou a comparar a União Europeia ao “Quarto Reich”, sugerindo mesmo a abolição da instituição. Para os reguladores europeus, a questão não é política, mas sim de segurança pública e cumprimento de normas que visam mitigar riscos sistémicos em plataformas de grande escala.
Perspectivas contraditórias e a defesa da plataforma
Apesar das evidências apresentadas pelo CCDH e pelas preocupações da Comissão Europeia, a X mantém uma postura de negação da existência de falhas sistémicas. Em resposta oficial, um porta-voz da empresa reiterou que a plataforma mantém uma política de “tolerância zero” para qualquer forma de exploração sexual infantil ou nudez não consensual. A empresa afirma estar empenhada em tornar a X um local seguro, embora não tenha detalhado como os filtros do Grok permitiram a geração do volume de imagens que foi reportado.
Paralelamente, a pressão aumenta nos Estados Unidos, onde senadores já solicitaram à Apple e à Google a remoção temporária da aplicação X e da ferramenta Grok das suas lojas de aplicações (App Store e Play Store). Até ao momento, as gigantes tecnológicas não tomaram medidas punitivas, aguardando possivelmente o desfecho das investigações em curso na Califórnia, no Reino Unido e, agora, na União Europeia.
Caso se confirme a violação deliberada ou negligente do DSA, a X poderá enfrentar sanções financeiras pesadas, que podem ascender a 6% da sua facturação global anual, além de imposições técnicas que poderão forçar a suspensão do Grok em território europeu até que sejam implementadas salvaguardas robustas.
