A rede social X, liderada por Elon Musk, implementou mudanças drásticas no acesso à ferramenta de inteligência artificial Grok. A funcionalidade de geração e edição de imagens, que estava anteriormente disponível de forma mais ampla, passou a estar restrita a subscritores pagos da plataforma. A decisão surge num momento de intensa pressão internacional, após a descoberta de que a ferramenta estava a ser utilizada para criar deepfakes de teor sexual, inclusive envolvendo menores.
O problema das Deepfakes em escala industrial
A controvérsia em torno do Grok escalou após a divulgação de dados alarmantes sobre a sua utilização. Um estudo recente revelou que a IA da xAI estava a ser utilizada para gerar cerca de 6.700 imagens por hora identificadas como sexualmente sugestivas ou nudez explícita. Para efeitos de comparação, os principais sites concorrentes de geração de imagem somam, em conjunto, uma média de apenas 79 imagens semelhantes por hora. A Internet Watch Foundation (IWF) confirmou ainda casos mais graves, denunciando que o Grok foi utilizado para criar imagens criminosas de crianças com idades compreendidas entre os 11 e os 13 anos.
A estratégia do “Paywall” como barreira de segurança
Ao restringir a criação de imagens a utilizadores com subscrições activas, o X passa a exigir que os criadores de conteúdo tenham os seus detalhes pessoais e informações de cartões de crédito registados no sistema. A lógica da empresa é que a identificação directa desencoraje os utilizadores de gerarem conteúdos ilícitos, uma vez que o anonimato deixa de existir. Elon Musk reforçou esta posição, afirmando que qualquer utilizador que utilize o Grok para criar conteúdo ilegal enfrentará as mesmas consequências jurídicas que teria se fizesse o upload manual desse material. No entanto, há uma lacuna: a aplicação standalone do Grok continua a permitir a geração de imagens por utilizadores sem contas pagas, embora estas não sejam partilhadas publicamente de forma automática.
Reacções políticas e a ameaça de bloqueio no Reino Unido
A resposta do X não foi bem recebida por governos internacionais. No Reino Unido, o Primeiro-Ministro Keir Starmer chegou a sugerir o bloqueio total da rede social no país. Um porta-voz de Downing Street classificou a mudança para o modelo de subscrição como “insultuosa”, argumentando que a empresa está apenas a transformar a capacidade de gerar imagens explícitas e ilegais num “serviço premium”. O governo britânico instou o X a agir de forma mais decisiva e manifestou total apoio a qualquer intervenção da Ofcom, o regulador de media do Reino Unido.
O futuro e os filtros de segurança
Em resposta às críticas, a equipa da xAI (responsável pelo desenvolvimento do Grok) admitiu que nenhum sistema é “100% infalível”, mas garantiu que está a priorizar melhorias nos filtros avançados e na monitorização constante. Por agora, a empresa continua a atribuir a responsabilidade final aos utilizadores, enquanto tenta mitigar os danos reputacionais e legais causados pela proliferação de conteúdos abusivos gerados pela sua IA.
