Reino Unido cria plano para conter a propagação de deepfakes

O governo do Reino Unido anunciou o desenvolvimento de um enquadramento de detecção de deepfakes inédito a nível mundial, numa tentativa de conter a propagação cada vez maior de imagens e vídeos manipulados. Esta iniciativa, liderada pelo Home Office (Ministério do Interior), surge como uma resposta directa ao uso criminoso de Inteligência Artificial (IA) generativa para fins de assédio, exploração sexual e desinformação, estabelecendo um novo paradigma na regulação técnica de conteúdos sintéticos.

A urgência desta medida é sustentada por dados estatísticos alarmantes. Segundo estimativas oficiais, a escala do problema teve um crescimento exponencial: em 2023, foram contabilizadas cerca de 500 mil imagens deepfake partilhadas online; em 2025, esse número disparou para os oito milhões. Este aumento de 1500% em apenas dois anos reflecte a democratização de ferramentas de IA sofisticadas que, embora tenham aplicações legítimas no cinema e na educação, estão a ser exploradas em larga escala por agentes maliciosos.

A facilidade de acesso a modelos de difusão e redes adversárias generativas (GAN) permite agora que utilizadores com conhecimentos técnicos mínimos gerem conteúdos degradantes e hiper-realistas. Para as vítimas, o impacto é devastador, resultando em danos psicológicos e reputacionais permanentes, exacerbados pela dificuldade técnica em remover este material uma vez que entra nos circuitos de distribuição digital.

O novo enquadramento britânico não será desenvolvido isoladamente. O projecto prevê uma colaboração estreita entre departamentos governamentais, investigadores académicos e gigantes do sector tecnológico, com a Microsoft já confirmada como um dos parceiros estratégicos. O objectivo transcende a mera criação de algoritmos de detecção; pretende-se estabelecer normas técnicas comuns e expectativas claras sobre como as plataformas devem identificar e responder a conteúdos manipulados.

Ao clarificar as responsabilidades da indústria, os reguladores esperam fechar as lacunas legais e técnicas que têm permitido a circulação impune de conteúdos nocivos. Jess Phillips, secretária de Estado para a Salvaguarda, sublinhou que a estrutura visa “perseguir as tácticas de criminosos vis” e responsabilizar as empresas tecnológicas pela segurança dos seus ecossistemas.

O anúncio coincide com um período de escrutínio mais intenso sobre a rede social X (anteriormente Twitter). A plataforma de Elon Musk está sob investigação formal pela Ofcom e pela autoridade de protecção de dados do Reino Unido, depois de o chatbot de IA, Grok, ter sido utilizado para gerar imagens sexuais explícitas sem consentimento.

A pressão sobre a X é transnacional. A Comissão Europeia mantém investigações abertas e, recentemente, as autoridades francesas realizaram buscas nos escritórios da empresa em França, no âmbito de inquéritos sobre a partilha de material de abuso sexual infantil e deepfakes. Estes incidentes demonstram que a inovação tecnológica nas ferramentas de IA está a ultrapassar a capacidade de resposta dos mecanismos de moderação existentes nas redes sociais.

Apesar do optimismo das autoridades policiais, que vêem nesta estrutura uma ferramenta essencial para acompanhar a evolução do crime digital, especialistas alertam que a detecção é apenas uma parte da solução. A eficácia real dependerá da agilidade dos processos de remoção, do endurecimento das sanções penais e, crucialmente, da cooperação internacional, dado que o tráfego de dados e o alojamento de conteúdos ignoram fronteiras geográficas.

O enquadramento do Reino Unido poderá servir de modelo para outras jurisdições, definindo se o futuro da IA será pautado pela segurança do utilizador ou se continuará a ser um “Velho Oeste” digital onde a manipulação da realidade é a norma.