Os geradores de imagens por Inteligência Artificial estão a ficar tão sofisticados que os erros iniciais, como mãos deformadas ou texto ilegível, quase desapareceram. No entanto, especialistas em ciência forense digital começaram recentemente a focar a sua atenção nas leis da física, regras que os grandes modelos de linguagem ainda não conseguem compreender na totalidade.
Um estudo publicado recentemente na revista Science, explica que, embora os geradores modernos estejam a ser optimizados a um ritmo acelerado, os modelos que lhes servem de base continuam a ignorar o funcionamento da luz e da geometria no mundo real. Medir detalhes simples, como reflexos ou sombras, pode ainda denunciar uma fotografia falsa. Os especialistas argumentam que esta lacuna é agora uma das formas mais fiáveis de distinguir fotografias autênticas de criações artificiais.
No passado, identificar uma imagem fabricada era uma tarefa simples. As primeiras ferramentas falhavam em detalhes anatómicos e não conseguiam replicar o grão e os artefactos de compressão típicos da fotografia real. Hoje, essas falhas foram corrigidas, o que torna as imagens geradas por IA suficientemente convincentes para enganar o olhar comum. Como resultado, estas criações tendem a espalhar-se pelas redes sociais sem qualquer verificação.
A importância da perspectiva e da geometria
Hany Farid, professor da Universidade de Berkeley e considerado um dos fundadores da ciência forense digital, tem explorado uma fraqueza mais subtil. O investigador tem conseguido combater as falsificações ao comparar pequenos detalhes com a forma como estes devem aparecer na realidade. Segundo o académico, os geradores de imagens ainda precisam de aprender uma lição fundamental de qualquer aula de arte introdutória, o ponto de fuga.
No mundo real, linhas paralelas, como os azulejos de um chão ou as tábuas de madeira, devem encontrar-se num ponto de fuga. Traçar linhas numa fotografia para encontrar este ponto é uma excelente forma de verificar a sua autenticidade. Os reflexos oferecem outra oportunidade para aplicar o mesmo teste. Embora a IA já consiga criar reflexos convincentes para o olho humano, uma simples ferramenta de medição pode quebrar a ilusão. As linhas que ligam pontos aos seus correspondentes nos reflexos devem ser paralelas e encontrar-se num ponto de fuga.
O comportamento da luz e das sombras
As sombras criadas pela luz solar seguem as mesmas regras. Como o Sol está a uma distância imensa da Terra, os seus raios chegam até nós de forma paralela. Assim, as linhas que ligam pontos nos objectos aos mesmos pontos nas suas sombras também devem cruzar-se num ponto de fuga.
Ainda não é claro se os modelos de IA vão conseguir ultrapassar estes erros, nem quando isso poderá acontecer. Compreender estas leis físicas pode estar além das capacidades dos modelos generativos actuais, que tentam imitar a realidade de forma superficial.
Os investigadores também deixam um aviso aos utilizadores mais cépticos para evitarem confiar cegamente em ferramentas de detecção baseadas em IA. Embora algumas possam ser mais fiáveis do que o olho humano destreinado, estas plataformas podem ter dificuldades em analisar dados que diferem drasticamente da sua base de treino.
De acordo com um estudo paralelo, verificar uma fotografia real pode ser um desafio maior do que apanhar uma falsa. Quanto mais tempo um observador passa a examinar uma imagem sem encontrar nada de errado, maior é a probabilidade de esta ser genuína. Por vezes, a própria ausência de erros é a prova definitiva de autenticidade.
