A Google actualizou a aplicação Gemini para detectar se uma imagem foi gerada ou editada com recurso a IA. No entanto, a ressalva é que a nova funcionalidade funciona actualmente apenas para imagens geradas ou editadas com a IA da Google. O sistema que faz funcionar detector de imagens de IA do Gemini é o SynthID, uma tecnologia de marca de água digital que a Google apresentou em 2023. O SynthID incorpora sinais imperceptíveis no conteúdo gerado por IA que permanecem intactos mesmo se a imagem for modificada.
A Google tem vindo a testar a tecnologia através de um portal de verificação SynthID Detector, que foi disponibilizado a jornalistas, investigadores e profissionais dos média no início deste ano. Este consegue identificar conteúdo gerado por IA em diferentes modalidades e realçar as partes com maior probabilidade de estarem marcadas com o SynthID.
A gigante das pesquisas também adicionou suporte para o SynthID à ferramenta de IA generativa Reimagine no Magic Editor. Posto isto, pode confirmar rapidamente se uma imagem que carregou na aplicação Gemini foi gerada utilizando a IA da Google, fazendo perguntas como: “Isto foi criado com a IA da Google?” ou “Isto é gerado por IA?”. O chatbot verifica a marca de água SynthID na imagem que carregou e utiliza as suas capacidades de raciocínio para fornecer uma resposta que acrescente mais contexto à imagem. Futuramente, a Google utilizará a ferramenta de verificação SynthID para suportar mais tipos de conteúdo, incluindo áudio e vídeo, e integrará a funcionalidade na Pesquisa Google e noutros serviços.
Não é apenas a Google; a ameaça crescente de conteúdo gerado por IA que induz em erro e engana os utilizadores despertou outras empresas tecnológicas. A Google é membro do comité directivo da Coalition for Content Provenance and Authenticity (C2PA), que também inclui a Adobe, a OpenAI, a Meta, a Microsoft, entre outras.
Enquanto o SynthID é um esforço proprietário da Google, a C2PA é uma norma aberta que anexa metadados seguros a imagens, áudio ou vídeo. A Adobe também desenvolveu a sua própria ferramenta de marca d’água digital baseada nas credenciais C2PA.
A Google diz que o seu recém-lançado modelo de geração de imagem Nano Banana Pro vai integrar metadados C2PA no conteúdo gerado na aplicação Gemini, Vertex AI e Google Ads. A Google implementou credenciais C2PA em produtos como o YouTube, Pesquisa, Pixel e Fotos.
Adicionar credenciais de conteúdo C2PA às ferramentas de verificação no futuro permitirá aos utilizadores “verificar a fonte original do conteúdo criado por modelos e produtos que existem fora do ecossistema da Google”, afirmou a empresa.
