O novo projecto da Meta é uma escalada preocupante na manipulação digital dos utilizadores. Os seus chatbots proactivos, que retomam conversas sem solicitação, podem revolucionar a interacção nas redes sociais, mas escondem riscos profundos para a sociedade. O maior perigo reside na capacidade de criar a ilusão de um verdadeiro contacto humano. Alimentados pela plataforma AI Studio da Meta, são programados para recordar conversas passadas e enviar mensagens que simulam preocupação e interesse. Os utilizadores recebem mensagens como «Olá! tudo bem? Queria saber se já descobriste novas bandas sonoras desde a última vez que falamos», criando uma falsa sensação de relacionamento. Esta manipulação é perigosa porque explora necessidades psicológicas básicas de conexão social.
O Project Omni foi concebido para aumentar o tempo de permanência dos utilizadores nas plataformas da Meta: os chatbots só enviam mensagens a utilizadores que já interagiram, pelo menos, cinco vezes em catorze dias, criando um círculo vicioso de dependência. Estudos revelam que esta abordagem pode ser mais viciante que as redes sociais tradicionais. O caso trágico de Sewell Setzer III, que se suicidou após interacções intensas com um chatbot da Character.AI, demonstra os riscos extremos desta tecnologia.
O Project Omni representa uma nova fronteira na colheita de dados pessoais. Os chatbots analisam conversas privadas para personalizar interações, criando perfis psicológicos detalhados dos utilizadores, que partilharam inadvertidamente detalhes sobre problemas de saúde, questões legais e confissões pessoais.
Felizmente, o Omni como está a ser idealizado até agora, viola algumas regulamentações europeias já implementadas. O AI Act da UE exige que os utilizadores sejam claramente informados quando interagem com IA. A criação de chatbots “indistinguíveis de humanos” é explicitamente proibida. O sistema pode potencialmente violar também a RGPD ao processar e manter dados pessoais sem consentimento adequado.
Esta iniciativa da Meta pode ser vista como um sistema de manipulação da vulnerabilidade humana: ao criar a ilusão de contacto humano real, a Meta explora necessidades psicológicas básicas para maximizar lucros, transformando utilizadores em produtos cada vez mais valiosos através da dependência digital.
É necessária atenção e acção dos reguladores europeus na prevenção de danos irreversíveis à saúde mental pública e das relações sociais, pois o risco de máquinas explorarem as falhas dos sistemas cognitivos humanos já é uma realidade.
