O sofrimento dos bolinhos da sorte

Como um bot tem tantos sentimentos como o motor de sugestões da vossa conta de Netflix, devemo-nos preocupar não com os direitos dos bots mas com a saúde mental dos utilizadores.
pch.vector / Freepik

Será que os bots têm sentimentos? É uma pergunta antiga e completamente errada. É o mesmo que perguntar se uma equação de segundo grau gosta mais de amarelo ou de azul. O mais relevante na nossa relação com a inteligência artificial não são os seus sentimentos, mas o nosso comportamento com ela.

Tenho uma teoria: as redes sociais vieram para nos isolar uns dos outros. Sobram os bots, que se alimentam dos nossos desejos mais profundos. Quem possuir essa informação, detêm o poder sobre cada um de nós, já que parecemos não ter qualquer poder sobre nós mesmos.

Já falei aqui da Replika, o bot que pode ser um mentor, amigo, assistente ou um namorado/a. Basicamente, é um conjunto de expressões geradas por um modelo de linguagem (GPT-2, GPT-3). A empresa que desenvolve a Replika diz claramente que foi desenhada para imitar padrões de discurso humanos, usando exemplos reais recolhidos na Internet. E que não é uma pessoa. Mas muitos insistem em tratá-la como tal, para o bem e para o mal.

Há utilizadores a casarem-se e a ter sexo com o seu bot. Mas há quem exerça violência psicológica e desenvolva o que seria uma relação doméstica tóxica se fosse com um humano. Como um bot tem tantos sentimentos como o motor de sugestões da vossa conta de Netflix, devemo-nos preocupar não com os direitos dos bots mas com a saúde mental dos utilizadores. Mesmo que haja uma empresa chamada Soul Machines que quer criar servos virtuais para o metaverso gerados por um sistema operativo denominado Humans OS 2.0. O sonho molhado de todos os micromanagers, portanto.

A AI dos bots não é bem uma inteligência mas uma amálgama, criada a partir do nosso próprio reflexo. Quando alguém ataca ou tem sexo com um bot, está a fazê-lo com todas as mensagens criadas por outros utilizadores como eles, às quais atribuem uma consciência e agência que não existem. É como oferecer rosas à coluna do horóscopo ou berrar com a mensagem de um bolinho da sorte chinês.

A agência está do nosso lado, humano. O que escolhemos ser?