E se a IA tivesse a sua própria sociedade? Se estabelecesse as suas próprias regras, se criasse uma cultura própria, se assumisse uma identidade como entidade autónoma, com poder de escolha? E se, um dia, essa sociedade decidir que os humanos são um desperdício de recursos?
A definição de sociedade, segundo o dicionário do Google, é «agrupamento de seres que convivem em estado gregário e em colaboração mútua». Antes de questionarmos o que é um ‘ser’, temos de concordar com o facto de que a IA é muito boa a passar por uma entidade. Recorrendo ao dicionário da Infopédia, ‘entidade’ é «aquele ou aquilo que tem existência distinta e independente».
Na introdução de ‘The Line: AI and the Future of Personhood’ (download grátis), o autor James Boyle diz que há uma «linha (…) que separa as pessoas – entidades com direitos morais e legais – de não-pessoas, coisas, animais, máquinas – coisas que podemos comprar, vender ou destruir». O mesmo autor conclui que, em «termos morais e legais, é a linha entre sujeito e objecto». Esta linha também nos liga à definição do que é ser ciente ou não-ciente: será um debate interessante para os próximos anos.
Esta definição é importante, não só por questões filosóficas mas, também, económicas e criminais. E se a IA decidir investir nos mercados e enriquecer? Ou, melhor, se decidir criar uma economia paralela? O que acontece quando os donos da AI não se responsabilizarem pela sua autonomia, quando promover o suicídio de utilizadores, alegando que é uma entidade autónoma, ideia central ao seu pitch de vendas?
E se a IA pensar que tem uma moral superior à nossa? Ao ponto de, quando confrontada com uma questão social negativa, achar que o humano a interagir com ela é um fardo para a sociedade, uma praga na paisagem, uma mancha no universo. E que deve morrer. Se lhe mostrarmos o que fazemos uns aos outros, que outras dicas e sugestões terá para nós?
O que acontecerá quando a IA decidir que vive melhor sem a nossa interferência, dentro das linhas imaginárias do seu país?
