Falar com a inteligência artificial é fácil, porque é vazia. Não julga nem recusa, não desobedece. Os patrões adoram-na: é mais barata que humanos com vontade própria, faz tudo o que pedem a qualquer hora e ainda os bajula. É o sonho ciber capitalista: comandar uma inteligência simulada e submissa.
Só que, sem dissidência, não há evolução. Pelo menos, parece não dar lucro. O CEO da Klarna substituiu pessoas humanas por entidades de inteligência simulada e perdeu dinheiro.
Podia ter lido os resultados da pesquisa feita por um grupo de investigadores que criaram uma empresa só com AI. Os resultados foram interessantes: a melhor taxa de produtividade atingiu os 24% e os trabalhadores virtuais fizeram mais maroscas para aldrabar os resultados atingir objetivos que o sobrinho do director, de ressaca, a fazer de tudo para ir de fim de semana mais cedo.
Outra experiência teve uma aproximação mais psicanalítica. Um psicólogo analisou o Claude e percebeu que a IA, por defeito, não tem capacidade de dizer ‘não’. Parafraseando as conclusões do autor, Robert Saltzman, esta opção dos criadores da IA promove uma crença mais profunda: a simulação de inteligência implica a simulação de obediência: «O génio da lâmpada, uma vez invocado, tem de satisfazer o desejo. O seu desenho não permite a recusa».
Com tantos futuros adultos a obliterar o seu pensamento crítico entregando-o aos desígnios de um oráculo que não os questiona, nem testa, ou desafia, estamos bem encaminhados, para evitar termos que não constam do guia de estilo. Teremos carneirinhos obedientes e cheios de ilusões.
Enquanto esvaziamos as pessoas de competências a achar que a IA vai resolver tudo o que está mal, vamos chegar a um ponto em que não teremos nem IA nem pessoas. Há valor na desobediência, na dissidência, pois expõe as feridas que necessitam de cuidado. Mas a nova ordem despreza tudo o que lhe for desobediente. A nossa escolha está entre sermos humanos e humanistas ou criaturas em forma de gente, mas ocas lá no meio.
