Se as más notícias já viajavam depressa antes da Internet, agora são bastante mais céleres. Quando um construtor é notificado de um problema que é comum a um dado modelo de produto, toda a Internet sabe antes do próprio construtor. Isto é bom para o conhecimento geral dos consumidores, mas pode também ser uma perversidade sem tamanho, no caso de tentativa de fraude ou de “assassinato” de uma marca. Meio mundo já terá visto um vídeo que por aí circula, de um automóvel famoso pela sua capacidade de se conduzir de forma autónoma, que alegadamente se desgovernou na sua marcha (trinta segundos e 2,6 km de puro terror) e que por (também alegada) “vontade própria” provocou um enorme rol de danos materiais – em resultado desse desgoverno a alta velocidade, acabou por fazer duas vítimas mortais.
Todas as entidades envolvidas prometeram investigar como é que um automóvel passa de uma tentativa de estacionamento para um filme de ação com vítimas mortais. Estes automóveis, dotados de software e sensores de recolha de tudo o que é imaginável, dispõem de logs (registos de todas as operações requeridas pelo condutor à viatura e de todas as que os sistemas de inteligência artificial interagiu com a mecânica e electrónica). Alguém há-de ter razão: o fabricante que afirma que o seu sistema de condução autónoma se desliga quando o travão é accionado ou o condutor que afirma que todas as tentativas de travar não impediram que o veículo acelerasse por vontade própria.
A verdade é que este acidente fatal me levanta um mar de questões, uma mais simples que outras. Em condições normais, num país civilizado e com regras instituídas, um condutor, para ser detentor de um título legal de condução, tem de se submeter a um exame (na verdade a dois). É essa avaliação que legaliza a sua autorização de condução. Já no que diz respeito a sistemas autónomos, estamos numa fase tão embrionária, que aceitamos de uma forma quase dogmática aquilo que os construtores nos afirmam como capaz. A IA é código, é o resultado de interacções de código com sensores de recolha de dados, é uma “sopa” de tecnologia que contém, muitas vezes, os “segredos” mais bem guardados da indústria. Ninguém os vai poder certificar (pelo menos para já). Os construtores, que terão de se defender de inúmeras tentativas de responsabilização cível ou criminal, tudo farão para transferir essa responsabilidade para o condutor. Estamos apenas no início de um percurso maravilhosamente promissor. E, um dia, alguém vai fazer sentar um algoritmo no banco dos réus.