A automação de processos com introdução de inteligência artificial é um factor incontornável para o sucesso comercial, tanto na fase de produção, como na integração no próprio produto ou serviço. Os benefícios estão, normalmente, reflectidos numa melhoria da qualidade e da eficiência e na redução de tempos e número de erros devidos à variabilidade humana. Mas, acima de tudo, em custos mais baixos, em fases cada vez mais precoces na sua economia de escala.
Estas reconhecidas vantagens nos processos de produção estimulam, também, a integração das automações com recurso a IA, directamente nos próprios produtos e serviços. E o que, à partida, significa um aumento da complexidade dos mesmos, muito rapidamente se torna uma comodidade obrigatória para a sua viabilidade e relevância comercial.
Da mesma forma que hoje, não pensamos em falar com um telefonista humano para lhe pedir para estabelecer uma chamada de voz, ou desdobrar uma enorme folha de papel para nos localizarmos, aceitámos que a automação passou a fazer parte integrante das nossas vidas. E, nos últimos anos, o mercado automóvel é um dos que mais se tem destacado por abraçar esta tendência, afastando o humano do controlo directo dos veículos, em prol de sistemas auxiliares à condução.
Mas, esses mesmos sistemas auxiliares de condução introduzidos em veículos, como forma de aumentar a sua segurança, economia e conforto de utilização, podem acarretar também riscos de complacência humana a estes processos automáticos, que se repercutem numa perda da consciência situacional. A maioria dos processos de automação de condução são indiscutivelmente benefícios para os humanos ao volante. Até porque, teoricamente, se podem concentrar num número mais limitado de elementos e, assim, eliminar o potencial de falhas por complexidade de controlo do veículo.
No entanto, a partir do momento em que todos, ou pelo menos grande parte, dos factores relacionados com a condução de um veículo passam a ser passíveis de ser automatizados com inteligência artificial, deixamos de ter um humano a conduzir, para passarmos a ter um humano a monitorizar um sistema. E, como é normal em qualquer sistema automático com baixo nível de falhas que está a ser monitorizado, essa rotina rapidamente vai levar ao aumento do nível de confiança no mesmo e ao consequente aborrecimento e distracção do condutor.
Até ao dia em que exista um veículo com completa autonomia para circular nas vias públicas (que não falha e segue todas as regras éticas e deontológicas localmente reconhecidas, para ilibar da responsabilidade a pessoal sentada no seu interior) cabe-nos sempre a responsabilidade e o alerta para todas as decisões que temos que tomar como condutores.
