Um grupo de investigadores da Faculdade de Ciências e Tecnologia da Universidade de Coimbra desenvolveu uma nova metodologia para tornar os modelos de IA mais «explicáveis e fiáveis no contexto industrial».
Este projecto tem como objectivo responder a «uma das principais preocupações» associadas à adopção destes sistemas: a «dificuldade em perceber como tomam decisões». Para isso, foi feita uma abordagem que «alia desempenho e transparência», recorrendo à «lógica difusa (fuzzy systems) para simplificar a representação de processos industriais complexos».
O método assenta numa arquitectura do tipo “professor-aluno”, em que um modelo sofisticado — que combina redes neuronais LSTM com lógica difusa — serve de referência para treinar uma versão mais simples e interpretável (NFN-MOD).
Segundo Jorge S. S. Júnior, doutorando no Departamento de Engenharia Electrotécnica e de Computadores da FCTUC (que está neste projecto juntamente com Cristiano Premebida, Jérôme Mendes), o método recorre a «funções com entradas atrasadas para simular a memória temporal do processo, aliando desempenho à compreensibilidade».
A eficácia desta metodologia foi demonstrada em dois cenários industriais com dados reais: uma unidade de recuperação de enxofre e um processo de moagem na indústria do cimento. Em ambos os casos, o NFN-MOD «conseguiu replicar o comportamento do modelo com elevada precisão», ao mesmo tempo que «oferecia explicações claras sobre os factores que influenciam eventos críticos».
Mas as vantagens não se ficam por aqui: «Além disso, o modelo introduz uma nova forma de análise contextual, permitindo aos operadores compreender melhor os diferentes cenários industriais e apoiar a tomada de decisões», sublinha Jorge S. S. Júnior.
Os resultados foram publicados na revista IEEE Transactions on Fuzzy Systems com o título ‘Distilling Complex Knowledge Into Explainable T–S Fuzzy Systems‘.
