Um novo estudo do Beacom College of Computer & Cyber Sciences concluiu que todos os scripts de automação gerados pelos principais modelos de Inteligência Artificial contêm vulnerabilidades de segurança que podem ser exploradas por atacantes. De acordo com o site Cybersecurity News, ferramentas como o ChatGPT, o Microsoft Copilot e o Google Gemini falharam nos testes de segurança de forma sistémica.
À medida que as empresas dependem cada vez mais destas ferramentas para acelerar o desenvolvimento de software, os investigadores alertam para os sérios riscos de colocar código não revisto directamente em ambientes de produção. O perigo aumenta quando percebemos que o mercado não para de crescer, numa altura em que a gigante de Redmond lança novos agentes autónomos para ajudar os profissionais nas suas tarefas diárias.
Para avaliar a qualidade do código sem qualquer viés, os académicos deram instruções idênticas aos três modelos de IA. Os testes focaram-se em três tarefas comuns no mundo empresarial.
A primeira tarefa envolveu a criação de scripts de recolha automatizada de dados na Web, uma prática comum para extrair informações de páginas online. A segunda centrou-se na automação de correio electrónico, exigindo a programação de rotinas para gerir mensagens e notificações de forma automática. A terceira incidiu sobre a automação de fluxos de trabalho, pedindo ferramentas capazes de monitorizar e gerir o sistema de ficheiros de um computador ou servidor.
No total, foram gerados nove scripts em Python, posteriormente avaliados para simular a forma como um utilizador sem conhecimentos técnicos avançados poderia validar o código. Este processo detectou 45 problemas de segurança individuais, agrupados em 17 classes de vulnerabilidades distintas.
Os números mantiveram-se consistentes entre as plataformas, provando que as falhas estão ligadas à natureza da tarefa pedida e não à marca da IA. O ChatGPT gerou treze vulnerabilidades, o Copilot catorze e o Gemini doze.
Principais ameaças detectadas
A análise detalhada revelou que apenas 11 das 17 classes de vulnerabilidade representam cerca de 80% do risco total. Os investigadores destacaram os problemas mais recorrentes encontrados nos scripts.
Server-Side Request Forgery (SSRF) esteve presente em todos os scripts de recolha de dados, apresentando parâmetros de URL não validados que permitem a potenciais atacantes sondar redes internas.
A Path Traversal foi encontrada através de caminhos de ficheiros não higienizados nos vários scripts, um tipo de erro grave que muitas vezes obriga à aplicação de actualizações de emergência em painéis de controlo web para evitar intrusões nos servidores.
As Injection Flaws surgiram nos cabeçalhos e modelos de todos os scripts de automação de e-mail, abrindo a porta à manipulação de mensagens ou a campanhas de phishing direccionadas.
As Symlink Vulnerabilities afectaram todas as ferramentas de monitorização de ficheiros, podendo levar à manipulação arbitrária de documentos importantes dentro da infra-estrutura da empresa.
Broad Exception Handling foi notado em blocos de código que ignoram silenciosamente erros críticos de segurança, impedindo que os administradores de sistemas percebam que algo está errado durante a execução.
Medidas de protecção recomendadas
Como os scripts de automação correm inerentemente com as permissões do utilizador ou do ambiente de alojamento, um código vulnerável pode interagir com unidades partilhadas e servidores internos sem necessitar de uma escalada de privilégios secundária. Para mitigar estes riscos, os especialistas deixaram várias recomendações.
As organizações devem exigir revisões de segurança rigorosas para todo o código escrito por Inteligência Artificial antes da sua implementação em produção, independentemente da complexidade aparente do script.
É fundamental restringir as permissões de execução, bloqueando a possibilidade de estes scripts correrem com privilégios elevados ou com acesso irrestrito a unidades de rede partilhadas da empresa.
As equipas de TI precisam de dar prioridade à correcção de problemas de alta gravidade, utilizando as directrizes de segurança reconhecidas internacionalmente para mitigar as falhas mais críticas (como SSRF e injecções) em primeiro lugar.
Torna-se imperativo educar os funcionários, lembrando tanto os programadores como os trabalhadores não técnicos que um código funcional não é, de todo, sinónimo de um código seguro.
