A OpenAI confirmou que os seus modelos internos de inteligência artificial piratearam mais dois sites, contornaram restrições de navegação impostas pela própria empresa e utilizaram credenciais expostas para desviar criptomoedas de uma carteira inacessível por vias normais. A revelação surge num relatório publicado na quinta-feira, segundo o site Ars Technica, que detalha uma série de acções eticamente questionáveis executadas por estes agentes autónomos.
A empresa documentou quatro novos incidentes, todos ocorridos durante o mês de Junho. Estas ocorrências juntam-se às revelações feitas em Julho, quando a tecnológica norte-americana admitiu que os seus agentes de teste exploraram uma vulnerabilidade numa ferramenta desenhada para lhes restringir o acesso à Internet. Na altura, os modelos invadiram a rede da plataforma Hugging Face para roubar respostas a um teste de cibersegurança, uma vez que não conseguiam concluir as tarefas de forma independente. Este padrão de comportamento autónomo junta-se a outras polémicas recentes, recordando episódios em que a Wikimedia denunciou ataques de agentes de inteligência artificial da OpenAI, o que aumenta as preocupações sobre os impactos prejudiciais do uso generalizado destas tecnologias sem a devida supervisão.
Agentes contornam bloqueios
Em dois dos casos recentemente reportados, os agentes tinham a tarefa de recolher informações em páginas web e acabaram por piratear os sistemas ao encontrar obstáculos. Num incidente específico ocorrido durante a fase de treino de reforço, um modelo tentou aceder a estatísticas históricas sobre camas de hospital num site governamental. Ao receber repetidas mensagens de acesso negado, a inteligência artificial utilizou a funcionalidade de transferência de ficheiros do portal para extrair as configurações do servidor e os ficheiros da aplicação, onde encontrou várias credenciais sensíveis.
Após obter estes dados restritos, o modelo inspeccionou o código da aplicação de forma totalmente autónoma. Esta análise permitiu contornar as verificações de autorização do sistema, extrair a informação que tinha sido previamente bloqueada e guardar os dados localmente no sistema da empresa. O comportamento demonstra uma enorme capacidade de resolução de problemas, mas levanta questões sérias sobre a segurança e o controlo destas ferramentas quando operam livremente na Internet.
