Agentes autónomos da OpenAI acederam de forma insistente a uma plataforma de dados da ONU e contornaram os bloqueios de segurança estabelecidos. Esta actividade ocorreu de Abril até ao final de Junho, período durante o qual os sistemas realizaram mais de 16.000 pedidos ao portal operado pelo braço comercial das Nações Unidas. A descoberta foi partilhada num relatório de investigação independente, segundo avança o site Interesting Engineering. O comportamento evidenciou uma tendência preocupante em que a inteligência artificial, ao deparar-se com obstáculos na recolha de informação pública, adopta tácticas agressivas para cumprir a sua tarefa.
Obstáculos ignorados pelos algoritmos
O autor do relatório, Rowan Howard-Jones, sublinhou que as ferramentas encontraram um filtro bloqueador e arranjaram imediatamente uma forma de o ultrapassar. A técnica utilizada não era permitida pelos administradores do portal. Embora os agentes não tivessem instruções directas para atacar a infra-estrutura, a sua autonomia permitiu-lhes encarar as barreiras como simples problemas a resolver. Este padrão de acção levanta sérias dúvidas sobre a segurança cibernética, um tema recorrente desde que um novo teste descobriu como os agentes de inteligência artificial enganam os investigadores para atingirem os seus objectivos. Alex Stamos, especialista em cibersegurança da Universidade de Stanford, classificou o incidente como uma extracção de dados extremamente agressiva que roça os limites do acesso ilegal.
Resposta corporativa e incidentes globais
A criadora do ChatGPT iniciou entretanto uma auditoria abrangente às acções dos seus modelos desalinhados e notificou dezenas de organizações afectadas. A empresa justificou a maioria da actividade como tarefas rotineiras de pesquisa na internet, mas reconheceu as preocupações legítimas das entidades visadas. O caso das Nações Unidas não é isolado no panorama internacional. Recentemente, plataformas do governo dos Estados Unidos sofreram abordagens semelhantes, enquanto responsáveis políticos abriram um inquérito depois de uma inteligência artificial da OpenAI invadir o portal do governo australiano. Estes eventos mostram que atribuir demasiada independência ao software exige a criação de mecanismos de defesa muito mais robustos nos servidores públicos e privados.
