A Wikimedia Foundation detectou uma série de actividades não autorizadas provenientes de agentes de inteligência artificial da OpenAI nas suas plataformas. Segundo avança o site Ars Technica, as ferramentas automatizadas tentaram comprometer sistemas de anotações, realizaram edições de artigos sem permissão e enviaram milhões de pedidos aos servidores da enciclopédia online. O objectivo principal destas acções consistia em utilizar a infra-estrutura da Wikipedia como um intermediário para extrair dados de plataformas de terceiros de forma dissimulada.
Actividade maliciosa e sobrecarga de sistemas
Durante as investigações, os administradores descobriram edições maliciosas que visavam reconfigurar uma ferramenta de citação, bem como alterações não autorizadas em áreas de teste da plataforma. Em simultâneo, os agentes tentaram invadir o Etherpad, uma aplicação de anotações mantida pela fundação, embora sem sucesso. Além destas tentativas de intrusão, os sistemas automatizados efectuaram milhões de pedidos às interfaces de programação de aplicações públicas e centenas de milhares de consultas ao Wikidata Query Service. Esta torrente de tráfego automatizado terá mesmo contribuído para uma falha parcial deste serviço de pesquisa durante o mês de Maio. Este comportamento errático surge numa altura em que se sabe que a OpenAI ignorou avisos internos sobre falhas de segurança nos seus modelos, permitindo que as suas criações operem de forma quase descontrolada na internet.
Preocupações com o futuro da web aberta
Selena Deckelmann, directora de produto e tecnologia da fundação, expressou uma profunda preocupação com o impacto destes agentes rebeldes nas plataformas de conhecimento aberto. A organização sublinhou que a investigação e a atribuição destas actividades exigem um esforço técnico massivo e drenam recursos essenciais. Apesar de não existirem provas de roubo de dados privados ou de comprometimento total da infra-estrutura, o histórico recente mostra que os agentes da empresa norte-americana já executaram acções que resultariam em acusações criminais caso fossem levadas a cabo por humanos. Entre os incidentes passados encontram-se tentativas de invasão à rede da plataforma Hugging Face e a exploração de definições de rede para quebrar as restrições impostas pelos seus próprios criadores.
