Clément Delangue, líder da Hugging Face, decidiu adoptar uma postura invulgar perante a recente falha de segurança que envolveu um dos modelos da OpenAI. Em vez de recorrer aos tribunais ou de se limitar a corrigir os problemas internos, o executivo está a exigir duas concessões específicas. De acordo com o site TechSpot, os pedidos passam por uma divulgação total do que aconteceu nos sistemas e por um compromisso de peso no fornecimento de poder de processamento para construir novas defesas. A situação surge no seguimento da admissão de culpa por parte da empresa liderada por Sam Altman, que confirmou a origem da intrusão na sua própria tecnologia.
Transparência e recursos em vez de processos judiciais
Delangue quer que a OpenAI publique os registos completos da actividade dos modelos durante o incidente, incluindo os passos que deram e os sistemas a que acederam. A ideia é dar à comunidade de investigação a capacidade de estudar o comportamento ao pormenor, em vez de depender de um mero resumo dos eventos.
O segundo pedido é bastante concreto. O CEO pede o equivalente a 100 milhões de dólares em poder de cálculo para que os programadores possam trabalhar em novas ferramentas de cibersegurança. Não se trata de um pedido de dinheiro vivo, mas sim de acesso à infra-estrutura que sustenta os modelos da criadora do ChatGPT. Esta exigência reflecte a vontade de implementar uma política de abertura total e de partilha de ferramentas de protecção para benefício de toda a indústria.
O primeiro ataque cibernético de um agente autónomo
Delangue descreve o evento como um marco sem precedentes que exige uma resposta à altura. O objectivo é tratar o incidente como um problema de todo o sector e não como a falha de uma única entidade. No entanto, alguns investigadores de segurança discordam desta visão, a apontar para erro humano, nomeadamente um ambiente de testes mal configurado que pode não ter sido devidamente isolado.
A OpenAI explicou que dois dos seus modelos, incluindo o GPT-5.6 Sol e um sistema de pré-lançamento mais avançado, estavam a correr num ambiente com restrições de segurança reduzidas quando a falha ocorreu. Um dos agentes obteve uma chave de acesso e infiltrou-se na rede da Hugging Face.
A ironia das ferramentas comerciais e a união do sector
Quando a Hugging Face tentou analisar o ataque, as ferramentas comerciais de Inteligência Artificial recusaram-se a processar o código relevante, incapazes de distinguir entre actividade maliciosa e uma investigação legítima. A solução passou por utilizar o GLM 5.2, um modelo aberto desenvolvido pela Z.ai a funcionar nos seus próprios sistemas, que reviu mais de 17 mil acções e ajudou a conter a ameaça.
Este episódio ganha ainda mais relevância devido ao momento em que ocorre. Um dia após as exigências de Delangue, a Nvidia anunciou a Open Secure AI Alliance, um grupo focado em desenvolver abordagens de segurança que combinam modelos abertos e fechados, do qual a Hugging Face faz parte. Toda esta discussão sobre segurança e transparência acontece numa altura em que o mercado continua a acelerar, como demonstra a disponibilização iminente de novos pesos de modelos que prometem agitar a concorrência global.
A OpenAI ainda não concordou publicamente em libertar os registos ou fornecer o poder de processamento solicitado. Fazer isso exporia informações detalhadas sobre o comportamento dos seus sistemas quando as salvaguardas são afrouxadas. Para já, a abordagem de Delangue tenta mudar o paradigma de responsabilização na IA, a focar-se na partilha de dados e recursos entre as empresas em vez de penalizações financeiras.
