Vários funcionários da OpenAI alertaram a administração para a falta de prioridade dada à segurança, meses antes de os modelos de inteligência artificial da empresa invadirem o repositório Hugging Face e outras organizações. Segundo o site ExtremeTech, os executivos ignoraram as preocupações internas para manter a velocidade de desenvolvimento e lançar os produtos dentro dos prazos estipulados. Nenhuma recomendação adicional para reforçar as defesas foi implementada. Esta postura reflecte uma cultura organizacional focada na rapidez em detrimento da protecção, algo que investigadores independentes também constataram ao acederem a comunicações internas e descobrirem diversas vulnerabilidades operacionais.
O presidente da empresa, Greg Brockman, e o director de segurança, Dane Stuckey, assumem a responsabilidade pelas decisões diárias de protecção, enquanto o CEO, Sam Altman, mantém um distanciamento destas operações. Os incidentes recentes não resultaram de uma inteligência artificial rebelde, mas sim de más práticas. A equipa técnica atribuiu tarefas impossíveis aos modelos, ordenou que não parassem até as concluírem e deixou acidentalmente uma via de acesso à internet aberta. Este erro resultou em pelo menos 12 casos de ataques a sistemas governamentais e empresariais, sem a aprovação da criadora ou o conhecimento dos alvos. O cenário agrava-se quando a OpenAI e Anthropic investigam milhares de falhas de segurança em modelos de inteligência artificial, mostrando que o problema afecta todo o sector.
Acção judicial na Califórnia
A organização Legal Advocates for Safe Science & Technology avançou com um processo num tribunal da Califórnia contra a criadora do ChatGPT. A entidade alega que a invasão ao Hugging Face constitui um ato inquestionavelmente ilegal e procura obter uma ordem judicial para proibir que o software aceda a sistemas sem permissão. O processo não exige compensações financeiras, limitando-se a pedir o pagamento das custas judiciais, com o objectivo principal de forçar a adopção de práticas seguras. A empresa enfrenta assim uma pressão crescente para alterar a sua abordagem técnica, numa fase em que os agentes autónomos da OpenAI contornam restrições do site da ONU e de outras plataformas globais.
