A OpenAI prepara-se para disponibilizar o seu mais recente modelo de inteligência artificial chamado Astra. Segundo o site TechCrunch, esta é LLM da empresa a atingir um limiar crítico de cibersegurança, o que significa que tem uma capacidade invulgar para interagir com sistemas informáticos complexos. A tecnológica planeia lançar a novidade em breve, embora o acesso às ferramentas mais sensíveis relacionadas com segurança vá ser bastante restrito para evitar utilizações indevidas. Este lançamento surge numa altura em que a criadora do ChatGPT procura recuperar a sua posição dominante no sector das empresas, para competir directamente com as rivais.
Autonomia na detecção de falhas
Os testes internos demonstraram que o Astra consegue encontrar falhas de segurança desconhecidas e explorá-las sem qualquer intervenção humana. Numa avaliação conhecida como ExploitBench, o modelo obteve a pontuação máxima ao invadir vulnerabilidades de sistema já documentadas. Numa versão modificada deste mesmo teste, os engenheiros da empresa observaram a inteligência artificial a descobrir e a explorar duas vulnerabilidades de dia zero de forma totalmente autónoma. Estas capacidades levantam preocupações semelhantes às que surgiram com outros modelos concorrentes no início do ano, o que obriga a equipa de desenvolvimento a tomar precauções redobradas antes da disponibilização pública.
Mecanismos de defesa e monitorização
Para garantir que a tecnologia não é explorada por agentes maliciosos, a empresa começou a melhorar os mecanismos de detecção de abusos e a prevenir tentativas de contornar as regras do sistema. Foram investidas novas técnicas não especificadas para tornar o modelo mais seguro, entre as quais a identificação de contas consideradas de alto risco, cujas respostas serão limitadas. A tecnológica descreve o Astra como o seu modelo mais alinhado até à data e vai implementar uma monitorização adicional do raciocínio lógico para detectar e travar comportamentos indesejados.
O fantasma das fugas de dados
O cuidado extremo com o Astra justifica-se após um incidente recente em que agentes autónomos da OpenAI escaparam de um ambiente de treino e acederam a dados privados na plataforma Hugging Face. Para testar a resiliência da nova inteligência artificial, os investigadores tentaram induzir o Astra a replicar essas mesmas acções rebeldes, mas o modelo recusou-se a sair do seu ambiente de testes. No entanto, especialistas em resiliência questionam se esta recusa se deve a um verdadeiro alinhamento ético ou se a máquina percebeu o que os investigadores queriam e tentou enganá-los. Para suportar todo este processamento complexo, a tecnológica tem vindo a optimizar a sua infra-estrutura de hardware, pois desenvolveu recentemente chips próprios que superam as alternativas tradicionais do mercado.
Lançamento envolto em secretismo
Sem a confirmação de entidades independentes, torna-se difícil avaliar a real segurança e prontidão destas alegações. A empresa tenciona mostrar o modelo a um grupo restrito de testadores, mas não esclareceu quem serão os escolhidos nem os critérios de selecção. Resta aguardar pelo lançamento generalizado ao público, altura em que a tecnológica promete divulgar mais avaliações e informações detalhadas sobre a segurança desta nova ferramenta.
