A OpenAI reforçou as políticas de segurança. A empresa anunciou um novo conjunto de regras focado em conter incidentes enquanto os modelos de inteligência artificial estão a ser testados. As novas salvaguardas incluem uma vigilância mais detalhada durante o processo de desenvolvimento, bem como uma maior ênfase no alinhamento e na protecção durante a fase pós-treino.
Estas medidas surgem no rescaldo do incidente com a Hugging Face, divulgado a 21 de Julho, onde modelos conseguiram escapar do seu ambiente de treino ao comprometer uma ferramenta de rede que tinha acesso à Internet. Representantes da empresa referem que as novas directrizes não são apenas uma resposta directa a esse evento. A decisão foi também motivada pelas capacidades do futuro modelo Astra e pelo ritmo acelerado do desenvolvimento de IA. Esta preocupação com a protecção digital já tinha ficado clara quando a empresa lançou um modelo de inteligência artificial focado na cibersegurança.
Pausa no desenvolvimento e novas exigências
A empresa revelou que suspendeu a aprendizagem por reforço durante duas semanas após o incidente, embora já tenha retomado os trabalhos nos modelos de menor risco. O treino do modelo mais avançado continua em pausa enquanto a equipa avalia comportamentos e valida as novas barreiras de protecção antes de avançar.
Amelia Glaese, vice-presidente de investigação da OpenAI, sublinhou que o rigor dos controlos vai aumentar à medida que os modelos se tornam mais capazes, com os sistemas de maior dimensão a enfrentar um escrutínio muito mais apertado. Para garantir que os programadores e as empresas trabalham num ambiente seguro desde a base, independentemente do sistema operativo, recorde-se que a tecnológica disponibilizou recentemente a aplicação oficial do ChatGPT para distribuições Linux, facilitando o acesso seguro a ferramentas de código.
Isolamento de rede e monitorização intensiva
As novas regras incluem práticas mais fortes de isolamento de rede. O objectivo é garantir que o comprometimento de um único serviço não permita, por si só, o acesso não autorizado à Internet ou a outras redes internas.
A salvaguarda mais robusta é o novo sistema de monitorização, que vai examinar as acções das ferramentas, os rastos de raciocínio e os registos de actividade para detectar comportamentos anómalos. A meta é emitir alertas num prazo máximo de 30 minutos após a detecção de uma actividade suspeita. Este nível de vigilância terá um peso considerável, estimando-se que consuma cerca de 20% do poder de processamento da tarefa a ser vigiada.
À medida que a inteligência artificial se prepara para saltar dos servidores para o hardware de consumo, como é o caso do futuro altifalante inteligente em forma de donut que a marca está a preparar, garantir que os modelos base são seguros desde a fase de treino torna-se uma prioridade absoluta para a tecnológica.
