A OpenAI apresentou o Private Safety Processing, um novo sistema que permite «monitorizar possíveis abusos sem guardar os dados ou as conversas analisadas». Os destinatários são, sobretudo, «clientes empresariais», por estarem em ambientes onde a privacidade e a segurança têm de «coexistir».
Esta tecnologia surge como uma extensão da política Zero Data Retention (ZDR), já usada pela OpenAI para permitir a detecção automática de abusos sem aceder a informação dos clientes. A principal diferença é que o Private Safety Processing «não se limita a uma única sessão»: consegue «analisar padrões distribuídos por várias conversas», algo que pode ser útil para identificar tentativas de contornar os sistemas de segurança através de pedidos fragmentados.
Segundo a OpenAI, o processo (descrito na imagem, em baixo) é «automatizado e não implica revisão humana das conversas». Se o sistema detectar um padrão suspeito, pode enviar à empresa um «aviso» relativo ao tipo de actividade identificada. A partir daí, a empresa liderada por Sam Altman poderá decidir se é necessário tomar medidas e «contactar o cliente» para obter mais contexto; nesse caso, será o próprio cliente a decidir se «quer partilhar dados adicionais».
A abordagem da OpenAI contrasta com uma política anunciada em Julho pela Anthropic para os chamados ‘covered models’, uma categoria que inclui todos os modelos da classe Mythos e futuros sistemas com capacidades semelhantes. Nestes casos, a empresa poderá conservar sessões e conversas durante até trinta dias para fins de segurança. Contudo, esta medida gerou preocupações entre alguns clientes empresariais que trabalham com grandes quantidades de informação sensível.
