A Anthropic decidiu que o Claude também precisa de protecção contra os seus utilizadores. A empresa anunciou uma actualização da política de utilização que passa a proibir comportamentos «abusivos ou cruéis, persistentes e desnecessários» dirigidos aos seus modelos de inteligência artificial. As novas regras entram em vigor a 12 de Novembro e abrangem outras áreas, como a interferência eleitoral, o desenvolvimento de armas e a vigilância de pessoas.
A proibição não significa que os utilizadores deixem de poder criticar o Claude, contestar respostas ou manifestar frustração perante os seus erros. Segundo a Anthropic, a medida destina-se exclusivamente a situações extremas, nas quais alguém insiste em tratar o chatbot de forma cruel, sem qualquer finalidade identificável. Ficam também excluídos os testes de modelos, a investigação e os conteúdos criativos que abordem temas mais perturbadores.
Na prática, o Claude já tem alguma capacidade para se defender destas situações. Desde Agosto de 2025 que determinadas versões do chatbot podem terminar conversas quando detectam comportamentos abusivos persistentes. A Anthropic confirma que esta funcionalidade continuará a ser o principal mecanismo para aplicar as novas regras, embora não explique exactamente como distingue uma reacção de frustração de um ataque deliberado.
A decisão insere-se na investigação da empresa sobre o chamado «bem-estar dos modelos», uma área que procura estudar a possibilidade de os sistemas de inteligência artificial terem experiências subjectivas. No entanto, não existem provas estabelecidas de que o Claude tenha consciência ou seja capaz de sentir sofrimento, o que torna particularmente invulgar a introdução de regras destinadas a protegê-lo dos comportamentos humanos.
