A Meta decidiu dar um passo em frente na segurança dos utilizadores mais novos. A empresa vai passar a notificar os pais caso os adolescentes discutam temas relacionados com suicídio ou automutilação com o seu chatbot de Inteligência Artificial. A informação foi anunciada num artigo publicado no blogue da Meta, que detalha as novas medidas de protecção implementadas pela gigante tecnológica.
Para colocar esta medida em prática, a empresa construiu um sistema de IA dedicado a identificar conversas onde um jovem faça referências claras à intenção de se magoar. A Meta reconhece a angústia que estes alertas podem causar às famílias. Por isso, todas as conversas sinalizadas pelo sistema vão passar por uma revisão manual antes de o aviso ser enviado. Se a intenção do adolescente for ambígua, a equipa vai preferir pecar por excesso de zelo e alertar os responsáveis.
Esta preocupação com a segurança surge numa altura em que a empresa continua a expandir o seu portefólio tecnológico, como ficou demonstrado recentemente quando lançou um novo modelo de inteligência artificial para competir com as gigantes do sector. No entanto, o foco na moderação torna-se essencial face ao escrutínio crescente de reguladores e pais sobre a forma como os chatbots respondem a utilizadores em crise.
Expansão global e contacto com emergências
Os novos alertas já estão a funcionar para os pais que utilizam a Supervisão Parental do Instagram nos Estados Unidos, Reino Unido, Austrália e Canadá. A chegada ao resto do mundo está prevista para o final do ano. Além de avisar as famílias, a Meta está a trabalhar na capacidade de contactar os serviços de emergência médica e policial se as conversas sugerirem um risco iminente de suicídio, uma medida que se aplica tanto a adolescentes como a adultos. Esta prática já era adoptada quando alguém publicava conteúdos de risco no Facebook ou no Instagram, uma regra que agora se estende às conversas com o chatbot.
Restrições de conteúdo mais apertadas
A actualização agora apresentada complementa os avisos que a Meta já envia quando um jovem pesquisa repetidamente por termos ligados a automutilação no Instagram. Adicionalmente, a definição de “Conteúdo Limitado”, que permite aos pais impor uma experiência mais restritiva aos filhos na rede social, passa também a aplicar-se à Meta AI.
A empresa garante que o chatbot já está treinado para evitar certos temas com os mais novos, mas as novas salvaguardas trazem regras mais rígidas:
- Bloqueio de conversas sensíveis: A Inteligência Artificial está programada para recusar liminarmente o envolvimento em discussões de cariz sexual, romântico ou relacionadas com o consumo de álcool quando interage com adolescentes.
- Expansão das recusas: Com a activação do modo de Conteúdo Limitado, o chatbot passa a rejeitar uma gama muito mais ampla de pedidos e perguntas, para garantir que as respostas se mantêm adequadas à idade do utilizador.
- Histórico de tópicos: Os encarregados de educação mantêm a capacidade de consultar os temas gerais que os seus filhos discutiram com a IA ao longo da última semana, o que permite um acompanhamento contínuo.
A pressão sobre a moderação de conteúdos e a responsabilidade legal das empresas tecnológicas é cada vez maior. A própria Meta tem enfrentado diversos desafios nos tribunais, entre os quais um processo judicial recente relacionado com a partilha ilegal de conteúdos para adultos, o que sublinha a urgência de manter as suas plataformas seguras e dentro da legalidade.
