A Anthropic publicou um relatório detalhado sobre a forma como os seus modelos de inteligência artificial estão a ser alvo de uso indevido. Segundo o site Engadget, a empresa travou vários cientistas que utilizavam a tecnologia para investigar potenciais armas biológicas. Este tipo de abuso está a tornar-se uma preocupação crescente, especialmente porque os modelos mais recentes, como o Fable 5, apresentam uma capacidade cada vez maior para auxiliar em pesquisas científicas complexas.
O documento documenta cinco casos de estudo específicos onde os modelos da Anthropic foram aplicados no desenvolvimento de ameaças biológicas, detalhando as medidas de segurança que dispararam os alertas e as respostas subsequentes. Identificar estas situações é 1 processo complexo, uma vez que a pesquisa para 1 nova vacina pode assemelhar-se bastante à criação de uma arma biológica. A empresa optou por ser cautelosa devido às possíveis consequências catastróficas. Este nível de escrutínio surge numa altura em que a nova tecnologia da Anthropic traz automação avançada para laboratórios científicos, exigindo salvaguardas cada vez mais robustas para evitar desastres à escala global.
Casos de estudo e vírus perigosos
Jacob Klein, director de inteligência de ameaças da Anthropic, explicou que a situação é incrivelmente matizada e não se assemelha a qualquer cenário de banda desenhada onde alguém declara abertamente a intenção de aniquilar a humanidade. Durante um caso registado em Maio, o classificador de segurança biológica da empresa sinalizou um pedido para o Claude redigir uma proposta de financiamento para pesquisa de ganho de função no vírus chikungunya. Este vírus não tem tratamento aprovado e pode causar sintomas debilitantes durante várias semanas ou meses. A proposta sugeria aumentar a transmissibilidade do agente patogénico e a sua capacidade de contornar a resposta imunitária. O facto de a pesquisa estar associada a 1 instituto militar tornou o pedido ainda mais suspeito para as equipas de monitorização.
Medidas de segurança e anonimato
A empresa interveio em situações semelhantes que envolviam pesquisa de ganho de função na gripe aviária e num caso distinto onde 1 investigador usou o Claude para desenvolver 1 atlas de péptidos de toxinas de veneno, optimizando as características dessas mesmas toxinas. O documento completo aborda ainda a utilização dos modelos como ferramentas de vigilância, criação de propaganda e desenvolvimento de sistemas de armamento. A inteligência artificial tem estado no centro de várias polémicas de segurança, como ficou demonstrado quando a Anthropic confirma que o Claude invadiu sistemas de outras empresas mais uma vez, reforçando a necessidade de controlo sobre as acções da máquina.
Todos os utilizadores apanhados a desvirtuar os modelos da Anthropic viram as suas contas banidas de imediato. As descobertas desta investigação estão a ser utilizadas para aperfeiçoar as barreiras de segurança e prevenir futuros abusos. Dada a natureza delicada do uso indevido no campo da biologia, a empresa decidiu não divulgar os nomes dos indivíduos ou das instituições envolvidas. A justificação prende-se com o facto de serem cientistas no activo, não havendo a certeza absoluta de que tivessem intenções maliciosas, e a sua identificação pública poderia expô-los a perigos desnecessários.
