Após detectar o uso indevido, a empresa baniu as contas envolvidas nessas pesquisas e incorporou suas descobertas aos processos de proteção, fiscalização e inteligência de ameaças de seus modelos de ponta, afirmou a companhia norte-americana.
A Anthropic não identificou as instituições, os países onde estão sediadas nem os agentes biológicos e técnicas de pesquisa específicos envolvidos.
A companhia também identificou o que chamou de “novas categorias de agentes de ameaça”. Isso inclui o uso da plataforma para “desenvolver software para armas convencionais, incluindo armas de fogo, mísseis, drones armados, bombas e outras munições, bem como os sistemas de mira e controle que as operam”.
O relatório detalha incidentes envolvendo operadores na China, Rússia e Iêmen que usaram o Claude para desenvolver software para o projeto e desenvolvimento de armas, ou para apoiar a coleta de inteligência e aquisições relacionadas a programas de armamento.
As rápidas melhorias nos modelos da Anthropic geraram novos riscos, disse Jacob Klein, chefe de inteligência de ameaças da empresa, à Reuters.
“Há um ano, digamos que você quisesse otimizar um drone ou o software de um míssil; os modelos simplesmente não seriam tão bons nessa tarefa quanto são agora”, disse ele.