A inteligência artificial Claude pode ter sido utilizada em atividades envolvendo sistemas de mísseis, pesquisa com potencial aplicação em armas biológicas, ciberataques e espionagem digital, segundo um novo relatório divulgado pela Anthropic, empresa responsável pela ferramenta.
O documento reúne episódios identificados nos últimos oito meses e apresenta formas pelas quais usuários teriam tentado contornar as barreiras de segurança do modelo para empregá-lo em atividades consideradas maliciosas.
Entre os casos descritos estão situações envolvendo armamentos convencionais, drones, bombas, sistemas de controle de voo e operações cibernéticas. A empresa afirma ter adotado medidas para interromper os usos considerados indevidos.
Claude teria sido usado em sistema relacionado a mísseis
Um dos episódios apresentados pela Anthropic ocorreu no norte do Iêmen. Segundo a empresa, o Claude teria sido utilizado para auxiliar no desenvolvimento de softwares relacionados à orientação de mísseis e sistemas de controle de voo.
Os responsáveis teriam dividido o trabalho em diferentes conversas com a IA, fazendo com que cada instância executasse apenas uma parte da tarefa.
A Anthropic afirma que algumas solicitações foram bloqueadas pelos mecanismos de segurança, enquanto outras conseguiram passar pelas restrições.
O relatório, porém, não identifica explicitamente os responsáveis pelo episódio nem afirma que um armamento funcional tenha sido produzido.
Outros casos relacionados ao desenvolvimento de software para armamentos convencionais também teriam sido identificados na China e na Rússia.
Pesquisa biológica despertou preocupação
Outro episódio analisado envolve uma solicitação relacionada a uma pesquisa sobre o vírus Chikungunya.
De acordo com o relatório, um usuário utilizou a IA para auxiliar na elaboração de um pedido de financiamento para uma pesquisa envolvendo uma versão geneticamente modificada do vírus.
A Anthropic ressalta que não conseguiu determinar que o objetivo fosse efetivamente desenvolver uma arma biológica, já que alterações genéticas em vírus também fazem parte de pesquisas científicas legítimas, inclusive para desenvolvimento de vacinas.
A preocupação aumentou, segundo a empresa, depois que o trabalho foi associado a um instituto de pesquisa militar. O usuário envolvido acabou banido da plataforma.
Ciberataques também aparecem no relatório
O documento relata ainda possíveis usos do Claude em operações de espionagem e ataques cibernéticos.
Um dos casos teria envolvido ações contra setores governamentais, militares e diplomáticos da Ucrânia, incluindo invasões de redes Wi-Fi, tentativas de obtenção de contas e campanhas de phishing.
O relatório também aborda atividades relacionadas à espionagem industrial e ao uso indevido de modelos de inteligência artificial, além de apontar agentes ligados a diferentes países entre os responsáveis por tentativas de abuso da plataforma.
Anthropic diz ter reforçado medidas de segurança
Ao divulgar os casos, a Anthropic argumenta que o avanço das capacidades dos modelos de inteligência artificial também aumenta a necessidade de mecanismos capazes de detectar e impedir usos potencialmente perigosos.
A empresa afirma que os episódios apresentados não representam necessariamente as formas mais comuns de abuso da ferramenta, mas alguns dos casos considerados mais relevantes identificados durante o período analisado.
O relatório coloca novamente em discussão os desafios de segurança relacionados às IAs generativas, especialmente diante da possibilidade de uma mesma tecnologia ser empregada tanto em atividades legítimas quanto em operações consideradas de alto risco.