A Anthropic revelou ter identificado e bloqueado, ao longo deste ano, várias actividades potencialmente perigosas de investigadores que utilizaram os seus modelos avançados de inteligência artificial em trabalhos de investigação biológica que poderiam contribuir para o desenvolvimento de armas biológicas.

A empresa admite que não conseguiu determinar se os investigadores tinham intenções legítimas ou maliciosas. Perante essa incerteza, optou por uma abordagem preventiva e restringiu o acesso aos seus sistemas.

A informação consta de um relatório divulgado pela própria empresa, intitulado “Detecting and countering misuse of AI: September 2026”, dedicado à detecção e combate ao uso indevido dos seus modelos de inteligência artificial.

Segundo a Anthropic, a dificuldade em avaliar estes casos está relacionada com a natureza de duplo uso da investigação biológica. O mesmo conhecimento científico pode contribuir para a criação de vacinas e outros avanços médicos, mas também pode ser utilizado para desenvolver agentes biológicos perigosos.

“Não estamos a falar de alguém que diga: ‘Quero construir uma arma biológica para matar todo mundo’”, explicou Jacob Klein, responsável pela área de inteligência sobre ameaças da Anthropic, citado pelo New York Times. “É uma situação extremamente complexa.”

Cinco casos identificados pela Anthropic

O relatório descreve cinco casos relacionados com investigação biológica que levantaram preocupações.

A empresa não divulgou os nomes dos investigadores ou das instituições envolvidas, os países de origem dos intervenientes nem os agentes biológicos que estavam a ser estudados.

Apesar disso, a Anthropic identificou um ponto comum entre os cinco episódios: os investigadores teriam tentado contornar os mecanismos de segurança dos modelos de IA.

Segundo a empresa, alguns utilizaram métodos destinados a ultrapassar as restrições geográficas de acesso aos seus serviços e procuraram ocultar os verdadeiros objectivos das investigações, de modo a escapar às salvaguardas implementadas pela Anthropic.

Depois de identificar e investigar os casos, a empresa afirma ter banido as contas relacionadas com as actividades.

As conclusões obtidas durante as investigações foram posteriormente utilizadas para aperfeiçoar as ferramentas de segurança dos modelos, os mecanismos de aplicação das regras de utilização e os sistemas destinados à recolha e análise de informações sobre ameaças.

A intenção é aumentar a capacidade da empresa de identificar e impedir futuras tentativas de utilização indevida dos seus sistemas.

Investigação sobre o vírus chikungunya

Um dos casos ocorreu em Maio e envolveu um cientista que recorreu ao modelo de inteligência artificial Claude para preparar uma candidatura a financiamento destinada a uma investigação envolvendo o vírus chikungunya.

Transmitido por mosquitos, o vírus pode provocar dores intensas e outros sintomas que podem persistir durante meses.

A investigação apresentava potencial para contribuir para o desenvolvimento de vacinas, mas também poderia envolver a criação de versões potencialmente mais perigosas do vírus.

De acordo com a Anthropic, o investigador pretendia introduzir mutações no vírus que o tornariam progressivamente mais nocivo à medida que fosse utilizado repetidamente em animais vivos.

A empresa considerou o caso especialmente preocupante depois de descobrir que a investigação deveria ser realizada num instituto de pesquisa militar.

Jacob Klein afirmou que a empresa não conseguiu determinar se o objectivo final do trabalho seria transformar a investigação numa arma.

“O que não sabemos é se a pesquisa pretendia ser transformada em arma”, afirmou o responsável.

Experiências para adaptar gripe aviária a mamíferos

Outro caso envolveu um investigador localizado numa região onde os serviços da Anthropic não estavam disponíveis.

Durante várias semanas, essa pessoa utilizou o Claude para planear experiências destinadas a estudar a adaptação do vírus da gripe aviária a mamíferos.

Segundo a Anthropic, os sistemas de classificação da empresa acabaram por detectar o padrão de utilização e restringiram o acesso do investigador aos modelos mais avançados.

Claude cria candidatura a bolsa em cerca de uma hora

Num terceiro episódio, uma das versões mais recentes do Claude terá conseguido produzir, em aproximadamente uma hora, uma candidatura completa a uma bolsa de investigação relacionada com a evasão imunitária de ortopoxvírus.

Os ortopoxvírus são uma família de vírus de ADN capazes de infectar seres humanos e animais.

A capacidade do modelo para elaborar rapidamente uma candidatura completa foi igualmente considerada relevante no contexto da avaliação dos riscos associados ao uso da IA em investigação biológica.

Outros casos envolveram venenos e toxinas

Nas duas situações restantes identificadas no relatório, a Anthropic encontrou utilizações igualmente consideradas preocupantes.

Num dos casos, um investigador apoiado pelo Estado utilizou os modelos da empresa para desenvolver um atlas de péptidos encontrados em venenos, bem como um sistema de optimização generativa de moléculas.

Noutro, um investigador utilizou o Claude para redesenhar computacionalmente toxinas, no âmbito de um programa nacional.

A Anthropic não revelou mais detalhes que permitam identificar os investigadores, instituições ou países envolvidos.

Modelos mais poderosos aumentam o desafio

A Anthropic reconhece que o rápido desenvolvimento dos seus modelos de inteligência artificial está a tornar cada vez mais difícil estabelecer uma linha clara entre a assistência científica legítima e o apoio a actividades potencialmente perigosas.

Num documento publicado pela empresa em Agosto, a Anthropic afirmou que o Claude Fable 5, apresentado como um dos seus modelos mais avançados, é capaz de superar especialistas em determinadas tarefas biológicas complexas e fornecer apoio operacional noutras.

A empresa reconhece, por isso, que as capacidades que podem acelerar descobertas médicas também podem ser exploradas por pessoas com intenções maliciosas para desenvolver armas biológicas.

O desafio consiste em permitir que cientistas utilizem a IA para acelerar a descoberta de medicamentos e outras aplicações biomédicas, sem permitir que essas mesmas ferramentas sejam utilizadas para causar danos.

IA já executa tarefas avançadas de biologia

Num estudo divulgado pela Anthropic em Agosto, a empresa mostrou que os seus modelos já conseguem desempenhar tarefas relevantes em áreas como o desenho de proteínas e a química analítica.

Num dos testes realizados, modelos Claude foram utilizados para desenhar proteínas capazes de se ligar a diferentes alvos biológicos.

Segundo a Anthropic, alguns dos resultados obtidos superaram referências normalmente utilizadas em campanhas convencionais de desenho de proteínas.

O avanço destas capacidades ajuda a explicar a preocupação crescente em torno da utilização de modelos de IA na investigação biológica.

O International AI Safety Report 2026 concluiu que os principais sistemas de inteligência artificial estão actualmente próximos ou já acima do desempenho de especialistas em vários testes concebidos para reproduzir tarefas relevantes para o desenvolvimento de armas químicas e biológicas.

Alertas sobre os riscos extremos da IA

O alerta divulgado pela Anthropic surge numa semana marcada por outros avisos sobre os riscos mais extremos associados ao desenvolvimento da inteligência artificial.

Na segunda-feira, o Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, afirmou que a inteligência artificial avançada pode representar um “risco existencial para a humanidade” e apelou à implementação de garantias robustas de segurança.

Na própria Anthropic, o investigador Jacob Coxon demitiu-se e alertou que o ritmo acelerado de desenvolvimento da tecnologia poderá colocar em risco a sobrevivência humana dentro de uma década.

A Anthropic afirma que continuará a reforçar os seus mecanismos de segurança à medida que os modelos se tornam mais capazes, procurando impedir que ferramentas desenvolvidas para acelerar a ciência e a medicina sejam utilizadas para fins potencialmente destrutivos.

Fonte: Expresso