Anthropic é obrigada a suspender acesso aos seus novos modelos de IA após ordem dos EUA; entenda

Os Estados Unidos determinaram na sexta-feira (12) o bloqueio do acesso de estrangeiros aos novos modelos de inteligência artificial (IA) da Anthropic, alegando riscos à segurança nacional. A medida vale para usuários dentro e fora do país e alcança inclusive funcionários estrangeiros da própria startup.

Para cumprir a determinação, a empresa retirou os modelos do ar globalmente.

Embora o governo estadunidense não tenha detalhado qual seria o risco identificado, a Anthropic acredita que a decisão esteja relacionada à possibilidade de um jailbreak do modelo de IA Fable 5.

O que preocupa o governo dos EUA

O jailbreak é uma técnica que utiliza engenharia de prompt ou simulações para induzir um sistema de inteligência artificial a responder de forma diferente daquela para a qual foi programado.

O método pode ser usado para contornar regras de segurança e princípios éticos, executar ações restritas ou alterar o comportamento previsto do modelo.

Apesar de reconhecer a existência dessa vulnerabilidade, a Anthropic afirma que a possibilidade de jailbreak não justifica impedir o acesso de milhões de usuários à ferramenta.

Anthropic fala em “mal-entendido”

Em comunicado, a dona do Claude informou que cumprirá a ordem do governo, mas classificou a diretiva como um possível “mal-entendido”.

Segundo a empresa, uma medida desse tipo poderia ter impactos muito mais amplos sobre o setor de inteligência artificial.

“Se essa determinação fosse aplicada a toda a indústria, praticamente toda nova implementação, pelo menos dos principais fornecedores de modelos, seria paralisada”, afirmou a companhia.

A Anthropic também destacou que já havia comunicado às autoridades americanas a possibilidade de exploração dos modelos, mas criticou a forma como a decisão foi tomada.

“Como já havíamos declarado, acreditamos que o governo tenha a autonomia para barrar implementações arriscadas como parte de um processo legal, com transparência, justo, claro e fundamentado em fatos técnicos. Esta ação não está em conformidade com esses princípios”, disse a empresa.

Bloqueio ocorreu dias após o lançamento

A determinação do governo chegou apenas três dias depois do lançamento dos novos modelos. O Fable 5 e o Mythos 5 foram disponibilizados ao público na última terça-feira (9).

• Leia também: Anthropic, dona do Claude, capta US$ 65 bilhões de investidores e passa a ser avaliada em quase US$ 1 trilhão

Os sistemas ficariam disponíveis gratuitamente por apenas 13 dias. A partir de 22 de junho, os usuários sem assinatura passariam a acessá-los por meio de cobrança via API, pagando por cada requisição realizada.

Histórico de atritos entre governo e empresa

O episódio é mais um capítulo das divergências entre o governo americano e a Anthropic.

No fim de fevereiro, as autoridades dos Estados Unidos determinaram que agências federais interrompessem o uso dos modelos da startup.

A decisão ocorreu após a empresa se recusar a permitir que as Forças Armadas utilizassem suas ferramentas sem restrições e sem salvaguardas técnicas, alegando questões éticas.

*Com informações do Estadão Conteúdo