Anthropic desativa IAs ‘perigosas’ Fable 5 e Mythos 5 após ordem dos EUA

Na sexta-feira (12), o governo dos Estados Unidos emitiu uma ordem que suspende os modelos de inteligência artificial (IA) Fable 5 e Mythos 5. A diretiva de controle de exportação, como explica a companhia, afeta o acesso das ferramentas “por qualquer cidadão estrangeiro, dentro ou fora” do país, “incluindo funcionários estrangeiros” da própria Anthropic.

A Anthropic confirmou que, com a ordem, desativou “abruptamente o Fable 5 e o Mythos 5 para todos” os clientes da empresa. Lançados na última terça-feira (9), os modelos seguem uma categoria robusta de IA com capacidades de engenharia de software, pesquisa científica e visão computacional, por exemplo.

Os modelos partem da mesma classe do Mythos, considerado “perigoso para a humanidade”. O modelo foi considerado um risco em potencial para a sociedade. Entre os motivos está a sua capacidade avançada de escrever e analisar códigos, por exemplo, e seria excepcional para encontrar falhas de segurança de alto risco e de dia-zero (ainda sem correções).

No anúncio do Fable 5, a Anthropic apontou que os recursos do modelo de IA “poderiam ser usados ​​indevidamente para causar danos graves” em áreas como cibersegurança, e disse ter reforçado medidas para evitar usos indevidos.

“Lançar um modelo tão poderoso traz riscos”, admitiu a companhia ao abordar o assunto. Por isso, o Mythos 5 foi implementado para um grupo seleto de especialistas em cibersegurança e provedores de infraestrutura.

Anthropic desativa modelos, mas discorda de decisão

A Anthropic desativou os modelos Fable 5 e Mythos 5 para todos os usuários, mas não concorda com a decisão. A empresa diz que a carta recebida pelo governo dos EUA “não forneceu detalhes específicos sobre a preocupação com a segurança nacional”. Ela também afirma que as vulnerabilidades citadas “parecem relativamente simples”.

“No entanto, discordamos que a descoberta de uma possível vulnerabilidade de jailbreak, ainda que limitada, deve ser motivo para o recolhimento de um modelo comercial implementado para centenas de milhões de pessoas”, disse a empresa, em nota.

A empresa ainda ressaltou as medidas de segurança adotadas para os modelos. Segundo a Anthropic:

• Medidas de segurança robustas foram implementadas para o Fable. Elas reduzem a probabilidade do modelo ser usado em crimes contra a segurança cibernética;
• Ela diz que trabalhou em conjunto com o governo dos EUA, por exemplo, antes do lançamento para assegurar tais medidas de segurança;
• Nos testes, as medidas teriam sido “substancialmente mais eficazes do que as de qualquer modelo implementado anteriormente”;
• A empresa aponta que nenhum testador conseguiu encontrar um “jailbreak universal”;
• O “jailbreak” se trata de um método que pode contornar as salvaguardas de um sistema, servindo como uma espécie de desbloqueio.