CEO da Amazon levanta suspeitas sobre modelos de IA da Anthropic antes de bloqueio do governo dos EUA

O CEO da Amazon, Andy Jassy, pode ter sido a fonte das preocupações de segurança que levaram a Anthropic a suspender o acesso mundial a dois de seus modelos de inteligência artificial na última sexta-feira (data). De acordo com o Wall Street Journal, Jassy informou ao secretário do Tesouro dos EUA, Scott Bessent, e a outros funcionários do governo que pesquisadores da Amazon utilizaram o modelo Claude Fable 5, da Anthropic, para obter informações que poderiam ser usadas em ciberataques.

O governo dos EUA, então, impôs uma proibição de controle de exportação sobre os modelos Fable 5 e Mythos 5. A Amazon é uma grande investidora da Anthropic, startup de IA fundada por Dario Amodei.

Preocupações de segurança e reações

Um porta-voz da Amazon disse ao WSJ que, embora "não seja incomum que governos busquem nossa opinião sobre riscos potenciais de segurança", a empresa não "compartilha os detalhes dessas discussões". As publicações The Information e Reuters também reportaram que a Amazon comunicou preocupações sobre a segurança dos modelos da Anthropic.

David Sacks, ex-responsável pela área de IA do governo Trump e agora co-presidente do Conselho de Assessores do Presidente em Ciência e Tecnologia, ofereceu seu próprio relato das discussões. Sacks afirmou que "um parceiro confiável e altamente respeitado, tanto da Anthropic quanto do governo dos EUA, apresentou informações sobre um 'jailbreak' (quebra de segurança)". Ele acrescentou: "A Administração pediu que [o CEO da Anthropic, Dario Amodei] corrigisse o jailbreak ou removesse o modelo. Dario recusou."

Contexto e próximos passos

A Anthropic não se pronunciou oficialmente sobre o caso até o momento. A suspensão dos modelos Fable 5 e Mythos 5 representa um dos episódios mais graves envolvendo uma grande empresa de IA e o governo americano, levantando questões sobre a segurança de modelos avançados e a relação entre investidores e startups.

Especialistas apontam que o caso pode estabelecer um precedente para a regulação de modelos de IA de fronteira, especialmente aqueles com potencial de uso dual (civil e militar). O governo dos EUA deve intensificar a fiscalização sobre exportações de tecnologia sensível, enquanto a Anthropic busca reverter a decisão ou adaptar seus modelos às exigências de segurança.