Novo modelo Claude Mythos Preview da Anthropic pode expor vulnerabilidades nas defesas cibernéticas dos bancos
Altas autoridades financeiras internacionais alertaram que os modelos de IA mais recentes de empresas de tecnologia dos EUA podem ameaçar o sistema bancário mundial ao expor fragilidades nas defesas cibernéticas dos bancos.
Enquanto ministros das finanças, presidentes de bancos centrais e reguladores se reuniam esta semana em Washington para os encontros de primavera do FMI e do Banco Mundial, suas discussões foram dominadas pela preocupação com o mais recente modelo de IA desenvolvido pela startup Anthropic, sediada em San Francisco.
"É um desafio muito sério para todos nós", disse Andrew Bailey, presidente do Banco da Inglaterra, que preside o Conselho de Estabilidade Financeira dos reguladores globais. "Isso nos lembra o quão rápido o mundo da IA se move."
Até o momento, a Anthropic compartilhou o Mythos apenas com um grupo de cerca de 40 empresas, incluindo Amazon, Apple e JPMorgan Chase - Dado Ruvic/Reuters
Bailey acrescentou que os reguladores globais precisarão avaliar rapidamente a potencial ameaça de segurança cibernética ao sistema financeiro representada pelo novo modelo Claude Mythos Preview da Anthropic.
Até pouco mais de uma semana atrás, a maioria dos formuladores de políticas esperava que as reuniões do FMI e do Banco Mundial se concentrassem no conflito no Oriente Médio, nas tensões no mercado de crédito privado e nos elevados níveis de dívida pública.
Em vez disso, a capacidade dos novos modelos de IA de causar estragos no sistema bancário mundial era tudo o que muitas pessoas queriam discutir.
"A evolução da tecnologia digital está impondo riscos imensos do ponto de vista da segurança cibernética", disse Dan Katz, vice-chefe do FMI e ex-chefe de gabinete do secretário do Tesouro dos EUA, Scott Bessent. "Isso realmente vai ser absolutamente essencial na agenda internacional nos próximos meses."
A presidente do Banco Central Europeu, Christine Lagarde, disse: "O desenvolvimento que vimos com a Anthropic e o Mythos é um bom exemplo de uma empresa responsável que de repente está pensando: 'ah, isso poderia ser muito bom' —mas se cair nas mãos erradas, poderia ser muito ruim."
Algumas autoridades pediram uma resposta internacional coordenada à ameaça do Mythos, que a Anthropic disse no início deste mês ter "encontrado milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores web".
A empresa alertou que "não demorará muito para que tais capacidades se proliferem, potencialmente além de atores comprometidos em implantá-las com segurança". E acrescentou: "As consequências —para economias, segurança pública e segurança nacional— podem ser graves."
"Todos estão interessados em ter uma estrutura dentro da qual operar", disse Lagarde à Bloomberg TV. Mas acrescentou: "Não acho que exista uma estrutura de governança que esteja lá para realmente cuidar dessas coisas. Precisamos trabalhar nisso."
Até agora, a Anthropic compartilhou o Mythos apenas com um grupo de cerca de 40 empresas, incluindo Amazon, Apple e JPMorgan Chase, dando-lhes a chance de experimentá-lo e começar a corrigir quaisquer vulnerabilidades que ele encontre em seus sistemas.
Bessent convocou na semana passada líderes de alguns dos maiores bancos de Wall Street e Jay Powell, presidente do Federal Reserve, para discutir as fragilidades reveladas pelo Mythos, ao qual algumas autoridades americanas supostamente têm acesso.
Autoridades em Washington disseram que a tecnologia representa uma mudança fundamental no campo de batalha entre atacantes e defensores de sistemas de informação por causa de sua capacidade de encadear autonomamente múltiplas vulnerabilidades de software em uma escala além da capacidade humana.
Eles ficaram impressionados e alarmados com a capacidade do Mythos de decidir autonomamente como abordar problemas, mas estão preocupados com a falta de regulamentação para empresas de IA. As autoridades dizem que estão buscando colaborar com empresas de tecnologia, incluindo a Anthropic.
No entanto, alguns reguladores e executivos europeus dizem que foram deixados no escuro sobre as potenciais vulnerabilidades reveladas pela mais recente tecnologia de IA, já que a maioria deles não conseguiu testar o novo modelo e determinar o nível de ameaça que ele poderia representar.
Quando perguntado como a autoridade bancária europeia estava respondendo às preocupações em torno do Mythos, François-Louis Michaud, seu novo chefe, disse: "É um processo que está começando e agora estamos contemplando qual é a resposta certa."
Michaud e outros reguladores europeus disseram que há vários anos estão focados em ameaças de segurança cibernética ao sistema bancário, que se intensificaram após a invasão em larga escala da Ucrânia pela Rússia em 2022, incluindo a avaliação dos novos riscos potenciais da computação quântica.
Michaud destacou que a EBA vem contratando mais especialistas em segurança cibernética após receber o poder de supervisionar fornecedores-chave de TI para bancos da UE. "Não estou dizendo que tudo está bem e perfeito, mas estou dizendo que não estamos começando do zero", disse ele.
Executivos seniores baseados na Europa de um grande banco e de um grande grupo de infraestrutura financeira disseram ao FT nos bastidores das reuniões em Washington que ainda não tiveram a chance de testar o Mythos.
O executivo do banco disse: "Se o que eles dizem é verdade, então obviamente é sério. Mas é muito cedo para saber. Estamos conversando com a Anthropic para ter acesso a esse modelo."
A OpenAI, criadora do ChatGPT, anunciou na quinta-feira que estava compartilhando seu modelo mais recente especificamente projetado para segurança cibernética com um número limitado de "fornecedores de segurança, organizações e pesquisadores verificados" para testes. A empresa disse que o novo modelo, GPT-5.4-Cyber, foi "propositalmente ajustado para capacidades cibernéticas adicionais e com menos restrições de capacidade".
Presidentes-executivos de grandes bancos americanos confirmaram esta semana que estavam trabalhando com uma versão beta do modelo Mythos da Anthropic. O presidente-executivo do JPMorgan, Jamie Dimon, disse que o novo modelo de IA "mostra muitas vulnerabilidades que precisam ser corrigidas".
Mas os executivos também destacaram os ganhos de produtividade que estavam antecipando com a IA. "A IA é nossa amiga. É apenas a mais recente geração de tecnologia que vai fazer parte do ecossistema", disse Ted Pick, chefe do Morgan Stanley. "Estamos trabalhando com o Claude Mythos, a versão beta, e estamos olhando para diferentes lugares dentro da infraestrutura onde veremos apenas melhoria contínua."
Robin Vince, presidente-executivo do BNY, o banco mais antigo dos EUA, disse ao FT que também estava testando o modelo da Anthropic, enquanto Gonzalo Luchetti, diretor financeiro do Citigroup, disse a repórteres na terça-feira que o banco estava abordando o avanço tecnológico com o "grau de urgência que ele requer".
Alguns reguladores são céticos de que haverá uma resposta global coordenada à ameaça da IA dadas as atuais tensões geopolíticas, que estão sendo exacerbadas pelo conflito no Oriente Médio.
Os formuladores de políticas também estão relutantes em prejudicar o desenvolvimento de uma tecnologia que poderia trazer grandes benefícios econômicos.
"Qual é o momento ideal para definir as regras do jogo?", perguntou Bailey. "Se você for cedo demais, a) corre o risco de errar o alvo e b) corre o risco de distorcer a evolução, e se for tarde demais as coisas podem sair do controle."
Folha de São Paulo
.gif)