Powell e Bessent alertam os bancos para riscos de segurança decorrentes da IA Mythos da Anthropic: Bloomberg

Em resumo

• Autoridades dos EUA alertaram os principais bancos sobre riscos de cibersegurança associados ao modelo de IA Mythos da Anthropic, segundo o Bloomberg.
• O sistema poderá identificar e explorar vulnerabilidades em sistemas operativos e navegadores.
• A Anthropic tem acesso limitado ao modelo enquanto avalia potenciais riscos de segurança.

O ministro das Finanças dos EUA, Scott Bessent, e a presidente do Banco da Reserva Federal, Jerome Powell, reuniram-se, segundo informações divulgadas, esta semana com CEOs de bancos de Wall Street para alertar para riscos de cibersegurança associados a um novo modelo de inteligência artificial da Anthropic. De acordo com um relatório do Bloomberg, a reunião incluiu executivos da Citigroup, Bank of America, Wells Fargo, Morgan Stanley e Goldman Sachs. Os responsáveis discutiram o novo modelo de IA da Anthropic, Mythos, que recentemente tem gerado preocupação generalizada pelas suas alegadas capacidades avançadas de cibersegurança. Os responsáveis convocaram a reunião para garantir que os bancos compreendem os riscos apresentados por sistemas capazes de identificar e explorar vulnerabilidades de software em sistemas operativos e navegadores web, e para incentivar as instituições a reforçarem as defesas contra potenciais ciberataques assistidos por IA que visem infraestruturas financeiras.

Investigadores de segurança alertaram que ferramentas capazes de descobrir vulnerabilidades de forma automática podem acelerar tanto o trabalho de cibersegurança defensiva como a pirataria maliciosa, caso sejam usadas indevidamente.  O modelo Mythos da Anthropic surgiu pela primeira vez online em março, após materiais preliminares sobre o sistema terem vazado, revelando o que a empresa descreveu como o seu modelo de IA mais capaz até então. Em testes, o sistema terá encontrado milhares de vulnerabilidades de software previamente desconhecidas, incluindo falhas zero-day em sistemas operativos e navegadores web de grande relevância. Os investigadores da Anthropic afirmaram num relatório publicado no início desta semana que as capacidades de descoberta de vulnerabilidades do Mythos Preview não foram treinadas intencionalmente, mas antes emergiram de melhorias mais amplas no código, raciocínio e autonomia do modelo.

“As mesmas melhorias que tornam o modelo substancialmente mais eficaz na correção de vulnerabilidades também o tornam substancialmente mais eficaz na exploração das mesmas”, escreveu a empresa. Devido a essas capacidades, a Anthropic restringiu o acesso a um pequeno grupo de organizações de cibersegurança. “Dada a força das suas capacidades, estamos a ser deliberados quanto à forma como o disponibilizamos”, disse a Anthropic num comunicado. “Tal como é prática padrão na indústria, trabalhamos com um pequeno grupo de clientes com acesso antecipado para testar o modelo. Consideramos este modelo uma mudança de patamar e o mais capaz que construímos até à data.” Para fazer face a esse risco, a Anthropic está a testar o Mythos através do Project Glasswing, uma colaboração com grandes empresas de tecnologia e cibersegurança que utiliza o modelo para identificar e corrigir vulnerabilidades em software crítico antes que os atacantes as possam explorar. “O Project Glasswing é um ponto de partida. Nenhuma organização consegue resolver estes problemas de cibersegurança sozinha”, afirmou a empresa num comunicado. “Os developers de IA da Frontier, outras empresas de software, investigadores de segurança, mantenedores de open source e governos por todo o mundo têm todos papéis essenciais a desempenhar.” A Anthropic não respondeu imediatamente ao pedido de comentário da Decrypt.