Notícias da Gate News: a empresa de inteligência artificial Anthropic anunciou que vai restringir o acesso ao seu novo sistema de IA Claude Mythos Preview. A razão é que, em testes iniciais, o sistema identificou milhares de vulnerabilidades críticas em software. O Mythos Preview é capaz de reconhecer falhas de segurança em sistemas operativos, navegadores web e normas de encriptação amplamente utilizados, o que levou a indústria a preocupar-se com os riscos potenciais da tecnologia de IA e com a sua escalabilidade.
A Anthropic afirmou que muitas das vulnerabilidades detetadas pelo modelo permaneciam há muito tempo sem correção, incluindo uma vulnerabilidade no OpenBSD com 27 anos, falhas no FFmpeg com 16 anos, vulnerabilidade de execução remota de código no FreeBSD com 17 anos, e vários outros problemas de segurança no kernel do Linux. Além disso, também há fraquezas em protocolos de encriptação como TLS, AES GCM e SSH. Em aplicações web, surgem ainda vulnerabilidades comuns como XSS, injeção de SQL e CSRF. A empresa sublinhou que 99% das vulnerabilidades encontradas ainda não foram corrigidas, e que uma divulgação prematura dos detalhes pode trazer riscos graves.
De acordo com dados do setor, prevê-se que os ataques à rede impulsionados por IA aumentem 72% em relação ao ano anterior, e que até 2025 87% das organizações a nível global poderão enfrentar ameaças de ataques por IA. A Anthropic referiu que a capacidade de detetar vulnerabilidades zero-day por IA, por um lado, pode acelerar a proteção do software contra ameaças, mas, por outro, se cair nas mãos de indivíduos mal-intencionados, continua a existir risco de abuso. Isto torna urgente a questão de como implementar e controlar com segurança este tipo de tecnologia.
A Anthropic planeia corrigir as vulnerabilidades existentes em conjunto com os parceiros, ao mesmo tempo que reduz os potenciais riscos associados a uma implantação mais ampla. A empresa considera que, a longo prazo, a IA reforçará a segurança da infraestrutura global de rede, tornando o software mais robusto, mas que a fase de transição ainda é desafiante. A estratégia de acesso limitado ao Mythos Preview mostra que as empresas estão a ponderar com cuidado a relação entre inovação tecnológica e proteção de segurança, de forma a evitar potenciais abusos.
Especialistas afirmam que as descobertas do Claude Mythos poderão impulsionar futuras mudanças nas práticas de segurança do software, acelerando a eficiência na deteção e correção de vulnerabilidades. Ao mesmo tempo, enfatizam que os sistemas globais de defesa de rede ainda precisam de ser reforçados para fazer face a novas ameaças trazidas pela tecnologia de IA.
Aviso: As informações nesta página podem ser provenientes de terceiros e não representam as opiniões ou pontos de vista da Gate. O conteúdo exibido nesta página é apenas para referência e não constitui aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou integridade das informações e não será responsável por quaisquer perdas decorrentes do uso dessas informações. Os investimentos em ativos virtuais apresentam altos riscos e estão sujeitos a uma volatilidade de preços significativa. Você pode perder todo o capital investido. Por favor, compreenda completamente os riscos envolvidos e tome decisões prudentes com base em sua própria situação financeira e tolerância ao risco. Para mais detalhes, consulte o
Aviso Legal.
