Avancées du modèle Mythos d’Anthropic dans le déploiement fédéral malgré des inquiétudes en matière de cybersécurité

Selon un article de Bloomberg jeudi, le gouvernement américain prépare à accorder aux agences fédérales l’accès au modèle Mythos d’Anthropic.

Gregory Barbaccia, directeur de l’information fédéral au Bureau de la gestion et du budget de la Maison-Blanche, a envoyé mardi un e-mail aux responsables des ministères du Cabinet, indiquant que l’OMB mettait en place des protections afin de permettre l’utilisation du modèle par les agences. Le modèle Mythos est limité à certains groupes et est destiné à des travaux de cyberdéfense, et non à un usage commercial général.

Garde-fous de la Maison-Blanche pour l’accès à Mythos

Dans l’e-mail de l’OMB, dont l’objet est « Mythos Model Access », Barbaccia a écrit : « Nous travaillons en étroite collaboration avec les fournisseurs de modèles, d’autres partenaires de l’industrie et la communauté du renseignement pour nous assurer que des garde-fous et des mesures de protection appropriés sont en place avant de potentiellement publier une version modifiée du modèle aux agences. »

Le déploiement intervient alors que des responsables font part de leurs inquiétudes concernant les risques en matière de cybersécurité si l’outil n’est pas étroitement contrôlé. Anthropic a déclaré que les capacités de Mythos pourraient se propager rapidement et ne pas rester entre de bonnes mains, avertissant que « les retombées pour les économies, la sécurité publique et la sécurité nationale pourraient être graves » si de telles capacités se répandent au-delà des acteurs engagés dans un déploiement sûr.

Préoccupations réglementaires internationales

Le plan de déploiement fédéral coïncide avec un regain d’attention internationale sur les risques de cybersécurité liés à l’IA. Des ministres des Finances, des banquiers centraux et des régulateurs se sont réunis à Washington pour les réunions de printemps du FMI et de la Banque mondiale, au cours desquelles des responsables financiers de haut niveau ont averti que l’IA avancée provenant de sociétés technologiques américaines pourrait exposer des vulnérabilités dans les défenses cyber des prêteurs et exercer une pression sur l’ensemble du système bancaire.

Andrew Bailey, gouverneur de la Banque d’Angleterre et président du Conseil de stabilité financière, a déclaré : « C’est un défi très sérieux pour nous tous. Cela nous rappelle à quelle vitesse le monde de l’IA évolue. » Bailey a indiqué que des régulateurs du monde entier devraient évaluer rapidement le risque cyber que pourrait poser le « Claude Mythos Preview » d’Anthropic au système financier.

Dan Katz, codirecteur adjoint du FMI, a déclaré : « L’évolution de la technologie numérique pose d’immenses risques du point de vue de la cybersécurité. C’est vraiment absolument essentiel dans l’agenda international pour les prochains mois. »

Christine Lagarde, présidente de la Banque centrale européenne, a mis en avant la préoccupation d’usage dual : « Le développement que nous avons vu avec Anthropic et Mythos est un bon exemple d’une entreprise responsable qui se dit soudain : ‘ah, ça pourrait vraiment être bien’, mais si cela tombe entre de mauvaises mains, cela pourrait être très grave. » Lagarde a déclaré aux journalistes que les responsables souhaitent un cadre de gouvernance, mais qu’aucun système formel n’est actuellement en place : « Tout le monde est désireux d’avoir un cadre dans lequel opérer. Je ne pense pas qu’il existe un cadre de gouvernance réellement destiné à gérer ces choses. Nous devons travailler là-dessus. »

Conclusions de vulnérabilité d’Anthropic et mesures de protection

Anthropic a annoncé plus tôt ce mois-ci que Mythos avait identifié « des milliers de vulnérabilités, y compris certaines dans chaque système d’exploitation majeur et dans chaque navigateur web ». L’entreprise a averti que des capacités comme celles-ci peuvent se propager rapidement et ne pas rester entre de bonnes mains, affirmant : « Il ne faudra pas longtemps avant que de telles capacités se multiplient, potentiellement au-delà des acteurs qui s’engagent à les déployer en toute sécurité. »

Pip White, responsable d’Anthropic pour le Royaume-Uni, l’Irlande et le nord de l’Europe, a déclaré que l’intérêt des dirigeants avait augmenté rapidement à la suite de la nouvelle concernant le modèle. Dans une interview, White a indiqué : « Nous mettons en place nos propres garde-fous et nos propres limites autour de ce produit, parce que nous savons à quel point il peut être puissant. »

Sortie d’Opus 4.7

Jeudi, Anthropic a publié Opus 4.7, un nouveau modèle conçu pour des tâches d’ingénierie logicielle. D’après l’entreprise, Opus 4.7 peut gérer des travaux de codage qui nécessitaient auparavant une supervision plus étroite, suivre mieux les instructions que les modèles plus anciens, et inspecter des images à plus haute résolution pour identifier des détails dans des graphiques denses et des images complexes.

Anthropic a noté qu’Opus 4.7 est moins performant que Mythos, y compris dans des cas d’usage de cybersécurité. Pendant l’entraînement, l’entreprise a testé des méthodes pour « réduire différemment » la capacité cyber du modèle.