Удосконалення моделі міфології Anthropic супроводжує федеральне розгортання на тлі занепокоєнь щодо кібербезпеки

Уряд США готується надати федеральним відомствам доступ до моделі Mythos компанії Anthropic, повідомляє Bloomberg у четвер. Грегорі Барбача, федеральний директор з інформаційних технологій в Управлінні з питань менеджменту та бюджету Білого дому (Office of Management and Budget), надіслав у вівторок електронного листа посадовцям з кабінетних відомств, зазначивши, що OMB створює захисти, щоб забезпечити використання моделі відомствами. Модель Mythos обмежена для обраних груп і призначена для оборонної кіберроботи, а не для широкого комерційного застосування.

Утримувальні заходи Білого дому для доступу до Mythos

У листі OMB із темою «Mythos Model Access» Барбача написав: «Ми тісно співпрацюємо з постачальниками моделей, іншими партнерів у промисловості та розвідувальною спільнотою, щоб гарантувати, що перед потенційним оприлюдненням модифікованої версії моделі для відомств будуть забезпечені належні огорожі та захисти».

План розгортання з’являється на тлі занепокоєння посадовців щодо ризиків для кібербезпеки, якщо інструмент не буде жорстко контролюватися. Anthropic заявила, що можливості Mythos можуть швидко поширитися і не лишатися в безпечних руках, попередивши, що «наслідки для економік, державної безпеки та національної безпеки можуть бути вкрай серйозними», якщо такі можливості поширяться поза межі суб’єктів, які прагнуть безпечного розгортання.

Міжнародні регуляторні застереження

План федерального розгортання збігається з посиленим міжнародним фокусом на ризиках кібербезпеки в сфері ШІ. Міністри фінансів, керівники центральних банків і регулятори зібралися у Вашингтоні на весняних зустрічах МВФ і Світового банку, де старші фінансові посадовці попередили, що розвинений ШІ від американських технологічних фірм може викрити вразливості в кіберзахисті позикодавців і чинити тиск на ширшу банківську систему.

Ендрю Бейлі, голова Банку Англії та голова Ради з фінансової стабільності, сказав: «Це для всіх нас дуже серйозний виклик. Він нагадує, як швидко рухається світ ШІ». Бейлі зазначив, що регуляторам у всьому світі потрібно буде швидко оцінити кіберризик, який попередній огляд Claude Mythos Preview від Anthropic може створити для фінансової системи.

Ден Кац, заступник голови МВФ, сказав: «Еволюція цифрових технологій створює колосальні ризики з точки зору кібербезпеки. Це справді буде абсолютно необхідним у міжнародному порядку денному впродовж найближчих кількох місяців».

Крістін Лагард, президент Європейського центрального банку, підкреслила двояке занепокоєння щодо використання: «Те, що ми бачили з Anthropic і Mythos, є гарним прикладом відповідальної компанії, яка раптом думає: “ой, це може бути справді дуже добре”, але якщо це потрапить не в ті руки, це може бути дуже погано». Лагард повідомила журналістам, що посадовці хочуть рамковий підхід до управління, але наразі немає жодної формальної системи: «Усі дуже зацікавлені мати рамки, в яких можна працювати. Я не думаю, що існує структура управління, яка насправді була б призначена для того, щоб “встежувати за цими речами”. Нам потрібно над цим працювати».

Знаходження вразливостей і захисні заходи Anthropic

Раніше цього місяця Anthropic повідомила, що Mythos виявила «тисячі вразливостей із високою критичністю, включно з деякими в кожній основній операційній системі та веббраузері». Компанія попередила, що можливості на кшталт таких можуть швидко поширитися і не лишатися в безпечних руках, заявивши: «Не мине багато часу, перш ніж такі можливості почнуть поширюватися, потенційно поза межі суб’єктів, які зобов’язалися розгортати їх безпечно».

Піп Уайт, керівник Anthropic для Великої Британії, Ірландії та Північної Європи, сказав, що інтерес з боку керівників різко зріс після новин про модель. У інтерв’ю Уайт зазначив: «Ми впроваджуємо власні захисні заходи та власні обмеження щодо цього продукту, бо знаємо, наскільки він може бути потужним».

Випуск Opus 4.7

У четвер Anthropic випустила Opus 4.7 — нову модель, створену для завдань з інженерії програмного забезпечення. Згідно з компанією, Opus 4.7 може виконувати роботи з кодування, які раніше вимагали більш ретельного нагляду, краще виконувати інструкції, ніж старіші моделі, і розглядати зображення вищої роздільної здатності, щоб виявляти деталі в щільних діаграмах і складних зображеннях.

Anthropic зазначила, що Opus 4.7 менш спроможна, ніж Mythos, зокрема в сценаріях використання для кіберсфери. Під час навчання компанія перевіряла методи для «диференційного зменшення» кіберздатності моделі.