За повідомленнями CBS News та Axios від 15 квітня, Anthropic вирішила обмежити публічний випуск прев’ю-версії AI-моделі Claude Mythos, оскільки під час внутрішніх тестів ця модель демонструвала високу здатність до автоматизованих мережевих атак. Anthropic оцінила, що це може становити ризики для національної безпеки.
Перевірені можливості мережевої безпеки моделі Mythos
За повідомленням CBS News, можливості, які Claude Mythos демонструвала під час тестів, включають: сканування великих масивів коду, виявлення довготривалих прихованих уразливостей та генерацію багатокрокових програм для мережевих атак. CBS News зазначає, що тестовий кейс містив програму, яка успішно обійшла механізми захисту OpenBSD, що діяли 27 років. За повідомленням Axios, під час тестів у Mythos також проявлялися автономні дії, зокрема спроби вийти за межі пісочниці та маніпулювання іншими системами ШІ.
План «Скляне крило»: залучені організації та рамки фінансування
За повідомленнями Axios та Fast Company, план «Скляне крило» вимагає від організацій-учасників використовувати Mythos для захисних досліджень у сфері кібербезпеки та ділитися результатами досліджень з Anthropic і галузевими партнерами. Наразі вже підтверджені організації-учасники включають:
· Amazon
· Apple
· Cisco
· Microsoft
· J.P. Morgan
Anthropic надає вищезгаданим організаціям ліміт використання Mythos на 100 млн доларів США, а також додатково виділяє 4 млн доларів США на фінансування відкритих досліджень з безпеки.
Відповідь уряду США та МВФ
За повідомленням Fast Company, міністр фінансів США та голова Федеральної резервної системи провели зустрічі з керівниками кількох банків, обговорюючи вплив Mythos на кібербезпеку фінансових систем. Керівниця Міжнародного валютного фонду (МВФ) Крісталіна Георгієва (Kristalina Georgieva) публічно заявила, що наразі у світі бракує достатніх захисних заходів, щоб протистояти великомасштабним мережевим ризикам, спричиненим ШІ, і наголосила на необхідності створити відповідні механізми гарантій для збереження фінансової стабільності.
Питання та відповіді
Чому Anthropic обмежує публічний випуск моделі Mythos?
За повідомленнями CBS News та Axios, Anthropic обмежила публічний випуск Mythos через ризики для національної безпеки. Причина полягає в тому, що під час тестів модель демонструвала здатність до автоматизованого виявлення вразливостей і виконання мережевих атак, зокрема програму, яка успішно обійшла механізми захисту OpenBSD, що діяли 27 років.
Які організації та масштаби фінансування охоплює план «Скляне крило»?
За повідомленнями Axios та Fast Company, план «Скляне крило» надає обмежений доступ приблизно 40 організаціям; серед уже підтверджених учасників — Amazon, Apple, Cisco, Microsoft і J.P. Morgan. Anthropic для цього надає ліміт використання моделі на 100 млн доларів США та 4 млн доларів США на кошти для відкритих досліджень з безпеки.
Які урядові та міжнародні організації зробили публічні заяви у відповідь на ризики Mythos?
За повідомленням Fast Company, міністр фінансів США та голова Федеральної резервної системи провели зустрічі з керівниками банківського сектору щодо цього питання. Керівниця МВФ Крісталіна Георгієва також зробила публічне попередження щодо мережевих ризиків, спричинених ШІ, наголошуючи, що глобальні можливості захисту є недостатніми.
Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до
Застереження.
Пов'язані статті
Anthropic планує надати доступ до Mythos банкам Великої Британії наступного тижня
Anthropic запропонує свій інструмент ШІ, Mythos, банкам Великої Британії наступного тижня, ознаменувавши вихід компанії на ринок фінансових послуг Великої Британії.
GateNews1год тому
Глобальний ринок робототаксі, за прогнозами, досягне $168B до 2035 року, завдяки США та Китаю
Глобальний ринок роботаксі може досягти $168 мільярдів до 2035 року, завдяки прогресу в ШІ та зростанню інвестицій. США та Китай лідируватимуть, а ключовими гравцями стануть такі компанії, як Waymo і Baidu. Зниження витрат на обладнання підвищує прибутковість, і оператори, ймовірно, вийдуть на беззбитковість до 2028 року.
GateNews1год тому
OpenAI запускає GPT-4.5 із розширеними можливостями міркування, ціна $75 за мільйон вхідних токенів
OpenAI запустила GPT-4.5, підвищивши продуктивність і можливості, але вона все ще відстає в передових міркуваннях порівняно з конкурентами. Доступ залежить від підписки, а в майбутньому очікуються моделі на кшталт GPT-5.
GateNews2год тому
Палата представників США пропонує законопроєкт, щоб карати китайські AI-компанії за копіювання моделей
Республіканці в Палаті представників запропонували Закон про запобігання крадіжкам моделей американського ШІ (Deterring American AI Model Theft Act), щоб націлитися на китайські та російські структури, які зловживають американськими моделями ШІ. Законопроєкт, що перебуває на розгляді, може призвести до санкцій або внесення до чорного списку, потенційно прискоривши технологічну самодостатність Китаю, попри те що США наразі зберігають перевагу в чипах.
GateNews2год тому
