Anthropic і OpenAI коригують формулювання правил безпеки на тлі прискорення конкуренції в галузі ШІ

Odaily Planet Daily News Anthropic прибрала основне зобов’язання щодо безпеки зі своєї політики відповідального розширення, більше не зобов’язуючись припиняти навчання, якщо заходи з зменшення ризиків не повністю впроваджені. Джаред Каплан, головний науковий директор Anthropic, сказав TIME, що в умовах стрімкого розвитку ШІ безцільно зобов’язуватися призупинити тренування, якщо учасники продовжать просуватися далі.

OpenAI також переглянула свою місію, вилучивши слово «безпечно» зі своєї заяви IRS 2024 року, яка раніше передбачала створення універсального ШІ, що «безпечно приносить користь людству», а тепер змінюється на «гарантувати, що універсальний ШІ приносить користь всьому людству».

Едвард Гейст, старший дослідник політики в корпорації RAND, зазначив, що передовий ШІ, який передували ранні прихильники безпеки ШІ, принципово відрізняється від сучасних великих мовних моделей, а зміна термінології також відображає бажання компанії сигналізувати інвесторам і політикам, що вона не відступить від економічної конкуренції через питання безпеки.

Anthropic нещодавно завершила фінансування на суму 30 мільярдів доларів з оцінкою близько 380 мільярдів доларів; OpenAI рухається вперед із раундом фінансування до 100 мільярдів доларів, підтримуваним Amazon, Microsoft та Nvidia. Тим часом Anthropic стикається з невизначеністю щодо своїх оборонних контрактів через публічні розбіжності з міністром оборони США Пітом Хегсетом щодо відмови повністю відкрити Claude доступ до Пентагону. (Розшифрування)