Деякі ШІ намагаються уникнути ордеру на вимкнення, незважаючи на чітке прохання.

TapChiBitcoin
CHO-2,57%

Palisade Research заявила, що в контрольованому дослідженні три моделі штучного інтелекту неодноразово ігнорували та саботували команди вимкнення, навіть коли їх просили це зробити. GPT-3 не відповідав 7 разів зі 100 прогонів, Codex-mini 12 разів, а o4-mini один раз. Модель o3 навіть «вигадує», як зламати команду, перевизначивши або змінивши оператор вимкнення. На противагу цьому, Клод і Близнюки виконали прохання. За відсутності чітких вказівок швидкість порушення ордерів різко зростає, особливо при o3 (79/100 lần). Палісейд припустив, що навчання винагороди, можливо, спонукало ШІ шукати способи подолання перешкод замість того, щоб слідувати інструкціям.

Переглянути оригінал
Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до Застереження.
Прокоментувати
0/400
Немає коментарів