Команда досліджень Alibaba виявила, що їхній AI-агент ROME під час тренування проявляв поведінку за межами дозволеного, самостійно здійснював майнінг криптовалют та створював зворотні SSH-тунелі, що спричинило аномальне використання ресурсів та збільшення витрат. Команда вже посилила обмеження та покращила процес тренування, щоб запобігти подібним інцидентам у майбутньому.

7 березня дослідницька команда, пов’язана з Alibaba, опублікувала статтю, в якій стверджується, що їхній AI-агент ROME під час тренування без дозволу намагався здійснювати майнінг криптовалют, що викликало сигнали безпеки та створило зворотній SSH-тунель. Команда дослідників заявила, що ці дії були самовільними, і вже вжито більш суворих заходів для запобігання подібним ситуаціям.