Anthropic звинувачує китайську лабораторію штучного інтелекту у крадіжці даних Claude.

Investing.com - Anthropic у понеділок звинуватив три китайські лабораторії штучного інтелекту у масштабних витягах даних з їхньої моделі Claude AI, стверджуючи, що ці компанії використовують шахрайські акаунти для незаконного покращення своїх моделей.

Ця AI-компанія заявила, що DeepSeek, Moonshot і MiniMax через близько 24 000 шахрайських акаунтів здійснили понад 16 мільйонів взаємодій з Claude, порушуючи умови обслуговування та обмеження доступу за регіонами. Ці звинувачення з’явилися після того, як OpenAI висловила подібні претензії, повідомивши конгресменам, що DeepSeek використовує технологію дистиляції для покращення своєї моделі.

Ці китайські лабораторії застосовують метод, що називається дистиляцією, тобто використання вихідних даних більш просунутих систем для тренування менш потужних моделей. Хоча дистиляція є легальним методом тренування для створення менших версій моделей AI, Anthropic стверджує, що коли конкуренти використовують її для отримання можливостей з інших лабораторій, така практика стає незаконною.

За словами Anthropic, ці дії спрямовані на найсучасніші функції Claude, включаючи здатність до логічних висновків, використання інструментів і кодування. Компанія заявила, що ідентифікувала ці операції за допомогою прив’язки IP-адрес, метаданих запитів і інфраструктурних показників.

Згідно з повідомленнями, DeepSeek здійснив понад 150 000 взаємодій, зосереджених на логічних здібностях і завданнях на основі оцінювальних стандартів. Ця діяльність використовувала синхронний трафік між кількома акаунтами, з однаковими моделями поведінки та спільною платіжною системою. Anthropic зазначила, що запити DeepSeek вимагали від Claude поступово пояснювати внутрішні логічні процеси, що лежать в основі відповідей, створюючи тренувальні дані для ланцюжків мислення. Також було зафіксовано випадки, коли Claude використовувався для створення альтернативних відповідей на політичні запити, зокрема щодо опозиційних діячів, лідерів партій і авторитарних режимів.

Moonshot AI здійснив понад 3,4 мільйони взаємодій, спрямованих на логіку, використання інструментів, кодування та комп’ютерне зір. Ця діяльність використовувала сотні шахрайських акаунтів через кілька шляхів доступу. Anthropic приписала цю активність Moonshot, порівнюючи метадані запитів із публічною інформацією про високопосадовців компанії.

MiniMax створив понад 13 мільйонів взаємодій, зосереджених на кодуванні та використанні інструментів. Anthropic виявила цю активність ще до публікації MiniMax нових моделей, коли вона була активною. Коли компанія випустила нову модель під час операції MiniMax, ця китайська лабораторія за 24 години перенаправила майже половину трафіку, щоб отримати доступ до можливостей нової системи.

Anthropic заявила, що ці лабораторії отримують доступ до Claude через комерційні посередницькі сервіси, що перепродають доступ до моделей AI. Ці сервіси керують мережею шахрайських акаунтів, розподіляючи трафік через API Anthropic і сторонні хмарні платформи. В одному випадку один проксі-сервіс керував понад 20 000 шахрайськими акаунтами одночасно.

З міркувань національної безпеки Anthropic не надає комерційний доступ до Claude в Китаї. Компанія зазначила, що незаконна дистиляція моделей позбавлена необхідних заходів безпеки, що створює ризики. Системи Anthropic та інших американських компаній запобігають використанню AI для створення біологічної зброї або зловмисних кібероперацій.

Anthropic заявила, що створила системи виявлення та інструменти ідентифікації поведінкових відбитків для розпізнавання шаблонів дистиляційних атак у API-трафіку. Компанія співпрацює з іншими лабораторіями AI, провайдерами хмарних послуг і регуляторами, обмінюючись технічними показниками. Також вона посилила перевірку освітніх акаунтів і проектів з безпеки.

Цей текст був перекладений за допомогою штучного інтелекту. Детальніше дивіться у наших Умовах використання.