Anthropic обвиняет китайскую AI-лабораторию в краже данных Claude.

Investing.com - Anthropic в понедельник обвинила три китайские лаборатории искусственного интеллекта в масштабной деятельности по извлечению данных из их модели Claude AI, утверждая, что эти компании используют мошеннические аккаунты для незаконного улучшения своих моделей.

Эта AI-компания заявила, что DeepSeek, Moonshot и MiniMax взаимодействовали с Claude более 16 миллионов раз через около 24 000 мошеннических аккаунтов, нарушая условия обслуживания и ограничения по региональному доступу. Эти обвинения последовали за аналогичными заявлениями OpenAI, которая сообщила членам Палаты представителей, что DeepSeek использует дистилляционные технологии для усиления своих моделей.

Эти китайские лаборатории используют метод, называемый дистилляцией, при котором более продвинутые системы используют для обучения менее мощных моделей. Хотя дистилляция является законной техникой обучения для создания меньших версий моделей AI, Anthropic утверждает, что когда конкуренты используют её для получения возможностей из других лабораторий, это становится незаконным.

По словам Anthropic, эти действия затрагивают передовые функции Claude, включая способности к рассуждению, использованию инструментов и кодированию. Компания заявила, что идентифицировала эти операции по IP-адресам, метаданным запросов и инфраструктурным метрикам.

Сообщается, что DeepSeek совершила более 150 000 взаимодействий, сосредоточенных на рассуждательных способностях и задачах на основе оценочных критериев. Эта деятельность осуществлялась с помощью синхронизированного трафика между несколькими аккаунтами, с одинаковыми моделями и общими способами оплаты. Anthropic отметил, что запросы DeepSeek требовали от Claude постепенного объяснения внутреннего рассуждения, стоящего за выполненными ответами, что использовалось для генерации обучающих данных по цепочке мышления. Также было замечено, что некоторые задачи использовали Claude для создания альтернативных вариантов по политически чувствительным вопросам, таким как диссиденты, лидеры партий и авторитаризм.

Moonshot AI провела более 3,4 миллиона взаимодействий, связанных с рассуждениями, использованием инструментов, кодированием и компьютерным зрением. Эта деятельность осуществлялась через несколько путей доступа с использованием сотен мошеннических аккаунтов. Anthropic связала эти действия с компанией, сопоставив метаданные запросов с публичными данными о старших сотрудниках Moonshot.

MiniMax осуществила более 13 миллионов взаимодействий, сосредоточенных на кодировании и использовании инструментов. Anthropic обнаружила эту активность еще до публикации MiniMax своих обучающих моделей, когда она была активной. Когда в период деятельности MiniMax компания выпустила новую модель, эта китайская лаборатория за 24 часа перенаправила почти половину трафика, чтобы захватить возможности последней системы.

Anthropic заявила, что эти лаборатории получают доступ к Claude через коммерческие агентские сервисы, перепродающие доступ к моделям AI. Эти сервисы управляют сетью мошеннических аккаунтов, распределяя трафик через API Anthropic и сторонние облачные платформы. В одном случае один агентский сервис управлял более чем 20 000 мошеннических аккаунтов одновременно.

По соображениям национальной безопасности Anthropic не предоставляет коммерческий доступ к Claude в Китае. Компания отметила, что нелегально дистиллированные модели лишены необходимых мер безопасности, что создает риски для безопасности. Системы, созданные Anthropic и другими американскими компаниями, предотвращают использование AI для разработки биологического оружия или проведения вредоносных кибератак.

Anthropic заявила, что разработала системы обнаружения и инструменты по выявлению шаблонов дистилляционных атак в трафике API. Компания делится техническими показателями с другими лабораториями AI, поставщиками облачных услуг и властями. Также она усилила проверку образовательных аккаунтов и проектов по безопасности.

Эта статья переведена с помощью искусственного интеллекта. Для получения дополнительной информации ознакомьтесь с нашими условиями использования.