Прорыв в порогах обучения ИИ
В сфере разработки моделей искусственного интеллекта обучение крупных языковых моделей традиционно требовало дорогостоящего оборудования и облачных сервисов, что приводило к концентрации технологий у ограниченного числа ведущих игроков.
(Источник: Tether)
Недавний запуск QVAC Fabric от Tether — это новый фреймворк LoRA для дообучения, специально созданный для BitNet (1-битная крупная языковая модель). Этот прорыв значительно снижает требования к вычислительным ресурсам и памяти, позволяя обычным пользователям участвовать в обучении моделей ИИ.
Кроссплатформенная работа: поддержка от ПК до мобильных устройств
Одно из ключевых преимуществ QVAC Fabric — широкая совместимость с аппаратным обеспечением. Фреймворк работает на самых разных устройствах, включая:
-
Ноутбуки
-
Потребительские GPU (Intel, AMD, Apple Silicon)
-
Смартфоны (включая различные мобильные GPU)
Теперь модели ИИ больше не ограничены дата-центрами и специализированным оборудованием — их можно обучать и запускать непосредственно на повседневных устройствах.
Обучение крупных моделей на смартфонах
Одна из важных особенностей этой технологии — возможность дообучать модели на мобильных устройствах.
Например:
-
На Samsung S25 (Adreno GPU) модель с 125 млн параметров дообучается примерно за 10 минут
-
На этом же устройстве модель с 1 млрд параметров — за 1 час 18 минут
-
На iPhone 16 модель с 1 млрд параметров дообучается примерно за 1 час 45 минут
Команда также смогла запустить на смартфоне модели с числом параметров до 13 млрд, что демонстрирует стремительный рост возможностей мобильного оборудования для ИИ.
Основные достижения в производительности и оптимизации памяти
В сравнении с обычными моделями архитектура BitNet обладает явными преимуществами по производительности и эффективности использования ресурсов:
Производительность
-
Скорость инференса на мобильных GPU в 2–11 раз выше, чем на CPU
-
Возможность выполнять задачи, ранее требовавшие дата-центров
Использование памяти
-
Снижение использования VRAM до примерно 77,8% по сравнению с 16-битными моделями
-
Поддержка более крупных моделей и персонализированных приложений за счет увеличения операционной емкости
Эти улучшения значительно упрощают внедрение ИИ-приложений на edge-устройствах.
Преодоление зависимости от NVIDIA и облачных сервисов
Ранее обучение ИИ было тесно связано с оборудованием NVIDIA и облачными платформами. QVAC Fabric устраняет эту зависимость, позволяя дообучать 1-битные LLM LoRA на оборудовании AMD, Intel, Apple Silicon и мобильных GPU, таких как Adreno и Mali. Это снижает затраты и способствует развитию децентрализованных решений в области ИИ.
Децентрализация и защита данных
Еще одно важное преимущество QVAC Fabric — поддержка приватности данных и распределенного обучения:
-
Модели можно обучать локально, не передавая конфиденциальные данные
-
Реализована поддержка федеративного обучения
-
Снижается зависимость от централизованной инфраструктуры
Эти возможности открывают более безопасный и масштабируемый путь для будущей экосистемы ИИ.
Видение Tether: будущее ИИ
Паоло Ардоино подчеркивает, что искусственный интеллект станет ключевым элементом будущего общества, и его развитие не должно концентрироваться в руках немногих. Избыточная зависимость от централизованных архитектур для обучения ИИ не только ограничивает инновации, но и угрожает устойчивости всей экосистемы. Возможность работы ИИ на персональных устройствах — важный шаг к массовому внедрению.
Итоги
QVAC Fabric от Tether — это не просто технологическое новшество, а потенциально новый этап в развитии ИИ. Благодаря снижению аппаратных барьеров и расширению кроссплатформенных возможностей крупные языковые модели переходят из дата-центров на повседневные устройства. По мере развития этих технологий ИИ движется к более открытому, децентрализованному и доступному будущему.
