Стейблкоін-емітент Tether сьогодні (17 числа) оголосив про значний технологічний прорив у своїй AI-інфраструктурі QVAC Fabric: запуск першої у світі кросплатформної фреймворку для тонкого налаштування BitNet LoRA, яка дозволяє тренувати та робити висновки великих мовних моделей, що раніше вимагали корпоративних GPU та хмарних обчислень, тепер на звичайному споживчому обладнанні, включаючи смартфони.
Смартфони також можуть тренувати LLM: модель 1B за 1 годину
За даними Tether, ця фреймворка вже успішно реалізована на різних пристроях для тонкого налаштування моделей BitNet, включаючи популярні Samsung S25 та iPhone 16.
Samsung S25 (Adreno GPU):
iPhone 16 (Apple GPU):
- 1 мільярд параметрів: приблизно 1 година 45 хвилин
Максимальне тестування показало можливість тонкого налаштування моделей до 13 мільярдів параметрів
Раніше AI-тренування виконувалися виключно на високопродуктивних GPU NVIDIA, але тепер вони зжалися до смартфонів та інших крайових пристроїв.
Ключова технологія BitNet + LoRA: зменшення вартості AI до мінімуму
Основою цього прориву є поєднання двох технологій:
BitNet (1-бітовий LLM)
Зменшує традиційні високоточні ваги до трьох значень: -1, 0, 1, значно знижуючи потребу у пам’яті та обчислювальних ресурсах.
LoRA (Low-Rank Adaptation)
Тренує лише невелику кількість параметрів (може зменшити обсяг тренування до 99%), значно знижуючи вартість тонкого налаштування.
Об’єднання цих технологій дозволяє моделям працювати в умовах дуже обмежених ресурсів.
Практичні випробування показали, що BitNet-1B використовує на 77.8% менше VRAM, ніж Gemma-3-1B, і на 65.6% менше VRAM, ніж Qwen3-0.6B. За однакових апаратних умов можна запускати моделі майже вдвічі більші.
GPU-розблокування AI на смартфонах: продуктивність зросла в 11 разів
Ще одним ключовим проривом QVAC є можливість запуску BitNet на «не NVIDIA» екосистемах. Підтримуються GPU від AMD, Intel, Apple Silicon, а також мобільні GPU: Adreno, Mali, Apple Bionic.
Великі мовні моделі більше не є прерогативою технологічних гігантів — AI стає децентралізованим
Генеральний директор Tether Paolo Ardoino заявив: «Розумність стане ключовим фактором розвитку майбутнього суспільства. Вона має потенціал підвищити стабільність суспільства, стати зв’язком між людьми або додатково надавати можливості обмеженій кількості еліт. Майбутнє штучного інтелекту має бути доступним для всіх, кожен має мати можливість його використовувати, а не обмежуватися ресурсами, які доступні лише кільком облачним сервісам.»
Традиційне AI-розроблення сильно залежить від хмарних сервісів та великих GPU-кластерів, що коштує дорого і зосереджено у руках кількох технологічних гігантів. Платформа Tether QVAC підтримує тренування великих моделей на споживчому обладнанні, включаючи смартфони, що доводить можливість децентралізації та інклюзивності передових штучних інтелектів. У найближчі місяці компанія планує інвестувати значні ресурси та кошти, щоб забезпечити доступність AI у будь-якому місці та в будь-який час на локальних пристроях.
Ця стаття: AI більше не є прерогативою технологічних гігантів! Tether запускає QVAC — час мати власний LLM у кожного? Спершу опубліковано на Chain News ABMedia.
Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до
Застереження.
