Tether запустив фреймворк навчання ШІ для смартфонів та споживацьких GPU

Tether щойно оголосила про нову платформу для навчання штучного інтелекту, яка дозволяє налаштовувати великі мовні моделі безпосередньо на пристроях споживача, таких як смартфони та GPU, не належні Nvidia. Ця система, яка входить до платформи QVAC, використовує архітектуру BitNet від Microsoft у поєднанні з технікою LoRA для значного зменшення вимог до пам’яті та обчислювальних витрат.

За словами Tether, цей фреймворк підтримує мультиплатформність і сумісний з чипами AMD, Intel, Apple Silicon та мобільними GPU Qualcomm. Інженери можуть налаштовувати моделі до 1 мільярда параметрів на смартфоні за менше ніж дві години, а також масштабувати до 13 мільярдів параметрів на мобільних пристроях.

Технологія BitNet допомагає зменшити використання VRAM до 77,8% у порівнянні з моделлю 16-біт, одночасно прискорюючи обробку на мобільних GPU. Tether також підкреслює потенціал застосування, такого як федеративне навчання, для зменшення залежності від хмари.

Цей крок відображає тенденцію розширення криптовалютних компаній у сферу AI та обчислювальної інфраструктури, паралельно з розвитком AI-агентів у галузі.