Bittensor підмережа завершила попереднє навчання LLM з 72 мільярдами параметрів, TAO зросійпо 54,8% за останні два тижні

Gate News новини, 16 березня, за офіційною інформацією, підмережа Templar (SN3) проекту Bittensor 10 березня завершила найбільше в історії децентралізоване попереднє навчання великої мовної моделі Covenant-72B. Covenant-72B — це мовна модель з 72 мільярдами параметрів, яка була попередньо навчена командою Templar на підмережі Bittensor 3, повністю базується на загальному інтернеті без централізованих дата-центрів. Модель показала 67.1 бал у тесті MMLU (нульовий зразок), перевершивши при цьому централізовані базові моделі, такі як LLaMA-2-70B та LLM360 K2, за однакових умов оцінювання. Це наймасштабніша на сьогоднішній день повністю відкрито ліцензована колаборативна мовна модель, у процесі роботи якої понад 70 різних вузлів внесли обчислювальні ресурси. Всі ваги та контрольні точки були опубліковані командою відповідно до ліцензії Apache. У зв’язку з цим повідомленням, токени Bittensor (TAO) та його підмережі різко зросли в ціні, TAO за останні два тижні піднявся на 54.8%. Токен підмережі τemplar за останні 7 днів виріс на 194%, зараз його ціна становить 19.3 долара.