Gate Newsによると、3月16日、公式発表によれば、BittensorサブネットTemplar(SN3)は3月10日に史上最大規模の分散型LLM Covenant-72Bの事前訓練を完了しました。Covenant-72Bは720億パラメータを持つ言語モデルで、TemplarチームがBittensorサブネット3上で事前訓練を行い、完全にインターネット上のデータに基づいており、集中型データセンターを必要としません。このモデルはMMLU(ゼロショット)テストで67.1点を獲得し、同じ評価条件下でLLaMA-2-70BやLLM360 K2などの集中型ベースラインモデルを上回っています。これまでで最大規模の完全にオープンな協調型言語モデルであり、運用中に70を超える異なるノードが計算資源を提供しました。チームはすべての重みとチェックポイントをApacheライセンスの下で公開しています。このニュースの影響で、Bittensor(TAO)とそのサブネットトークンは急騰し、TAOは過去2週間で54.8%上昇しました。サブネットトークンのτemplarは過去7日間で194%上昇し、現在は19.3ドルです。