Gate News 消息,3 月 16 日,据官方消息,Bittensor 子网 Templar(SN3)已于 3 月 10 日完成史上最大去中心化 LLM Covenant-72B 预训练。Covenant-72B 是一个拥有 720 亿参数的语言模型,由 Templar 团队在 Bittensor 子网 3 上预训练而成,完全基于通用互联网,无需集中式数据中心。该模型在 MMLU(零样本)测试中取得了 67.1 分,在相同的评估条件下超越了 LLaMA-2-70B 和 LLM360 K2 等集中式基线模型。它是迄今为止规模最大的完全无需许可参与的协作式语言模型,在整个运行过程中,超过 70 个不同的节点贡献了计算资源。该团队已根据 Apache 许可证发布了所有权重和检查点。或受此消息影响,Bittensor(TAO)及其子网代币普涨,TAO 近两周涨 54.8%。子网代币 τemplar 近 7 日涨幅 194%,现报 19.3 美元。
