Tether 發布 QVAC Fabric：使大型 AI 模型能夠在手機及日常裝置上進行訓練

AI 訓練門檻的重大突破

在 AI 模型開發領域，訓練大型語言模型長期依賴高成本硬體及雲端資源，導致技術長時間集中於少數大型機構手中。

（來源：tether）

Tether 這次推出的 QVAC Fabric，專為 BitNet（1-bit 大型語言模型）設計全新 LoRA 微調框架，有效降低運算資源與記憶體需求，讓一般使用者也能參與 AI 模型訓練。

跨平台運作：全面支援從電腦到手機

QVAC Fabric 的一大核心優勢在於其廣泛的硬體相容性。此框架可在多元裝置上運行，包括：

• 筆記型電腦
• 消費級 GPU（Intel、AMD、Apple Silicon）
• 智慧型手機（包含多種行動 GPU）

這代表 AI 模型訓練與推論不再受限於資料中心或專業設備，而能於日常裝置上實現。

手機也能訓練大型模型

此項技術的一大亮點，就是成功於行動裝置上完成模型微調。

例如：

• 在 Samsung S25（Adreno GPU）上，125M 參數模型約 10 分鐘即可完成微調
• 同一裝置上，1B 模型約 1 小時 18 分鐘完成
• 在 iPhone 16 上，1B 模型約需 1 小時 45 分鐘

團隊甚至成功於手機上運行高達 13B 參數的模型，顯示行動裝置的 AI 潛力大幅提升。

效能與記憶體優化的關鍵突破

與傳統模型相比，BitNet 架構在效能及資源使用上展現顯著優勢：

效能層面

• 行動 GPU 推論速度較 CPU 快 2 至 11 倍
• 可處理過去需仰賴資料中心的工作負載

記憶體使用

• 相較 16-bit 模型，VRAM 使用最高可減少約 77.8%
• 提供更大執行空間，支援更大型模型及個人化應用

這些改進讓 AI 應用更容易於邊緣裝置落地。

擺脫 NVIDIA 及雲端依賴

傳統 AI 訓練高度依賴 NVIDIA 硬體與雲端服務，QVAC Fabric 則突破此一限制，首次讓 1-bit LLM 能在非 NVIDIA 硬體上進行 LoRA 微調，包含 AMD、Intel、Apple Silicon 及行動 GPU（如 Adreno、Mali）。這不僅降低成本，更促進 AI 開發分散化。

推動去中心化與隱私保障

QVAC Fabric 的另一項關鍵價值，在於支援資料隱私與分散式學習：

• 模型訓練可於本地裝置完成，避免敏感資料上傳
• 有助於實現聯邦學習（Federated Learning）
• 減少對中心化基礎設施的依賴

這為未來 AI 生態帶來更安全且具擴展性的發展方向。

Tether 對 AI 未來的展望

Paolo Ardoino 指出，AI 將在未來社會中扮演關鍵角色，其發展不應由少數資源掌握者壟斷。他強調，若 AI 訓練過度依賴中心化架構，不僅會限制創新，也可能影響整體生態穩定。因此，讓 AI 能於個人裝置上運行，是推動技術普及的重要一步。

總結

Tether 推出的 QVAC Fabric 不僅是技術創新，更象徵 AI 發展模式的潛在轉變。透過降低硬體門檛與強化跨平台能力，大型語言模型正逐步走出資料中心，進入每個人的日常裝置。未來，隨著這類技術持續成熟，AI 有望從集中化資源邁向更開放、分散且普及的新階段。