SGLang はモデルとハードウェアの間の中間層であり、より効率的にビデオメモリを調整することで AI 推論コストを削減する。プロジェクトは2023年に開始され、現在毎日 Google、Microsoft、NVIDIA、Oracle、xAI などに対して数兆トークンを処理している。RadixArk は同時にもう一つのオープンソースプロジェクト Miles を運営しており、大規模強化学習の訓練に焦点を当てており、MoE(混合専門家、部分的にパラメータを活性化して計算量を削減するモデルアーキテクチャ)の訓練に既に使用されている。
オープンソース推論エンジンSGLangチームが1億ドルのシードラウンド資金調達を完了、Accelがリード投資
据动察 Beating 監測、オープンソース推論エンジン SGLang の背後にいるチームは正式に会社 RadixArk を設立し、1億ドルのシードラウンド資金調達を完了し、投資後の評価額は4億ドルとなった。Accel がリード投資し、Spark Capital が共同リード、NVIDIA(NVenturesを通じて)と AMD の二つのチップ競合も同時に出資し、MediaTek も投資者の一員である。
SGLang はモデルとハードウェアの間の中間層であり、より効率的にビデオメモリを調整することで AI 推論コストを削減する。プロジェクトは2023年に開始され、現在毎日 Google、Microsoft、NVIDIA、Oracle、xAI などに対して数兆トークンを処理している。RadixArk は同時にもう一つのオープンソースプロジェクト Miles を運営しており、大規模強化学習の訓練に焦点を当てており、MoE(混合専門家、部分的にパラメータを活性化して計算量を削減するモデルアーキテクチャ)の訓練に既に使用されている。
会社は Zhu Banghua と Sheng Ying によって設立された。資金は二つのオープンソースプロジェクトの拡張に使われ、より多くのモデルアーキテクチャとハードウェアプラットフォームをサポートし、企業向けのホスティングインフラサービスも展開する予定である。