Tim SGLang, mesin reasoning sumber terbuka, menyelesaikan pendanaan tahap benih sebesar 100 juta dolar AS, dengan Accel memimpin investasi

Menurut pemantauan Beating, tim di balik mesin inferensi sumber terbuka SGLang secara resmi mendirikan perusahaan RadixArk, menyelesaikan pendanaan tahap awal sebesar 100 juta dolar AS, dengan valuasi pasca-investasi sebesar 400 juta dolar AS. Accel memimpin putaran pendanaan, Spark Capital ikut memimpin bersama, NVIDIA (melalui NVentures) dan dua pesaing chip AMD turut berpartisipasi, dan MediaTek juga termasuk dalam daftar investor.

SGLang adalah lapisan perantara antara model dan perangkat keras, yang secara lebih efisien mengatur memori GPU untuk menurunkan biaya inferensi AI. Proyek ini dimulai pada tahun 2023, saat ini memproses triliunan token setiap hari untuk Google, Microsoft, NVIDIA, Oracle, xAI, dan lainnya. RadixArk juga mengelola proyek sumber terbuka lain bernama Miles, yang fokus pada pelatihan pembelajaran penguatan skala besar, dan telah digunakan untuk pelatihan MoE (Model Campuran Ahli, arsitektur model yang hanya mengaktifkan sebagian parameter untuk mengurangi beban komputasi).

Perusahaan didirikan oleh Banghua Zhu dan Ying Sheng. Pendanaan akan digunakan untuk memperluas kedua proyek sumber terbuka tersebut, mendukung lebih banyak arsitektur model dan platform perangkat keras, serta meluncurkan layanan infrastruktur terkelola untuk perusahaan.