4Paradigm lance SageOne IA, une solution d’appliance d’inférence de grands modèles

GoldenOctober2024

2025-02-26 09:58:58

Les données de Jinshi du 26 février, Paradigm Quatre (06682.HK) a lancé aujourd’hui la solution tout-en-un de grande modèle d’inférence SageOneIA, réduisant davantage le coût de l’inférence de grand modèle. Par exemple, la version Full Blood de DeepSeekV3/R1 ne nécessite que deux tout-en-un pour fonctionner. De plus, la solution tout-en-un intègre également la technologie intelligente de pooling de Puissance de calcul, prenant en charge les grands modèles de pointe tels que DeepSeekV3/R1, QWen2.5, LLama3.3, etc. Les entreprises peuvent facilement basculer entre la version Full Blood et plusieurs modèles de distillation, avec une augmentation de plus de 30% de l’utilisation GPU et une amélioration moyenne des performances d’inférence de 5 à 10 fois.

Voir l'original

Avertissement : Les informations contenues dans cette page peuvent provenir de tiers et ne représentent pas les points de vue ou les opinions de Gate. Le contenu de cette page est fourni à titre de référence uniquement et ne constitue pas un conseil financier, d'investissement ou juridique. Gate ne garantit pas l'exactitude ou l'exhaustivité des informations et n'est pas responsable des pertes résultant de l'utilisation de ces informations. Les investissements en actifs virtuels comportent des risques élevés et sont soumis à une forte volatilité des prix. Vous pouvez perdre la totalité du capital investi. Veuillez comprendre pleinement les risques pertinents et prendre des décisions prudentes en fonction de votre propre situation financière et de votre tolérance au risque. Pour plus de détails, veuillez consulter l'avertissement.

Commentaire

0/400

Aucun commentaire