Une architecture qui réduit de 90 % les coûts tout en conservant la qualité

robot
Création du résumé en cours

Les recherches de Delphi Digital ont une grande influence sur le marché. Cependant, lorsqu’ils ont développé un produit d’IA pour une analyse crypto approfondie, le projet a failli être « abandonné » en raison de coûts économiques trop stricts. Les requêtes complexes sur la chaîne, la tokenomique ou les modèles de valorisation peuvent coûter plusieurs dollars par question. Si l’échelle est étendue à des milliers d’utilisateurs, les coûts dépasseraient la capacité de fonctionnement durable. Ils n’ont pas choisi une solution simple de passer à un modèle moins cher. Au lieu de cela, ils ont entièrement repensé l’architecture du système.

Trois couches d’architecture pour résoudre le problème de coût 1️⃣ Intelligent Query Router – Routage Intelligent Plus de 60 % des requêtes ne nécessitent pas d’accéder à un LLM. Données de prix → appel API direct Définitions, concepts de base → récupérés du cache Seules les analyses vraiment complexes → activent le modèle de raisonnement Principe : utiliser le bon outil pour la bonne tâche. Toutes les questions ne nécessitent pas une IA « lourde ». 2️⃣ Tiered Caching – Cache à plusieurs niveaux La majorité des questions sont répétées plusieurs fois. Contenu peu changé → pré-généré Contenu changeant lentement → en cache Contenu dynamique en temps réel → généré à la demande Résultats : Réduction de 70 % du délai de réponse Système plus stable Réduction significative des coûts de raisonnement 3️⃣ Blind Model Testing – Test de modèles à l’aveugle Delphi envoie la même requête à plusieurs modèles différents. Des experts évaluent les résultats sans connaître la source. Conclusion surprenante : Les petits modèles atteignent souvent une qualité comparable à celle des grands modèles. Ainsi, ils routent les requêtes vers le modèle le moins cher tout en respectant le seuil de qualité requis. Facteur clé : Vérification de la précision L’optimisation des coûts n’est réellement efficace que si la fiabilité est assurée. C’est là que @mira_network joue un rôle. Le mécanisme de consensus décentralisé permet de vérifier les résultats, permettant à Delphi de faire confiance à des modèles moins coûteux sans avoir besoin d’étendre l’équipe de vérification manuelle. Résultats Réduction de 90 % des coûts Maintien de la qualité d’analyse Accélération des réponses Le modèle devient plus durable La plus grande leçon Les capacités technologiques, si elles ne s’accompagnent pas d’une mise en œuvre économique, restent au stade de la recherche. Delphi prouve que : Le problème de déploiement est aussi important que le problème du modèle. Et avec une couche de vérification comme #Mira en arrière-plan, ces deux problèmes peuvent être résolus. $MIRA {spot}(MIRAUSDT)

MIRA-2,14%
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
0/400
Aucun commentaire
  • Épingler

Trader les cryptos partout et à tout moment
qrCode
Scan pour télécharger Gate app
Communauté
Français (Afrique)
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)