Morgan Stanley estime que bien que les ASIC personnalisés émergent dans le trading de l’IA, il est difficile d’ébranler la position sur le marché des GPU en raison des coûts élevés et des scénarios étroits, et l’hégémonie de Nvidia est stable.
Écrit par : Jiang Zihan
Source: Wall Street News
Au cours des six derniers mois, l’élan des échanges d’IA s’est tourné vers les ASIC personnalisés, le marché considérant que le potentiel de croissance des ASIC serait plusieurs fois supérieur à celui des GPU commerciaux, ce qui a entraîné un ralentissement de la hausse de Nvidia et une performance médiocre d’AMD. Cependant, selon Morgan Stanley, les attentes du marché à l’égard des ASIC sont trop élevées, et à long terme, les ASIC auront du mal à ébranler la position dominante des GPU sur le marché.
Le 12 février, l’analyste stratégique de Morgan Stanley, Joseph Moore, et son équipe ont publié un rapport indiquant que, en tant que catégorie de puces, les ASIC ne sont pas meilleures ou pires que les GPU commerciaux, les deux étant simplement des moyens différents d’atteindre le même résultat.
Daiwa a déclaré que l’ASIC se comporte effectivement bien dans certains scénarios d’application spécifiques, mais il dépend fortement des besoins personnalisés de clients spécifiques ; bien que le coût de développement de l’ASIC soit généralement plus faible, ses coûts système et de déploiement logiciel peuvent être beaucoup plus élevés que ceux des GPU pouvant être largement utilisés commercialement, ce qui peut obliger les clients à consacrer beaucoup de temps et de ressources à l’adaptation logicielle, entraînant ainsi des coûts totaux de possession plus élevés.
De plus, l’écosystème CUDA de NVIDIA est déjà très mature, ce qui permet aux clients de déployer et d’exécuter facilement différentes charges de travail, ce qui augmentera le coût total de possession. Selon JPMorgan, NVIDIA, le leader actuel dans le domaine des puces, devrait conserver sa position dominante, sauf en cas de changement inattendu.
Comparé aux GPU commerciaux, les ASIC personnalisés ont des domaines d’application trop étroits.
Daiwa a déclaré que parfois, lorsqu’il s’agit de scénarios d’application plus étroits, la personnalisation des ASIC est très attrayante. Les ASIC sont des puces personnalisées pour des fournisseurs de services cloud ou des clients d’entreprise spécifiques, capables de fournir des performances et une efficacité accrues, ce qui leur confère un avantage concurrentiel différencié sur le marché.
Par exemple, le succès du TPU (Tensor Processing Unit) de Google - la raison du succès est que Google a inventé la technologie Transformer moderne LLM et a guidé Broadcom dans le développement d’une puce spécialement optimisée à cet effet, ce qui a également rapporté plus de 8 milliards de dollars de revenus à Broadcom.
Cependant, NVIDIA est en train d’optimiser son GPU pour s’adapter au modèle Transformer et de récupérer des parts de marché. De plus, dans le domaine de l’informatique en nuage, les GPU commerciaux sont souvent plus compétitifs que les ASIC.
Par conséquent, Goldman Sachs estime que, à l’avenir, les avantages des ASIC personnalisés pourraient se manifester davantage sur les charges de travail traditionnelles - après tout, NVIDIA se concentre sur la formation de modèles AGI multimodaux, une capacité de formation qui pourrait être un peu excessive pour certaines anciennes applications.
Cependant, Goldman Sachs a également ajouté que, en ce qui concerne la fourniture de capacités de formation haut de gamme, NVIDIA pourrait toujours être difficile à surpasser.
Le coût de développement ASIC personnalisé est faible, mais le coût du système est plus élevé
Morgan Stanley indique que l’ASIC est moins cher que le GPU en termes de coûts matériels, en particulier, mais il a des coûts système et logiciels plus élevés, ce qui signifie que son coût total de possession (TCO) n’est pas nécessairement inférieur à celui du GPU commercial.
Le rapport mentionne que certains ASIC peuvent avoir un coût matériel aussi bas que 3000 $, tandis que le coût du GPU H100 de Nvidia est de 20000 $. Cette différence de prix rend les ASIC plus attrayants en termes de coût matériel.
Cependant, malgré que le coût matériel de l’ASIC soit plus bas, son coût système peut être beaucoup plus élevé que celui du GPU général, comme suit :
Le coût des clusters ASIC peut être significativement plus élevé que celui des solutions NVIDIA, car NVIDIA a créé un domaine basé sur le cuivre à 72 GPU NVLINK, tandis que les ASIC utilisent une technologie optique plus coûteuse, tout comme d’autres composants de coût élevé.
Bien que le coût de la mémoire à large bande passante (HBM) soit le même, en réalité, Nvidia peut avoir un avantage car il a le monopole du nouveau HBM, tout comme le CoWoS (chip as a package technology).
En termes de logiciel, l’écosystème CUDA de NVIDIA est très mature, ce qui permet aux clients de déployer et d’exécuter facilement diverses charges de travail. En revanche, lors de l’utilisation d’ASIC ou d’autres solutions de remplacement, les clients pourraient devoir consacrer beaucoup de temps et de ressources à l’adaptation logicielle, ce qui augmenterait le coût total de possession (TCO).
Par exemple, le client de Trainium, Databricks, s’attend à ce qu’il lui faille “des semaines ou des mois pour déployer le système en production”. Un cadre supérieur des services cloud a récemment déclaré à Goldman Sachs : “Tous les deux ans, les technologies livrées par mon équipe ASIC accusent un retard de 2 à 3 ans par rapport à NVIDIA. D’un point de vue économique, ce n’est pas si utile”.
Par conséquent, malgré le lancement par NVIDIA de puces à bas prix telles que L4, L40, le marché continue de privilégier les cartes graphiques haut de gamme coûteuses en raison de leurs avantages significatifs en termes de performances et de support écosystème.
Deutsche Bank conclut que de nombreux processeurs bon marché peuvent attirer certains clients au stade initial, mais en raison du manque d’un écosystème mature et d’un soutien à long terme, les clients finissent souvent par revenir à NVIDIA. TPU, Trainium et AMD MI300 sont quelques-unes des rares exceptions. Cela ne signifie pas que les processeurs moins chers n’ont pas de valeur, mais plutôt que, dans la pratique, ils n’obtiennent souvent pas la part de marché initialement prévue.
La domination de NVIDIA est inébranlable.
La position de marché de NVIDIA reste solide comme un roc. Selon JP Morgan, la position dominante de NVIDIA sur le marché des puces AI repose non seulement sur sa solide force technologique, mais aussi sur son écosystème complet et ses investissements continus dans la R&D.
Le rapport indique que NVIDIA devrait investir environ 16 milliards de dollars américains en R&D cette année, tandis que le budget de développement de puces ASIC personnalisées est généralement inférieur à 1 milliard de dollars, et parfois même moins, dans certains cas.
Avec ces fonds, NVIDIA peut maintenir un cycle de développement de 4 à 5 ans, faire fonctionner trois équipes de conception en séquence et continuer à lancer des puces haute performance leader sur le marché. De plus, NVIDIA occupe une place sur chaque plate-forme cloud de chaque région du monde, et tout investissement dans l’écosystème NVIDIA peut être diffusé à l’échelle mondiale, renforçant davantage sa position de leader sur le marché.
