Sommaire
Les tendances émergentes de l’utilisation du matériel AI
L’évolution des préférences des équipes d’IA
Les dépenses en matériel pour l’intelligence artificielle (IA) commencent à changer, alors que les équipes évaluent la performance, les contraintes budgétaires et la scalabilité, selon une nouvelle étude.
La dernière enquête sur le matériel IA réalisée par Liquid Web a analysé les réponses de 252 professionnels formés en IA. Bien que Nvidia reste le principal fournisseur de matériel utilisé, des concurrents tels que Google TPUs, les GPU d’AMD et les puces Intel commencent à gagner du terrain.
Près d’un tiers des répondants ont indiqué utiliser ces alternatives pour au moins une partie de leurs tâches.
Les pièges d’une diligence incomplète
Bien que l’échantillon soit relativement petit, ne représentant pas totalement l’adoption globale, les résultats montrent un changement clair dans la manière dont les équipes réfléchissent à leur infrastructure.
Une seule équipe peut déployer des centaines de GPU, donc même une adoption limitée d’options non-Nvidia peut avoir un grand impact sur l’infrastructure matérielle.
Nvidia reste le choix préféré de plus de deux tiers (68%) des équipes sondées, et plusieurs acheteurs ne comparent pas rigoureusement les alternatives avant de prendre une décision.
Environ 28% des sondés ont admis avoir sauté les évaluations structurées, menant parfois à une infrastructure mal adaptée et sous-performante.
« Notre recherche montre que le manque de diligence conduit à des initiatives retardées ou annulées – une erreur coûteuse dans une industrie en évolution rapide », a déclaré Ryan MacDonald, CTO chez Liquid Web.
Facteurs influençant le choix des GPU
La familiarité et l’expérience passée sont parmi les moteurs les plus puissants du choix de GPU. Quarante-trois pour cent des participants ont cité ces facteurs, par rapport à 35% qui ont mentionné le coût et 37% qui valorisent les tests de performance.
Les limitations budgétaires pèsent également beaucoup, avec 42% réduisant les projets et 14% les annulant entièrement à cause des pénuries de matériel ou des coûts élevés.
Solutions hybrides et basées sur le cloud
Les solutions hybrides et basées sur le cloud deviennent la norme. Plus de la moitié des répondants ont dit utiliser à la fois des systèmes sur site et des systèmes cloud, et beaucoup prévoient d’augmenter les dépenses cloud au cours de l’année.
L’hébergement GPU dédié est perçu par certains comme un moyen d’éviter les pertes de performance associées au matériel partagé ou fractionné.
Défis liés à l’utilisation de l’énergie
L’utilisation de l’énergie continue d’être un défi. Bien que 45% reconnaissent l’importance de l’efficacité, seuls 13% optimisent activement pour celle-ci.
Beaucoup ont également regretté des revers liés à l’alimentation, au refroidissement et aux chaînes d’approvisionnement.
Alors que Nvidia continue de dominer le marché, il est évident que la concurrence rattrape son retard. Les équipes découvrent que l’équilibre entre coût, efficacité et fiabilité est presque aussi crucial que les performances brutes lors de la construction d’une infrastructure IA.
