NEC HPC avec la série AMD Instinct MI350

PERFORMANCE DE LEADERSHIP POUR IA ET HPC
Découvrez les possibilités de performance accélérée à grande échelle.

AMD présente la nouvelle série de GPU MI350, composée du GPU AMD Instinct MI350X, offrant des performances de pointe pour l’inférence et l’entraînement IA à grande échelle, ainsi que du GPU AMD Instinct MI355X, conçu pour une infrastructure haute densité, efficace et évolutive. Avec une capacité mémoire accrue, un support robuste des types de données et plusieurs options de refroidissement, les GPU de la série MI350 gèrent efficacement les charges de travail IA diverses, de l’inférence à grande échelle à l’entraînement de modèles d’IA générative.

ÉVOLUTIVITÉ ET DÉPLOIEMENT SANS FAILLE
Facilitez la configuration de charges de travail accélérées par GPU telles que l’apprentissage automatique et l’IA générative.

Les GPU AMD Instinct MI350 à refroidissement par air s’intègrent parfaitement aux plateformes AMD Instinct MI300 de génération précédente (MI300X et MI325X) ainsi qu’aux infrastructures concurrentes, offrant des améliorations de performance rentables pour répondre aux exigences évolutives des infrastructures. Ils fonctionnent avec l’AMD GPU Operator, qui simplifie le déploiement et la gestion des accélérateurs GPU AMD Instinct au sein des clusters Kubernetes.

CONFIÉ PAR LES LEADERS IA
Rejoignez la communauté des CSP, OEM et ODM qui propulsent l’IA de prochaine génération à grande échelle.

Les GPU de la série AMD Instinct alimentent l’IA, favorisant l’adoption auprès des principaux fournisseurs de services cloud (CSP) et des partenaires OEM. AMD propose des solutions IA évolutives et efficaces, offrant aux clients un choix accru et un avantage concurrentiel dans l’innovation IA. Leur adoption souligne leurs performances, leur efficacité et leur évolutivité éprouvées et renforce AMD en tant que fournisseur de confiance pour l’IA de prochaine génération.

LOGICIEL IA PRÉVU, OUVERT, INFINI
Permettez un déploiement sans effort de l'IA et du calcul haute performance avec des modifications de code minimales et une flexibilité maximale.

AMD facilite l’adoption et l’utilisation de multiples plateformes d’accélération et de développement HPC et IA multiplateforme avec l’écosystème logiciel open-source ROCm 7.0 et l’ensemble d’outils de programmation. Une collection de pilotes, d’outils de développement et d’API, elle extrait les meilleures performances des GPU AMD Instinct tout en maintenant la compatibilité avec les cadres logiciels de l’industrie.

Sécurité intégrée pour les déploiements d'IA et HPC
Obtenez une sécurité avancée pour protéger les modèles d'IA, les données et l'intégrité du système.

Les GPU de la série AMD Instinct MI350 offrent des fonctionnalités de sécurité robustes pour protéger les modèles IA, les données et l’intégrité du système. Ils garantissent que seul le micrologiciel de confiance s’exécute, vérifient l’authenticité matérielle et chiffrent la communication GPU à haute vitesse. Ces protections les rendent idéaux pour l’IA cloud, les charges de travail d’entreprise et critiques.

TECHNICAL DEEP DIVE

#1 DISCOVER THE POSSIBILITIES OF ACCELERATED PERFORMANCE AT SCALE

• Les GPU AMD Instinct MI350 disposent de cœurs puissants et économes en énergie, maximisant les performances par watt pour conduire la prochaine ère d’innovation IA et HPC. Avec les nouvelles prise en charge étendue des types de données FP6 et FP4, une mémoire HBM3E massive de 288 GB et une bande passante allant jusqu’à 8 TB/s, ils maximisent le débit de calcul, l'utilisation de la bande passante mémoire et l'énergie.

• Les plateformes AMD Instinct MI350X et MI355X 8xGPU offrent jusqu'à 36,8 et 40,3 PFLOPs de performance bfloat16, respectivement, avec une sparsité structurée, et avec un nouveau support étendu pour de nouveaux types de données, ils offrent jusqu'à 148 et 161,1 PFLOPs performance matrice FP6/FP4, respectivement, avec une sparsité structurée.

• Les plateformes AMD Instinct MI350X et MI355X 8xGPU offrent jusqu'à 2,05× et 2,2× la performance théorique maximale PFLOPS de matrice FP6, respectivement, contre le NVIDIA HGX B200 GPU.

• La carte graphique AMD Instinct MI355X offre jusqu'à 2× la performance théorique maximale en FP6 matrice PFLOPS avec une sparsité structurée par rapport à la NVIDIA GB200 GPU.

• Les GPU AMD Instinct MI350X et MI355X offrent jusqu'à 77 % et 93 % de performance théorique maximale FP8 supérieure, respectivement, avec une sparsité structurée supérieure à celle du GPU AMD Instinct MI300X de génération précédente.

Les GPU AMD Instinct MI350X et MI355X avec le type de données matriciel FP4 devraient fournir jusqu’à 7 fois et 7,7 fois la performance, respectively, sur l'IA et les charges de travail d'entraînement par rapport au GPU AMD Instinct MI300X utilisant une matrice FP16.

• Les GPU de la série AMD Instinct MI350 offrent jusqu'à 2,04× la capacité mémoire de la NVIDIA H200 GPU et jusqu'à 60 % de capacité mémoire supplémentaire que le NVIDIA HGX B200 GPU.

• Les GPU de la série AMD Instinct MI350 offrent jusqu'à 50 % de capacité mémoire supplémentaire que les GPU AMD Instinct MI300X de génération précédente.

• Les solutions de centre de données AMD prennent en charge les charges de travail IA et HPC à une échelle énorme avec une efficacité accrue. AMD alimente 5 des 10 meilleurs superordinateurs sur la liste Top500 et plus de la moitié des 20 meilleurs systèmes superordinateurs de la liste Green500.

#2 EASE THE CONFIGURATION OF GPU-ACCELERATED WORKLOADS SUCH AS MACHINE LEARNING AND GENERATIVE AI

• Les GPU AMD Instinct MI350 optimisent l’efficacité, la bande passante et la consommation d’énergie pour une inférence et un entraînement IA rapides et économes en énergie.
• Le traitement amélioré grâce aux capacités FP6 et FP4 de nouvelle génération permet aux GPU AMD Instinct MI350 de fournir des performances exceptionnelles pour les modèles d’IA générative, repoussant les limites de l’accélération IA. • Le support de la sparsité matricielle aide davantage à optimiser l’entraînement et l’inférence IA, facilitant l’échelle des solutions IA à travers les centres de données. #3 JOIN THE COMMUNITY OF CSPs, OEMs AND ODMs DRIVING NEXT-GEN AI AT SCALE

• Avec le support de partenaires tiers tels que Clarifai, ClearML, Fireworks, Flex.ai, Lamini, Rapt.ai, RHEL, OpenShift et UbiOps, AMD offre aux clients flexibilité, choix et outils de premier plan pour accélérer l’innovation IA.
#4 SMOOTH YOUR AI AND HPC DEPLOYMENTS WITH MINIMAL CODE CHANGES AND MAXIMUM FLEXIBILITY

• ROCm 7.0 vous permet de développer des applications dans un système open-source afin que le logiciel soit portable, permettant le déplacement entre les GPU de différents fournisseurs ou entre différentes architectures de connectivité inter-GPU—tout cela de manière indépendante du dispositif, contrairement aux solutions matérielles propriétaires de NVIDIA. • Les dernières améliorations de ROCm optimisent l’inférence IA, l’entraînement et la compatibilité des frameworks, offrant un débit élevé et une latence ultra-faible pour des charges de travail telles que le traitement du langage naturel (NLP), la vision par ordinateur et au-delà. ROCm est bien adapté aux HPC accéléré par GPU, IA, calcul scientifique et conception assistée par ordinateur (CAO). • Les GPU AMD Instinct MI350 s’intègrent facilement à JAX, Kokkos, ONNX, PyTorch, Raja, Runtime, TensorFlow, Triton, vLLM et plus encore, permettant un déploiement IA et HPC sans effort avec peu de modifications de code. • Avec le support Day 0, le logiciel ROCm optimise les charges de travail IA provenant de Hugging Face, Meta, OpenAI et d’autres, offrant un débit élevé, une faible latence et une efficacité maximale pour l’inférence NLP, vision par ordinateur et IA générative—accélérant l’innovation IA à grande échelle. #5 GET ADVANCED SECURITY TO PROTECT AI MODELS, DATA AND SYSTEM INTEGRITY

• Les GPU AMD Instinct MI350 offrent Device Secure Boot et Secure Update and Recovery pour garantir que seul le firmware approuvé s’exécute, tandis que Platform-Level DICE Identity and Attestation vérifie l’authenticité du GPU afin d’empêcher tout accès non autorisé.
• Infinity Fabric™ Link Security aide à garantir une communication GPU‑GPU à haute vitesse qui est sécurisée.

1 Top500 list, November 2024, top500.org.

2 Green500 list, November 2024, top500.org.

©2025 Advanced Micro Devices, Inc. All rights reserved. AMD, the AMD arrow, AMD Instinct, Infinity Fabric, AMD Infinity Platform, AMD CDNA, ROCm and combinations thereof, are trademarks of Advanced Micro Devices, Inc. NVIDIA is a trademark of NVIDIA Corporation in the U.S. and/or other countries. The OpenMP name and the OpenMP logo are registered trademarks of the OpenMP Architecture Review Board. Other product names used in this publication are for identification purposes only and may be trademarks of their respective companies.