Le CUDA Core, RT Core et Tensor Core sont trois technologies développées par NVIDIA, chacune ayant des fonctions spécifiques et complémentaires, principalement dans les domaines du calcul parallèle, de la 3D et de l’intelligence artificielle (IA) dont le machine learning et le deep learning.
Ces 3 technologies sont liées tout en étant autonomes. Les CUDA Cores sont polyvalents et dédiés au calcul général, les RT Cores sont spécialisés dans le ray tracing pour le rendu graphique, et les Tensor Cores sont optimisés pour les calculs de l’apprentissage profond (deep learning).
Les CUDA Cores, qu’est-ce que c’est ?
Les CUDA Cores, ou cœurs CUDA, sont des unités de calcul parallèles propres aux cartes graphiques de la marque NVIDIA. CUDA signifie Compute Unified Device Architecture. Ces cœurs sont une partie intégrante de l’architecture des GPU professionnels (unité de traitement graphique). Ils sont conçus pour exécuter simultanément de nombreuses opérations de calcul.
Ils sont utilisés dans une large gamme d’applications, des graphismes de jeux vidéo à la modélisation scientifique et à l’analyse de données. Dans le contexte de l’IA, les CUDA Cores accélèrent les calculs des réseaux neuronaux, en particulier pour l’entraînement et l’inférence des modèles.
Le rôle des CUDA
Les CUDA Cores sont les chefs d’orchestres capables d’accélérer les calculs complexes. Ils travaillent en groupe pour mener à bien ces tâches et ce, rapidement.
Leur nombre dans un GPU , est crucial : plus il y a de CUDA Cores, plus la carte graphique est capable de traiter de l’information en parallèle. Cela se traduit par des performances élevées, vitales pour les logiciels de conception assistée par ordinateur (CAO), les jeux vidéo haut de gamme ou les travaux d’intelligence artificielle.
Comment les CUDA cores amplifient les performances ?
- Parallélisme et traitement simultané : Les CUDA Cores excellent dans l’exécution parallèle des tâches.
- Calcul haute précision : Ces coeurs sont conçus pour faire des calculs de haute précision, indispensables pour les applications professionnelles telles que la simulation scientifique et l’animation 3D.
- Optimisation de l’intelligence artificielle : Avec l’avancée des technologies d’IA, les CUDA Cores sont de plus en plus sollicités pour entraîner des modèles complexes, grâce à leur capacité à effectuer rapidement des calculs d’algèbre linéaire.
Comment choisir sa carte graphique en fonction des CUDA Cores ?
Les premiers CUDA Cores ont fait leur apparition avec la série GeForce 8 de NVIDIA, et depuis, leur développement n’a pas arrêté. Les nouvelles générations d’architectures GPU telles que Turing et Ampere ont vu le jour, chacune augmentant considérablement le nombre de cœurs et leur efficacité. Ces évolutions sont logiques suite à la demande grandissante du marché quant à des capacités de traitement pour la réalité virtuelle, l’IA et l’apprentissage.
Lorsque vous choisissez une carte graphique, la quantité de CUDA Cores est un paramètre important, mais ce n’est pas le seul. Il est conseillé de considérer également les aspects suivants :
- La fréquence des cœurs
- La quantité et la latence de la mémoire vive (VRAM)
- La bande passante de la mémoire
- Les autres technologies supportées (Ray Tracing, DLSS, etc.)
Le choix doit se faire en fonction de l’usage prévu : un gamer cherchera le meilleur pour le rendu des derniers titres AAA, tandis qu’un professionnel aura besoin d’optimiser les calculs pour des tâches spécifiques comme les rendus 3D ou les analyses de données complexes.
RT Cores, l’innovation du Ray Tracing en temps réel
Le ray tracing, est une technique de rendu d’images par ordinateur qui simule le parcours de la lumière pour créer des effets visuels réalistes. Longtemps considéré comme une prouesse technique difficile à réaliser en temps réel, notamment à cause de sa demande conséquente en ressources, l’avènement des RT Cores a marqué un tournant décisif dans le domaine.
Les RT Cores sont introduits par NVIDIA en 2018 avec la première série de cartes RTX 2000. Ce sont des composants intégrés aux cartes graphiques et conçus spécifiquement pour accélérer le calcul des interactions de la lumière dans une scène 3D. Grâce à cette nouvelle technologie, il est désormais possible de réaliser du ray tracing en temps réel sans entâcher les performances des jeux ou des applications de visualisation.
Qu’est-ce que le Ray Tracing ?
Le ray tracing est une technologie de rendu graphique qui imite la façon dont la lumière se comporte dans le monde réel. Elle calcule le chemin pris par les rayons de lumière lorsqu’ils rebondissent sur les différents objets d’une scène, y compris les réflexions, réfractions et ombres. Le résultat est une image avec un photoréalisme élevé. Ces cores dédiés permettent de traiter cette fonctionnalité, sans diminuer les performances générales du GPU.
Auparavant, le ray tracing était principalement limité à des environnements sous forme de pré-rendus, comme des films d’animation ou des visualisations architecturales. Le temps de calcul n’est pas un problème pour ces usages, puisqu’ils ne sont pas en temps réel. Avec les RT Cores, le traitement des rayons de lumière est accéléré matériellement, réduisant drastiquement les temps de calcul nécessaires et ouvrant la porte au ray tracing en temps réel pour des applications interactives comme les jeux vidéo.
Les RT Cores les alliés du rendu graphique haute fidélité
Les RT cores fonctionnent en tandem avec les autres composants de la carte graphique, comme les shaders et les Tensor Cores (dans le cas des dernières générations de cartes NVIDIA). Pendant que les shaders s’occupent des tâches de rendu traditionnelles, les coeurs de ray tracing prennent le relais pour les calculs spécifiques à la lumière.
les Tensor Cores peuvent travailler avec les RT Cores pour peaufiner des rendus grâce à des techniques comme le deep learning. On pourra les utiliser dans des simulations physiques type jumeau numérique par exemple.
Dernièrement de nombreux travaux de recherche portent sur leurs usages dans l’entrainement des réseaux neuronaux.
Tensor Cores, l’accélération de l’intelligence artificielle
Au cœur des avancées de l’intelligence artificielle (IA) se cachent des composants électroniques innovants : les Tensor Cores. Ces puces ultra spécialisées sont conçues pour accélérer les calculs dans le secteur du machine learning et du deep learning.
Tensor cores, qu’est-ce que c’est ?
Les Tensor Cores sont intégrés dans certaines cartes graphiques modernes et notamment ceux de la gamme NVIDIA Geforce RTX, NVIDIA Tesla et RTX Quadro. Le rôle de ces cœurs est d’effectuer des calculs matriciels parallèles rapides. Le traitement des données sous forme de matrices est un élément clé des algorithmes d’IA. Cela se traduit par une accélération significative des tâches telles que le calcul des gradients pendant l’entraînement des réseaux de neurones ou l’inférence par exemple.
Un gradient, en mathématique, est un vecteur qui pointe dans la direction de l’augmentation la plus rapide d’une fonction. Dans le contexte de l’IA, cette fonction indique dans quelle direction ajuster les paramètres du modèle.
Les avantages des tensor cores
Les bénéfices des Tensor Cores sont multiformes et répondent aux exigences croissantes de l’industrie de l’IA.
- Grande vitesse de calcul
- Optimisation de la consommation d’énergie
- Efficacité dans le traitement des données en masse
- Prise en charge des formats de données complexes utilisés en IA
Ils ont donc un impact direct sur le développement et la démocratisation de l’IA. En rendant le traitement des données plus rapide et moins coûteux, ils ouvrent la voie à une innovation plus large et à une adoption de l’IA dans des secteurs variés donc le secteur industriel.
Aujourd’hui, une grande majorité des produits NVIDIA intègrent des Tensor Cores. Dans les cartes dédiées au domaine professionnel on retrouvera par exemple :
NVIDIA Quadro RTX Series :
- Quadro RTX 8000
- Quadro RTX 6000
- Quadro RTX 5000
- …
NVIDIA Tesla Series (Particulièrement dédié à l’architecture TC)
- Tesla V100
- Tesla T4
- …
NVIDIA A-Series (Ampere Architecture) :
- NVIDIA A100
- NVIDIA A40
- NVIDIA A30
- …
Egalement les solutions basées sur NVIDIA DGX Systems. Même si ce ne sont pas des cartes comme on l’entend pour les Quadro, elles intègrent des architectures basées sur ces innovations.
Vous l’aurez compris ces 3 structures de coeurs dans les GPU permettent d’obtenir des d’excellentes performances dans le domaine de l’IA.
Les CUDA Cores s’occupent de l’orchestration générale des tâches et des « calculs simples ». Ils sous-traitent les calculs de rendus de lumières aux RT cores et les calculs matriciels parallèles au Tensor Cores. Chaque type de cœur joue un rôle spécifique, et leur capacité à fonctionner ensemble rend les GPU NVIDIA polyvalents et puissants pour les applications allant du rendu graphique à l’IA.