Analyse approfondie de la bibliothèque HCCL dans CANN Ascend : primitives de communication parallèle multi-cartes et guide technique complet d’optimisation des performances
Introduction
Dans l'architecture hétérogène Ascend CANN, l'entraînement distribué constitue l'un des scénarios les plus critiques. Lorsqu’il s’agit d’entraîner de grands modèles comme BERT-Large ou LLaMA-7B, une seule carte NPU ne suffit ni à stocker le modèle entier, ni à exécuter efficacement le processus d'apprentissage. Il devient donc indi ...
Publié le 24 octobre à 11h44
Architecture de réutilisation M×N dans CANN : Le rôle de ascend-boost-comm
L'écosystème CANN (Compute Architecture for Neural Networks) comprend plus de 50 dépôts, chacun hébergeant des dizaines d'opérateurs. Historiquement, ces dépôts partageaient des besoins redondants : la gestion des partitions de données pour les opérateurs de mémoire, la détection de topologie pour les communications, ou encore l'inférence de fo ...
Publié le 7 octobre à 09h59
Gestion de la restriction hardware de l'attribut half_pixel_centers dans MindSpore
Lors de l'utilisation de l'opérateur ResizeBilinear dans MindSpore pour redimensionner des tenseurs via une interpolation bilinéaire, les développeurs peuvent rencontrer une erreur liée à la configuration matérielle lorsque l'attribut half_pixel_centers est activé sur un environnement CPU.
Analyse de l'erreur de configuration
L'erreur survient ...
Publié le 22 juillet à 01h18
Fonction Select du kit de développement asc-devkit CANN
Select
L'asc-devkit est le langage de développement de programmes d'opérateurs dédié aux processeurs AI Ascend de Huawei CANN. Il supporte nativement les normes C et C++ et est principalement composé d'une bibliothèque de classes et d'une couche d'extensions linguistiques, fournissant une API multi-niveaux pour répondre aux besoins de développe ...
Publié le 12 juillet à 01h34
Fonction halves2half2 pour le kit de développement asc-devkit de CANN
__halves2half2
Cette fonction assemble deux valeurs de type half en un seul élément half2, qui est un type vectoriel à deux cmoposantes.
Compatibilité matérielle
Plateforme
Support
Ascend 950PR / Ascend 950DT
Oui
Atlas série A3 (Entraînement/Inférence)
Non
Atlas série A2 (Entraînement/Inférence)
Non
Atlas 200I / 500 A2 (Inférence)
...
Publié le 27 juin à 18h18
Documentation de l'API Rsqrt pour le toolkit cann/asc-devkit
Fonction Rsqrt
La fonction Rsqrt effectue un calcul élément par élément de l'inverse de la racine carrée, selon la formule suivante : sortie = 1 / √(entrée).
Compatibilité produits
Produit
Support
Ascend 950PR / Ascend 950DT
✓
Atlas A3 série entraînement / série inférence
✓
Atlas A2 série entraînement / série inférence
✓
Kirin X90
...
Publié le 4 juin à 04h40