Analyse approfondie de la bibliothèque HCCL dans CANN Ascend : primitives de communication parallèle multi-cartes et guide technique complet d’optimisation des performances

Introduction Dans l'architecture hétérogène Ascend CANN, l'entraînement distribué constitue l'un des scénarios les plus critiques. Lorsqu’il s’agit d’entraîner de grands modèles comme BERT-Large ou LLaMA-7B, une seule carte NPU ne suffit ni à stocker le modèle entier, ni à exécuter efficacement le processus d'apprentissage. Il devient donc indi ...

Publié le 24 octobre à 11h44

Architecture de réutilisation M×N dans CANN : Le rôle de ascend-boost-comm

L'écosystème CANN (Compute Architecture for Neural Networks) comprend plus de 50 dépôts, chacun hébergeant des dizaines d'opérateurs. Historiquement, ces dépôts partageaient des besoins redondants : la gestion des partitions de données pour les opérateurs de mémoire, la détection de topologie pour les communications, ou encore l'inférence de fo ...

Publié le 7 octobre à 09h59

Gestion de la restriction hardware de l'attribut half_pixel_centers dans MindSpore

Lors de l'utilisation de l'opérateur ResizeBilinear dans MindSpore pour redimensionner des tenseurs via une interpolation bilinéaire, les développeurs peuvent rencontrer une erreur liée à la configuration matérielle lorsque l'attribut half_pixel_centers est activé sur un environnement CPU. Analyse de l'erreur de configuration L'erreur survient ...

Publié le 22 juillet à 01h18

Fonction Select du kit de développement asc-devkit CANN

Select L'asc-devkit est le langage de développement de programmes d'opérateurs dédié aux processeurs AI Ascend de Huawei CANN. Il supporte nativement les normes C et C++ et est principalement composé d'une bibliothèque de classes et d'une couche d'extensions linguistiques, fournissant une API multi-niveaux pour répondre aux besoins de développe ...

Publié le 12 juillet à 01h34

Fonction halves2half2 pour le kit de développement asc-devkit de CANN

__halves2half2 Cette fonction assemble deux valeurs de type half en un seul élément half2, qui est un type vectoriel à deux cmoposantes. Compatibilité matérielle Plateforme Support Ascend 950PR / Ascend 950DT Oui Atlas série A3 (Entraînement/Inférence) Non Atlas série A2 (Entraînement/Inférence) Non Atlas 200I / 500 A2 (Inférence) ...

Publié le 27 juin à 18h18

Documentation de l'API Rsqrt pour le toolkit cann/asc-devkit

Fonction Rsqrt La fonction Rsqrt effectue un calcul élément par élément de l'inverse de la racine carrée, selon la formule suivante : sortie = 1 / √(entrée). Compatibilité produits Produit Support Ascend 950PR / Ascend 950DT ✓ Atlas A3 série entraînement / série inférence ✓ Atlas A2 série entraînement / série inférence ✓ Kirin X90 ...

Publié le 4 juin à 04h40