Installation et utilisation de FlashAttention

Prérequis et compatibilité Version CUDA et PyTorch : Assurez-vous que votre version de PyTorch est compatible avec la version de FlashAttention que vous installez. La version 2.0 de FlashAttention requiert des GPU NVIDIA de la série 30 ou supérieure (les cartes comme la 2080 ne sont pas supportées). Version Python : Les versions Python 3.10 et ...

Publié le 8 juillet à 21h02