Architecture d'Embedding de Requêtes Inspirée de la Perplexité et Déploiement Optimisé via TensorFlow Lite
Fondements Théoriques de la Perplexité dans la Modélisation du Langage
La perplexité est une mesure fondametnale de l'incertitude d'un modèle de langue. Elle puise ses racines dans la théorie de l'information de Shannon, se définissant mathématiquement comme l'exponentielle de l'entropie croisée. Un modèle performant minimise cette valeur, sign ...
Publié le 27 juillet à 21h55