Distillation du modèle Qwen3-32B : une version Tiny pour la génération de descriptions de personnages d'anime, fluide sur RTX 3060

1. Pourquoi un modèle de description de personnages léger et spécialisé dans l'esthétique anime ?

Avez-vous déjà saisi une phrase comme "jeune fille aux cheveux bleus et nattés, en uniforme de marin, sourire ensoleillé" dans Stable Diffusion, pour obtenir un personnage aux yeux disproportionnés, un col tordu, ou même un doigt supplémentaire ? Le problème ne réside souvent pas dans le modèle de dessin lui-même, mais plutôt dans la qualité des invites : des prompts qui manquent de spécificité, ne sont pas optimisés pour l'esthétique anime, et ignorent le vocabulaire courant de ce domaine.

Bien que le modèle Qwen3-32B original possède des capacités linguistiques impressionnantes, il n'a pas été conçu spécifiquement pour l'art numérique de style anime. Il comprend la différence entre "doux" et "déterminé", mais ne saisit pas forcément ce que "oreilles de chat + ahoge + pupilles dégradées" implique dans une conception japonaise. Il peut rédiger un roman entier, mais risque de décrire les prothèses mécaniques d'une "ninja cyberpunk" comme de simples "bras argentés", omettant des mots-clés cruciaux tels que cybernetic arm, neon glow, intricate wiring.

C'est précisément là qu'intervient la version Tiny du générateur de descriptions de personnages d'anime : plutôt qu'une simple réduction d'un grand modèle généraliste, il s'agit d'une amélioration spécialisée pour un domaine vertical. Nous n'avons pas cherché à "conserver les 32 milliards de paramètres", mais nous nous sommes posé une question plus pragmatique :

"Quelle est la taille minimale d'une IA qui comprend réellement l'esthétique anime ? Peut-elle réagir instantanément, permettre des modifications en temps réel, et s'adapter à une conversation, tout cela sur une carte RTX 3060 (avec 12 Go de VRAM) ?"

La réponse est affirmative, et ce modèle est déjà opérationnel.

2. La distillation : enseigner la "sensibilité du domaine" plutôt que simplement réduire les paramètres

2.1. De Qwen3-32B à Tiny : trois étapes de raffinement ciblé

Beaucoup pensent que la distillation de modèle se résume à une simple élagage ou quantification. Cependant, pour la tâche de description de personnages d'anime, nous avons mis en œuvre une refonte plus fondamentale :

• Étape 1 : Affinage du corpus de domaine
  Collecte de plus de 120 000 entrées textuelles de haute qualité relatives aux designs de personnages d'anime (incluant des bibliothèques de tags Pixiv, des fils de discussion sur l'ingénierie des prompts de NovelAI, et des recueils de designs de personnages japonais). Les contenus non pertinents tels que les encyclopédies générales, les actualités ou le code ont été écartés. Au final, un corpus de pré-entraînement de 47 Go, entièrement axé sur "l'apparence, le style, l'émotion et les détails vestimentaires des personnages", a été constitué.
• Étape 2 : Distillation sensible à la structure
  Au lieu d'utiliser la sortie directe du modèle enseignant comme supervision, nous avons demandé à Qwen3-32B de générer une représentation intermédiaire structurée (par exemple : [Coiffure: double spirale violet-rose dégradée][Couleur des yeux: œil gauche doré, œil droit bleu hétérochrome][Tenue: tenue de miko modifiée + accessoire de bras mécanique]) à partir de la même description. Le modèle Tiny a ensuite été entraîné à reproduire cette structure. Cela confère naturellement à la version Tiny la capacité de "décrire par éléments", évitant ainsi la génération de phrases longues et confuses.
• Étape 3 : Optimisation du chemin d'inférence
  Tous les modules non essentiels (comme l'encodeur multimodal, la tête de résumé de documents longs) ont été supprimés. La couche de sortie a été compressée en un générateur de séquence de tags de longueur fixe, et un cache de modèles de style courants a été intégré (par exemple, "style moe → soft lighting, pastel palette, gentle expression"). Les tests ont montré une réduction de la latence du premier token de 820 ms à 97 ms sur une RTX 3060.

2.2. Où réside sa "petite" taille ? Aperçu des configurations réelles

Projet	Qwen3-32B original	Version Tiny "Anime Character"	Ratio de réduction
Nombre de paramètres	32 milliards	1,8 milliard	↓94%
Occupation VRAM (FP16)	≥24 Go	9,2 Go	↓62%
Temps de démarrage	42 s (nécessite le chargement complet des poids)	5,3 s (chargement par blocs + hot-plugging LoRA)	↓87%
Temps de génération unique (256 tokens)	3,8 s	1,1 s	↓71%

Le point clé est le suivant : ce n'est pas une version tronquée, mais une version spécialisée. Toutes les parties supprimées étaient des "chemins redondants" qui n'étaient jamais activés pour la tâche de description de personnages d'anime.

3. Réellement utilisable : d'une phrase à un prompt complet pour Stable Diffusion

3.1. Plus l'entrée est simple, plus la sortie est experte

Vous n'avez pas besoin de maîtriser la syntaxe des tags. Essayez ces exemples d'entrées utilisateur :

• "Je veux une étudiante froide, mais avec des oreilles de renard"
• "Lycéenne post-apocalyptique, œil gauche bionique, uniforme scolaire déchiré mais propre"
• "Samouraï de style ancien, cheveux blancs, toujours souriant, fourreau de sabre gravé de cerisiers"

Le modèle Tiny complète automatiquement les détails professionnels et les organise dans un format compatible avec les outils de dessin IA :

fox ears, silver-white long hair, sharp cheekbones, cold expression with subtle smile, 
school uniform (torn sleeves, clean white shirt underneath), cybernetic left eye (glowing blue circuit pattern), 
cherry blossom engraved sword scabbard, soft cinematic lighting, anime style, detailed line art

Remarquez : il ne s'est pas arrêté à "oreilles de renard + cheveux blancs", mais a déduit sharp cheekbones pour accentuer la froideur, utilisé clean white shirt underneath pour résoudre la contradiction "déchiré mais propre", et a même ajouté soft cinematic lighting pour améliorer la qualité visuelle. Il ne s'agit pas de règles codées en dur, mais de la logique visuelle spécifique à l'anime apprise à partir de 120 000 données.

3.2. Quatre fonctionnalités clés, comment elles s'appliquent concrètement

3.2.1. Conception de personnage : pas une simple liste, mais une déduction collaborative

La génération de prompts traditionnelle décrit souvent les éléments de manière isolée. Ce modèle comprend la cohérence stylistique entre les éléments. Par exemple, si l'on saisit "Loli steampunk", il n'ajoutera pas seulement goggles + brass gears, mais ajustera également :

• Vêtements → pinafore dress with copper piping, lace-up boots
• Coiffure → braided pigtails with gear-shaped hairpins
• Expression → curious expression, slightly tilted head

Cette collaboration découle de l'apprentissage forcé du modèle à des "ancres de style" (style anchor) pendant l'entraînement : chaque étiquette de style est associée à une distribution de probabilité d'un ensemble de caractéristiques visuelles.

3.2.2. Multiples styles : pas de "modèles fixes", supporte l'évolution mixte

Dans l'interface Gradio, vous pouvez ajuster l'intensité du style via des curseurs :

• Moe japonais (par défaut) → Ajoute kawaii, chibi proportions, blush marks
• Shōnen ardent → Renforce automatiquement dynamic pose, dramatic lighting, bold outlines
• Esthétique onirique → Insère ethereal glow, watercolor texture, dreamy background

Plus important encore : il prend en charge le mélange de styles. Par exemple, en réglant "ardent" à 70 % et "onirique" à 50 %, il générera : heroic stance with flowing scarf, soft golden backlight, delicate facial features, ink-wash texture on clothing.

Il ne s'agit pas d'une simple superposition de tags, mais d'une interpolation linéaire des espaces de représentation des deux styles au sein du modèle.

3.2.3. Génération de prompts : format de sortie optimisé pour NovelAI/SD

La sortie est directement compatible avec les outils courants :

• Pour NovelAI : Ajoute automatiquement des paramètres de sécurité et de qualité tels que --no nsfw, --quality 2, --style raw.
• Pour Stable Diffusion : Organise les tokens selon les habitudes de tokenisation de CLIP, en plaçant les mots fréquents en début de phrase (par exemple, masterpiece, best quality, 1girl sont toujours en tête).
• Pour ComfyUI : Fournit une sortie structurée JSON, incluant des valeurs recommandées pour positive_prompt, negative_prompt et cfg_scale.

Après un simple copier-coller, vous pouvez générer des images sans édition supplémentaire.

3.2.4. Création de personnaeg : au-delà de l'apparence, une logique de fond de personnage étendue

En cliquant sur "Générer une histoire de fond", le modèle construira un scénario plausible basé sur la description visuelle :

Entrée : "Samouraï aux cheveux noirs et yeux rouges, fourreau de katana enveloppé d'un tissu rouge décoloré, bras gauche portant une vieille cicatrice."

Sortie :

Nom : Fujiwara Kasumi

Identité : Ancienne membre de l'unité secrète "Kageba" du shogunat, exilée pour avoir refusé d'exécuter l'ordre de massacrer des civils.

Personnalité : Taciturne et fidèle à sa parole, d'une douceur inhabituelle envers les enfants, porte toujours sur elle un miroir de blason familial brisé.

Détails clés : Le tissu rouge est une relique de sa sœur décédée, la cicatrice provient d'une bataille de trois ans sous la neige qui a brisé son sabre.

Ce texte n'est pas un assemblage aléatoire, mais est généré en activant une "graphique de connaissances de personnage" préétablie (contenant plus de 2000 nœuds de paramètres courants dans l'anime) à partir des éléments visuels, assurant une parfaite cohérence entre le fond et l'image.

4. Tests réels sur RTX 3060 : l'optimisation compte plus que le nombre

4.1. Compatibilité matérielle : pourquoi une 3060, et non impérativement une 4090 ?

De nombreux modèles légers prétendent "pouvoir fonctionner sur des cartes grand public", mais dépendent en réalité d'un déchargement CPU ou d'une dégradation significative de la qualité. Voici les performances de cette version Tiny sur une RTX 3060 :

Scénario	Performence	Explication
Démarrage à froid	Chargement terminé en 5,3 secondes	Stratégie de chargement des poids par blocs + pré-allocation de la VRAM GPU pour éviter les OOM
Latence du premier token	Moyenne de 97 ms	Compression dynamique du KV Cache, réduisant la pression sur la bande passante de la VRAM
Génération continue (10 fois)	Pas de fuite de VRAM, température stable à 62°C	Module de gestion de la mémoire testé pendant 200 heures sous contrainte
Requêtes concurrentes	3 requêtes en parallèle, réponse moyenne de 1,4 s	Ordonnancement des priorités de la file d'attente des requêtes, assurant une interaction fluide

Note spéciale : le modèle ne dépend pas des calculs CPU. Toutes les inférences sont effectuées sur le GPU, ce qui signifie que le service reste actif même si l'écran est éteint ou la souris déconnectée, tant que la carte graphique est en fonctionnement.

4.2. Déploiement Gradio + Ollama : aucune dépendance

Le choix de la pile technologique répond directement aux problèmes :

• Ollama : Fournit un encapsulage standardisé du modèle. La commande ollama run qwen3-manga-tiny démarre le service en une seule ligne, gérant automatiquement la compatibilité des versions CUDA, la configuration cuBLAS et d'autres détails de bas niveau.
• Gradio : L'interface utilisateur est entièrement statique, ne nécessitant pas de rendu côté serveur (Node.js ou Python). Toutes les interactions (curseurs, commutation de style, boutons de copie) se produisent directement dans le navigateur.
• Port 8080 : Prêt à l'emploi, sans avoir besoin de proxy inverse Nginx. Accessible depuis un téléphone sur le même réseau local.

Enregistrement du processus de déploiement (saisie dans le terminal) :

# 1. Installation d'Ollama (script d'installation en une étape depuis le site officiel)
curl -fsSL https://ollama.com/install.sh | sh

# 2. Téléchargement de l'image (décompression et vérification automatiques)
ollama pull qwen3-manga-tiny

# 3. Lancement du service (exécution en arrière-plan, rotation automatique des logs)
ollama run qwen3-manga-tiny --port 8080 --log-level info

Après 3 minutes, ouvrez http://localhost:8080, et vous décovurirez un atelier professionnel de création de personnages d'anime.

5. Ce que le modèle ne peut pas faire : définir les limites avec transparence

Même le meilleur des outils a ses limites. Nous listons clairement les limitations connues de la version actuelle pour éviter toute méprise :

• Pas de support d'entrée d'image : Il s'agit d'une génération purement texte-vers-texte ; il n'est pas possible de télécharger des images de référence pour la migration de style.
• Ne génère pas d'images : Il produit uniquement du texte descriptif et des tags, nécessitant l'utilisation d'outils de dessin comme SD/NovelAI.
• Ne supporte pas les interactions complexes multi-personnages : Par exemple, "deux personnages s'affrontent, A lève son épée, B recule". Actuellement, il se concentre sur la description approfondie d'un seul personnage.
• Ne traite pas les descriptions abstraites extrêmes : Par exemple, pour "jeune fille quantique triste", le modèle renverra "veuillez fournir des indices d'apparence plus concrets" plutôt que d'inventer de force.
• Priorité à l'entrée en chinois : L'entrée en anglais est supportée pour la génération de base, mais la compréhension du style et la richesse des détails sont légèrement inférieures à celles du chinois (car le corpus d'entraînement provient principalement de communautés anime chinoises).

Il ne s'agit pas de défauts, mais d'un choix délibéré de focalisation. Nous préférons exceller sur un point précis plutôt que de proposer un produit "tout-en-un, rien de précis".

6. Conclusion : quand un grand modèle apprend à "parler le langage interne"

La valeur de la version Tiny "Anime Character" de Qwen3-32B ne réside pas dans sa petite taille, mais dans sa profonde "compréhension".

• Il comprend qu'un "dégradé de pupilles" déclenche une meilleure réponse d'un modèle de dessin japonais qu'une "hétérochromie".
• Il comprend que "l'uniforme scolaire déchiré mais propre" sous-entend le maintien de la dignité du personnage, au-delà du simple réalisme.
• Il comprend que l'œil bionique d'une "lycéenne post-apocalyptique" ne doit pas être un métal froid, mais doit avoir des détails respirants comme une flickering holographic interface.

Ce n'est pas une expérience de compression de paramètres, mais une recodification du langage de domaine — condensant 120 000 expériences de création d'anime en une sensibilité, une logique et une esthétique encapsulées dans 1,8 milliard de paramètres.

Si vous êtes un illustrateur, il vous fera gagner une demi-heure de recherche de tags. Si vous êtes un auteur de fiction, il donnera du corps à la description de votre "épéiste aux cheveux argentés". Si vous débutez dans le dessin assisté par IA, il sera l'ami patient qui écoutera votre "je voudrais un..." et vous donnera une réponse professionnelle.

La technologie finira par s'effacer, mais l'utilité, elle, restera toujours présente.