Présentation de nanobot : un assistant IA personnel ultra-léger

nanobot est un assistant IA personnel inspiré d'OpenClaw, conçu pour offrir des fonctionnalités d'agent de base avec seulement environ 4 000 lignes de code. Cette conception minimaliste réduit considérablement la taille par rapport aux solutions traditionnelles, facilitant le déploiement et l'utilisation tout en maintenant une puissance fonctionnelle étendue.

La version actuelle intègre le modèle Qwen3-4B-Instruct-2507 déployé via vllm, avec une interaction d'inférence gérée par chainlit. Une optimisation profonde pour les scénarios en chinois a été apportée, renforçant particulièrement les capacités de segmentation du texte chinois et de reconnaissance des noms propres, ce qui améliore la fluidité et la précision des conversations en chinois.

Le nombre de lignes de code actif reste aux alentours de 3 510, vérifiable à l'aide de la commande bash verifier_lignes_noyau.sh. Cette approche minimaliste réduit la consommation de ressources et augmente l'efficacité opérationnelle.

Guide de démarrage rapide

Vérification de l'environnement et déploiement

Pour confirmer le déploiement réussi du service modèle, exécutez la commande suivante dans l'interface web :

cat /var/log/nanobot/service_llm.log

La présence de journaux indiquant le chargement du modèle et l'écoute du port du service signifie une installation correcte.

Interaction via l'interface chainlit

chainlit fournit une interface web conviviale pour les échanges. Après le lancement, accédez à l'adresse spécifiée dans un navigateur pour une interface de chat simplifiée.

Ici, vous pouvez saisir des questions directement ; nanobot génère des réponses intelligentes basées sur le modèle Qwen3. Les optimisations récentes pour le chinois améliorent la précision, en particulier pour la compréhension des termes techniques et des noms propres.

Exemples de requêtes techniques

Essayez de poser des questions techniques, par exemple :

Afficher la configuration des cartes graphiques via nvidia-smi

nanobot interprétera votre intention et fournira des suggestions de commandes ou exécutera des opérations correspondantes (selon les permissions configurées). L'amélioration de la segmentation du chinois permet une identification plus précise de ces instructions techniques.

Extension des fonctionnalités : intégration avec un robot QQ

Inscription sur la plateforme ouverte de QQ

Pour intégrer un robot QQ, commencez par accéder à la plateforme ouverte de QQ (https://q.qq.com/#/apps) et inscrivez-vous en tant que développeur individuel ou entreprise. Après avoir complété les informations de base et vérifié l'identité, créez votre propre application de robot.

Création de l'application de robot

Dans la plateforme, créez une nouvelle application de robot en remplissant le nom, la description et d'autres détails. Après création, vous recevrez un AppID et un AppSecret uniques, essentiels pour les configurations ultérieures.

Obtention des identifiants de développement

Dans la section de gestion du développement, copiez les deux clés : AppID et AppSecret. Ces identifiants serviront à l'authentification entre nanobot et la plateforme QQ.

Configuration de nanobot pour le robot QQ

Modifiez le fichier de configuration de nanobot pour ajouter le support du robot QQ :

vim /chemin/.nanobot/parametres.json

Ajoutez la configuration du canal QQ dans le fichier :

{
  "canaux": {
    "qq": {
      "active": true,
      "idApp": "VOTRE_ID_APPLICATION",
      "secret": "VOTRE_CLE_SECRETE",
      "autorisationDe": []
    }
  }
}

Remplacez VOTRE_ID_APPLICATION et VOTRE_CLE_SECRETE par les identifiants réels obtenus. Le tableau autorisationDe peut spécifier une liste de numéros QQ autorisés à utiliser le robot ; s'il est vide, tout le monde est autorisé.

Démarrage du service passerelle

Une fois la configuration terminée, lancez le service passerelle de nanobot :

nanobot demarrer_passerelle

Le démarrage réussi affiche des informations sur le port d'écoute et l'état de connexion. Le robot QQ est alors opérationnel.

Test des fonctionnalités du robot QQ

Envoyez un message au robot QQ configuré pour tester les capacités de question-réponse. Grâce aux optimisations de la segmentation du chinois et de la reconnaissance des noms propres, la compréhension des questions en chinois est nettement améliorée, offrant des réponses plus précises et naturelles.

Détails des optimisations pour le chinois

Amélioration de la segmentation du chinois

La dernière version de nanobot apporte une optimisation profonde adaptée aux caractéristiques de la langue chinoise. Les méthodes traditionnelles de segmentation, basées sur des corpus généraux, manquent souvent de précision pour les termes techniques et spécialisés. nanobot intègre un modèle de segmentation spécialement affiné pour identifier correctement le vocabulaire professionnel dans les domaines techniques.

Par exemple, lors du traitement de phrases comme « les problèmes de disparition du gradient dans l'entraînement de modèles de deep learning », la segmentation optimisée reconnaît avec précision des termes tels que « deep learning », « entraînement de modèles », « disparition du gradient » en tant qu'unités sémantiques, plutôt que de les découper mécaniquement caractère par caractère.

Optimisation de la reconnaissance des noms propres

Pour les nombreux noms propres dans le domaine technique, tels que les noms de langages de programmation, de frameworks, de bibliothèques ou de concepts, nanobot les identifie et les comprend avec précision. Cette optimisation augmente significativement la justesse des réponses techniques.

Par exemple, lorsqu'un utilisateur demande « les différences entre TensorFlow et PyTorch en matière d'entraînement distribué », le système identifie correctement ces noms propres et fournit une comparaison technique spécialisée.

Amélioration de la compréhension contextuelle

Combinée aux améliorations de la segmentation, la compréhension contextuelle globale du système de dialogue est renforcée. Le système saisit mieux la cohérence des conversations, comprend les relations anaphoriques et offre une expérience de dialogue plus fluide et naturelle.

Principes d'implémentation technique

Conception d'architecture légère

nanobot adopte une philosophie de conception minimaliste, avec un code d'environ 4 000 lignes. Cela réduit non seulement la consommation de ressources, mais améliore également la stabilité et la maintenabilité du système. Tous les modules fonctionnels sont soigneusement optimisés pour éviter une complexité inutile.

Inférence efficace avec vllm

Le déploiement basé sur vllm offre des capacités d'inférence performantes. Le traitement par lots continu et la gestion optimisée de la mémoire par vllm assurent des performances stables dans des scénarios à forte concurrence, tout en maintenant une faible latence de réponse.

Conception modulaire extensible

Le système utilise une conception modulaire, où divers canaux fonctionnels (comme QQ, WeChat, Web) peuvent être activés ou désactivés via la configuration. Cette approche confère au système une bonne extensibilité, permettant d'ajouter facilement de nouveaux modules fonctionnels selon les besoins.

Recommandations d'utilisation et meilleures pratiques

Conseils de configuration de l'environnement

Pour garantir les meilleures performances, il est recommandé d'exécuter nenobot dans un environnement avec des ressources élevées. Les ressources GPU sont particulièrement cruciales pour les performances d'inférence du modèle. Au moins 8 Go de mémoire vidéo sont nécessaires pour assurer une exécution fluide du modèle Qwen3-4B.

Considérations de sécurité pour la configuration

Lors de la configuraton de canaux externes (comme le robot QQ), veillez à la sécurité. Protégez soigneusement les informations sensibles telles que le secret d'application, et configurez des autorisations d'accès raisonnables pour éviter tout accès non autorisé.

Surveillance et optimisation des performances

Surveillez régulièrement l'état d'exécution du système, en prêtant attention à des indicateurs clés tels que l'utilisation de la mémoire, le taux d'utilisation du GPU et le temps de réponse. Ajustez les paramètres de configuration en fonction des conditions d'utilisation réelles pour optimiser les performances du système.