Installation de Conda

Conda est un système de gestion de paquets et d'environnements open-source, principalement utilisé pour instaler et gérer différentes versions de logiciels et leurs dépendances.

• Téléchargez le package d'installation correspondant depuis le site officiel de Conda et installez-le en double-cliquant. Nous recommandons Miniconda qui offre toutes les fonctionnalités de Conda mais avec une taille réduite.
• Après le téléchargement, exécutez l'installation.
• Nous suggérons d'utiliser Python 3.10 pour sa meilluere compatibilité avec les applications d'IA.

conda create -n nom_environnement python=3.10

</div>### Installation d'Ollama

Ollama est un outil pour le déploiement local de grands modèles de langage, supportant plusieurs systèmes d'exploitation.

- **Windows/Mac/Linux** : Téléchargez le package d'installation correspondant depuis le site officiel d'Ollama et installez-le.
- **Vérification** : Ouvrez un terminal et saisissez `ollama --version`. Si un numéro de version s'affiche, l'installation a réussi.

### Téléchargement du modèle DeepSeek

Dans le terminal, exécutez la commande suivante pour télécharger le modèle DeepSeek :

<div>```

ollama pull deepseek-r1:1.5b

Pour lancer le modèle après téléchargement :

ollama run deepseek-r1:1.5b

</div>Entrez `/bye` pour quitter la conversation.

Construction de l'application RAG
---------------------------------

### Installation des dépendances

Assurez-vous d'avoir Python 3.8+ installé, puis installez les dépendances suivantes :

<div>```

pip install langchain chromadb pdfplumber

Utilisez PDFPlumberLoader pour charger des documents PDF et les diviser en segments appropriés :

from langchain.document_loaders import PDFPlumberLoader

chargeur = PDFPlumberLoader("votre_document.pdf") documents = chargeur.load_and_split()

</div>### Initialisation du stockage vectoriel

Utilisez la base de données Chroma pour sauvegarder les vecteurs de documents :

<div>```

from langchain.vectorstores import Chroma
from langchain.embeddings import OllamaEmbeddings

embeddings = OllamaEmbeddings(model="deepseek-r1:1.5b")
stockage_vectoriel = Chroma.from_documents(documents, embeddings)

Intégrez le modèle et les modèles de prompt pour créer le flux de traitement :

from langchain.chains import RetrievalQA from langchain.llms import Ollama

modele_llm = Ollama(model="deepseek-r1:1.5b") chaine_qa = RetrievalQA.from_chain_type(modele_llm, retriever=stockage_vectoriel.as_retriever())

</div>### Intégration des questions-réponses

Combinez la recherche et les fonctionnalités de Q&amp;A pour implémenter le système RAG :

<div>```

question = "Quelle est votre question ?"
reponse = chaine_qa.run(question)
print(reponse)

Scénario : Création d'une base de connaissances personnelle

1. Importation de documents : Chargez des documents PDF (articles scientifiques, contrats, etc.) dans la base vectorielle.
2. Poser des questions : Par exemple, "Résumez les points principaux de cet article."
3. Obtenir des réponses : Le système récupérera les informations pertinentes du document et générera une réponse.

Scénario : Traduction immersive de pages web

1. Configuration du plugin navigateur : Installez l'extesnion Page Assist et configurez le modèle DeepSeek comme service de traduction.
2. Traduction de pages web : Lors de la navigation sur des sites en anglais, cliquez sur l'icône de l'extension pour obtenir une traduction parallèle.

Optimisation et extensions

Optimisation des performances

• Accélération GPU : Si vous utilisez une carte graphique NVIDIA, installez les pilotes CUDA et activez l'accélération GPU.
• Quantification du modèle : En cas de mémoire vidéo insuffisante, utilisez la version quantifiée en 4-bit pour réduire l'empreinte mémoire.

Accès à distance

• Pénétration de réseau local : Utilisez des solutions comme Oray PeanutHull pour accéder à distance au modèle DeepSeek déployé localement.
• Interface web : Via l'extension Page Assist Web UI, appelez le modèle local de n'importe où.

Ressources complémentaires

Pour des exemples de code plus détaillés ou des étapes d'opération, vous pouvez consulter les sources suivantes :

• Tutoriel complet pour le déploiement local de DeepSeek-R1
• Déploiement rapide de DeepSeek en local en trois étapes simples
• Guide de déploiement local de DeepSeek pour cartes graphiques AMD