Comment exécuter DeepSeek Prover V2 7B sur Windows

Découvrez comment exécuter DeepSeek Prover V2 7B sur Windows via WSL, un modèle avancé pour la preuve de théorèmes formels en utilisant Lean 4.

DeepSeek Prover V2 est un modèle LLM avancé conçu pour la preuve de théorèmes formels dans Lean 4. Contrairement à DeepSeek R1, DeepSeek Prover V2 ne peut pas être installé directement sur un ordinateur Windows ; il faut utiliser WSL pour y accéder. Dans cet article, nous allons voir comment exécuter DeepSeek V2 7B sur Windows.

Qu'est-ce que DeepSeek Prover V2

DeepSeek Prover V2 est un modèle linguistique de grande taille, principalement utilisé pour résoudre des équations mathématiques avec l'aide de Lean 4. Lean 4 est un langage de programmation fonctionnel et un vérificateur de théorèmes interactif conçu pour la vérification formelle et les preuves mathématiques.

Cette méthode utilise une approche étape par étape pour résoudre des problèmes mathématiques complexes en les décomposant en parties plus petites et plus gérables. Elle crée également des preuves organisées. Le modèle améliore ses compétences en raisonnement grâce à l'apprentissage par renforcement, ce qui l'aide à relier les mathématiques informelles et formelles. Ses fonctionnalités avancées lui permettent de performer très bien lors de tests de preuve de théorème, tels que MiniF2F et PutnamBench.

Nous utiliserons le modèle 7B car cette version offre un bon équilibre entre puissance et efficacité. Elle est adaptée à la preuve de théorèmes formels et accessible aux chercheurs ayant des ressources matérielles limitées.

Exécuter DeepSeek Prover V2 7B sur Windows 11/10

Vous ne pouvez pas simplement installer DeepSeek Prover V2 7B sur votre ordinateur Windows. Vous devrez utiliser WSL. Nous avons fourni un guide étape par étape sur la façon d'exécuter le modèle LLM :

1. Remplir les exigences système
2. Configurer l'environnement
3. Télécharger et installer Anaconda
4. Configurer l'environnement
5. Télécharger Deepseek Prover V2 7B.

Remplir les exigences système

Vous ne pouvez pas utiliser n'importe quel ordinateur pour exécuter DeepSeek Prover V2 ; vous devez vous assurer que votre machine répond à certaines exigences matérielles. Nous avons mentionné les exigences système ci-dessous.

• Graphiques : NVIDIA RTX A6000 ou équivalent avec 32 Go ou plus de VRAM.
• Espaces disponibles : 100 Go
• Mémoire : 64 Go
• Processeur : Intel i7/i9 moderne ou AMD Ryzen 7/9
• Logiciel : Windows 11/10 et Windows Subsystem for Linux.

Après avoir rempli les exigences système, commençons l'installation.

Configurer l'environnement

Comme mentionné précédemment, nous avons besoin de WSL pour cette installation. WSL nous permet d'exécuter des distributions Linux nativement sans avoir besoin d'une machine virtuelle ou d'un dual boot. Pour installer WSL, vous pouvez soit utiliser la commande CLI, soit l'obtenir depuis le Microsoft Store.

Vous pouvez ouvrir l'invite de commande et exécuter la commande suivante pour installer WSL.

wsl --install

Maintenant, nous devons également installer Ubuntu.

Pour ce faire, exécutez la commande suivante dans l'invite de commande ou PowerShell.

wsl --install -d Ubuntu

Vous devez attendre que Windows le télécharge et l'installe sur votre ordinateur.

Télécharger et installer Anaconda

Anaconda est un outil open-source populaire pour Python et R. Il est conçu pour la science des données, l'apprentissage automatique et le développement d'IA. Vous pouvez vous rendre sur anaconda.com pour télécharger la distribution Anaconda.

Configurer l'environnement

Maintenant que nous avons Anaconda, nous pouvons configurer l'environnement Python et installer d'autres dépendances. Pour cela, ouvrez Anaconda Prompt ou le terminal Ubuntu WSL, ce que vous pouvez faire en le recherchant dans le menu Démarrer. Ensuite, exécutez la commande suivante.

conda create -n deepseek python=3.11

Cela prendra un peu de temps et il vous demandera même votre permission pour installer les packages manquants. Une fois terminé, vous pouvez exécuter la commande ci-dessous pour activer l'environnement.

conda activate deepseek

Une fois fait, nous devons installer les dépendances. Pour ce faire, dans l'environnement que nous avons activé, exécutez les commandes suivantes.

pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu117

pip install "transformers>=4.38.0" "accelerate>=0.25.0" "bitsandbytes>=0.41.0" einops

conda install -c conda-forge notebook ipywidgets -y

Ces commandes installent PyTorch avec le support CUDA, essentiel pour l'apprentissage en profondeur, ainsi que TorchVision et Torchaudio pour l'image et l'audio.

Ils ont également mis en place Transformers, Accelerate, BitsAndBytes, Einops et Jupyter Notebook avec des widgets interactifs, permettant un développement et une expérimentation efficaces des modèles d'IA.

Télécharger DeepSeek Prover V2 7B

Maintenant que nous avons installé toutes les dépendances, allons-y et téléchargeons DeepSeek Prover V2 7B. Ouvrez un Jupyter Notebook et utilisez-le pour exécuter le script suivant.

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
model_id = "deepseek-ai/DeepSeek-Prover-V2-7B"
# Charger le tokenizer
tokenizer = AutoTokenizer.from_pretrained(model_id)
# Charger le modèle avec des paramètres optimaux
model = AutoModelForCausalLM.from_pretrained(
    model_id, device_map="auto", torch_dtype=torch.bfloat16, trust_remote_code=True
)

Définir device_map="auto" permet au modèle d'assigner automatiquement le traitement soit au GPU soit au CPU, optimisant ainsi les performances en fonction du matériel disponible. Lors de la première exécution, le modèle et le tokenizer seront téléchargés depuis Hugging Face, garantissant que la dernière version est récupérée pour utilisation.

Maintenant, vous pouvez exécuter votre script. Voici un simple script Python que vous pouvez exécuter après avoir exécuté le script mentionné précédemment.

input_text = "Quel est 25 moins 7?"
inputs = tokenizer(input_text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_length=512)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

Espérons qu'avec l'aide de ce post, vous pourrez exécuter DeepSeek V2 7B sur Windows. Cela dit, tous les ordinateurs ne pourront pas répondre aux exigences élevées de ce modèle de langage large. Si votre appareil en fait partie, rendez-vous sur app.nodeshift.com et créez une machine virtuelle avec les configurations mentionnées précédemment. Gardez à l'esprit que ce n'est pas gratuit, vous devrez peut-être payer un peu pour répondre aux exigences en matière de GPU et de CPU mentionnées dans les spécifications système. Une fois que vous avez la machine requise, vous pouvez simplement suivre les étapes mentionnées précédemment pour installer DeepSeek Prover V2 7B.

Comment exécuter DeepSeek Prover V2 7B après l'installation ?

Activez votre environnement Conda en utilisant conda activate deepseek, puis démarrez Jupyter Notebook (optionnel) avec jupyter notebook. Chargez le modèle en Python avec AutoModelForCausalLM.from_pretrained(model_id, device_map="auto", torch_dtype=torch.bfloat16, trust_remote_code=True), en vous assurant que model_id = "deepseek-ai/DeepSeek-Prover-V2-7B". Pour générer des preuves, exécutez input_text = "Prouvez que la somme de deux nombres pairs est paire" suivi de inputs = tokenizer(input_text, return_tensors="pt").to(model.device), puis outputs = model.generate(**inputs, max_length=512), et enfin print(tokenizer.decode(outputs[0], skip_special_tokens=True)) pour afficher la preuve formelle.

Maintenant que tu as fini de lire Comment exécuter DeepSeek Prover V2 7B sur Windows, nous t'invitons à explorer davantage la catégorie Tutoriels. Tu y trouveras d'autres articles intéressants qui élargiront tes connaissances et te tiendront informé. Ne cesse pas de lire et de découvrir plus!