Comment télécharger Windows AI Foundry localement ?

Découvrez comment Windows AI Foundry permet aux développeurs de créer des modèles d'IA sur des appareils Windows, en assurant confidentialité et simplicité d'installation.

Windows AI Foundry est une plateforme conçue pour aider les développeurs à créer et déployer des modèles d'IA efficacement sur des appareils Windows. Vous pouvez même l'intégrer dans vos flux de travail et applications grâce à une interface de ligne de commande intuitive (CLI), un SDK et une API REST. Dans cet article, nous allons parler de l'AI Foundry et voir comment télécharger et installer Windows AI Foundry localement.

Qu'est-ce que Microsoft AI Foundry ?

Foundry Local est un outil d'IA sur appareil qui exécute des modèles directement sur votre matériel, renforçant la confidentialité et réduisant les coûts en éliminant les services cloud. Il s'intègre parfaitement aux flux de travail existants via une CLI, un SDK ou une API REST conviviale, permettant une personnalisation flexible avec des modèles prédéfinis ou personnalisés. Le traitement des données localement garde les informations sensibles sécurisées et réduit les dépenses récurrentes. Conçu pour la simplicité, il peut facilement passer à Azure AI Foundry, facilitant une transition en douceur vers le déploiement cloud sans engagements initiaux.

Cette solution convient aux scénarios nécessitant la confidentialité des données, une fonctionnalité hors ligne ou des réponses IA à faible latence, comme les applications en temps réel. C’est idéal pour réduire les coûts cloud, expérimenter des modèles localement ou fonctionner dans des environnements déconnectés. Foundry Local fonctionne sur l'infrastructure existante, éliminant le besoin d'un abonnement Azure, rendant l'IA accessible tout en maintenant un contrôle sur le matériel et les données. Sa flexibilité prend en charge des besoins divers, du traitement sécurisé à l'évolutivité économique, sans dépendre de la connectivité Internet ou des services externes.

Télécharger Windows AI Foundry Localement

Si vous souhaitez télécharger Windows AI Foundry localement, vous devrez suivre les étapes mentionnées ci-dessous.

1. Répondez aux exigences système
2. Installez Foundry
3. Exécutez votre modèle
4. Commandes utiles

Parlons-en en détail.

Répondre aux exigences système

Tout comme tout autre utilitaire, AI Foundry nécessite que vous répondiez à certaines exigences matérielles avant de l'installer sur votre ordinateur. Nous avons listé les exigences système ci-dessous. Tout d'abord, vérifiez si votre système a ce qu'il faut pour utiliser l'outil.

• OS : Windows 10 (x64), Windows 11 (x64/ARM), macOS.
• Memoire : 8 Go ou plus
• Espace disponible : 3 Go
• Accélération (optionnelle) : NVIDIA GPU (série 2000 ou plus récente), AMD GPU (série 6000 ou plus récente), Qualcomm Snapdragon X Elite (8 Go ou plus de mémoire) ou Apple silicon.

Une fois que vous savez que votre système peut gérer Foundry AI, passez à l'étape suivante.

Installer Foundry

Maintenant que nous savons que votre ordinateur peut gérer Foundry, nous allons procéder à l'installation de son module. Pour ce faire, vous devez ouvrir le Terminal Windows et exécuter la commande suivante. Si vous voulez installer Foundry pour tous les utilisateurs, vous devrez ouvrir le Terminal Windows en tant qu'administrateur.

winget install Microsoft.FoundryLocal

Il vous sera demandé d'accepter les accords ; tapez Y pour confirmer. Attendez quelques minutes pendant que votre ordinateur installe le module.

Alternativement, vous pouvez même vous rendre sur github.com et ensuite développer Assets. Ensuite, cliquez sur le lien hypertexte pour télécharger le média d'installation ou le fichier ZIP, et enfin installez-le sur votre ordinateur.

Remarque : La commande mentionnée ci-dessus est pour les machines Windows ; si vous utilisez macOS, vous devez exécuter ‘brew tap microsoft/foundrylocal‘ & ‘brew install foundrylocal‘.

Exécuter votre modèle

Après avoir installé le module AI Foundry, nous allons installer un modèle simple – phi-3.5-mini. Il est léger et efficace. Il est conçu pour les appareils locaux et gère des tâches textuelles telles que répondre à des questions, générer du contenu et résumer des informations. Ce modèle est couramment utilisé pour tester ou essayer des fonctionnalités d'IA dans des environnements locaux. Il fonctionne bien dans des situations hors ligne et est un bon choix où la sensibilité des données est importante. Son design compact permet une mise en place rapide et exerce une pression minimale sur votre matériel.

Pour l'installer, exécutez la commande suivante dans le Terminal Windows.

foundry model run phi-3.5-mini

Maintenant, vous pouvez poser une question simple, comme “Pourquoi devons-nous manger ?” dans la CLI elle-même et le laisser répondre.

Commandes utiles

La CLI Foundry Local organise les commandes en trois catégories pour une gestion rationalisée : Modèle (exécuter, gérer des modèles), Service.

(contrôler le service local), et Cache (gérer les modèles téléchargés). Utilisez foundry –help pour voir toutes les commandes, et ajoutez –help à toute catégorie (par exemple, foundry model –help) pour des conseils spécifiques. Cette structure simplifie les flux de travail, permettant un accès rapide aux tâches telles que le démarrage des modèles, l'ajustement des services ou la suppression des fichiers mis en cache, tout en maintenant clarté et facilité d'utilisation. Nous avons mentionné les commandes utiles ci-dessous.

• Pour lister toutes les commandes : –help.
• Pour démarrer, arrêter ou configurer des modèles : model –help.
• Pour redémarrer, mettre à jour ou surveiller les services locaux : foundry service –help.
• Pour voir, vider ou gérer les modèles téléchargés : foundry cache –help

Espérons qu'avec l'aide de cet article, vous pourrez installer et utiliser AI Foundry localement.

Azure AI Foundry est-il gratuit ?

Oui, Azure AI Foundry propose un accès gratuit pendant sa phase de prévisualisation. Cependant, tous les services Azure AI ou ressources cloud utilisés dans Foundry sont facturés séparément. Les prix dépendent des modèles AI spécifiques, du stockage et de la puissance de calcul utilisés. Pour plus de détails, les utilisateurs devraient consulter la page de tarification d'Azure AI Foundry.

Comment installer Foundry sur Windows ?

Pour installer Foundry sur Windows, vous devez vous assurer que vous remplissez les exigences système mentionnées précédemment. Si votre ordinateur est compatible, exécutez – winget install Microsoft.FoundryLocal. Cela prendra un certain temps, selon votre vitesse Internet, alors laissez-le s'installer.

Maintenant que tu as fini de lire Comment télécharger Windows AI Foundry localement ?, nous t'invitons à explorer davantage la catégorie Windows. Tu y trouveras d'autres articles intéressants qui élargiront tes connaissances et te tiendront informé. Ne cesse pas de lire et de découvrir plus!