L'utilisation de modèles d'intelligence artificielle en local attire de plus en plus l'attention des entreprises qui souhaitent expérimenter des assistants IA sans envoyer systématiquement leurs données vers un service cloud.
Dans cet article, nous présentons les principaux éléments à prendre en compte pour installer et exécuter un modèle DeepSeek en local sur un serveur HPE ProLiant DL380 Gen10.
L'objectif est de montrer les possibilités d'un serveur professionnel pour l'hébergement d'un environnement IA local, ainsi que les limites à prendre en compte avant un déploiement en production.
Pourquoi utiliser un serveur HPE ProLiant DL380 Gen10 pour l'IA locale ?
Le HPE ProLiant DL380 Gen10 est un serveur rack 2U conçu pour les environnements professionnels. Selon sa configuration, il peut disposer de plusieurs processeurs Intel Xeon, d'une importante quantité de mémoire ECC et de différentes possibilités de stockage et d'extension PCIe.
Ces caractéristiques peuvent être intéressantes pour certains workloads d'intelligence artificielle exécutés principalement sur CPU ou pour des environnements disposant d'un accélérateur GPU compatible.
La capacité réelle d'un serveur à exécuter un modèle DeepSeek dépend cependant fortement de sa configuration.
Les éléments les plus importants sont notamment :
- nombre et génération des processeurs Intel Xeon ;
- quantité de RAM disponible ;
- présence éventuelle d'un GPU ;
- capacité et vitesse du stockage ;
- système d'exploitation ;
- taille et quantification du modèle utilisé.
Il ne faut donc pas considérer tous les DL380 Gen10 comme équivalents pour l'exécution de modèles IA.
Préparation du serveur
Avant l'installation, il est recommandé de vérifier l'état général du serveur.
Vérification matérielle
Les contrôles peuvent notamment porter sur :
- l'état du contrôleur RAID ;
- l'état des SSD ou HDD ;
- la mémoire ECC ;
- les alimentations ;
- les ventilateurs ;
- les températures ;
- les éventuels messages d'erreur matériels.
Sur un serveur destiné à rester disponible pendant de longues périodes, ces vérifications sont importantes avant d'installer une nouvelle charge de travail.
Système d'exploitation
Plusieurs distributions Linux peuvent être utilisées pour ce type d'environnement.
Par exemple :
- Ubuntu Server LTS ;
- Debian ;
- Rocky Linux.
Pour un environnement de test, Ubuntu Server constitue une option simple pour mettre en place les différents composants nécessaires.
Après l'installation du système, une mise à jour peut être effectuée avec :
sudo apt update
sudo apt upgrade -yInstallation d'Ollama
Ollama permet d'exécuter différents modèles de langage localement et fournit une interface relativement simple pour télécharger et lancer les modèles compatibles.
L'installation peut être effectuée avec :
curl -fsSL https://ollama.com/install.sh | shUne fois l'installation terminée :
ollama --versionpermet de vérifier que le programme est correctement installé.
Installation et test d'un modèle DeepSeek
Une fois Ollama installé, un modèle DeepSeek compatible avec la configuration du serveur peut être lancé.
Par exemple :
ollama run deepseek-r1Le choix du modèle doit être effectué en fonction des ressources disponibles.
Un modèle plus important peut nécessiter davantage de mémoire et offrir des performances différentes selon qu'il est exécuté sur CPU ou avec l'aide d'un GPU.
Il est donc préférable de tester plusieurs configurations avant de choisir un modèle pour une utilisation professionnelle.
Tester les ressources du serveur
Après le lancement du modèle, il est intéressant d'observer la consommation des ressources.
Sous Linux, plusieurs commandes permettent de contrôler l'utilisation du système :
free -hpour consulter la mémoire RAM,
et :
htoppour observer l'utilisation du processeur et des processus.
Dans le cas d'un serveur équipé d'un GPU compatible, des outils spécifiques au constructeur peuvent également être utilisés pour contrôler la mémoire et la charge GPU.
Ces mesures permettent de déterminer si la configuration matérielle est réellement adaptée au modèle utilisé.
Exemples d'utilisation en environnement professionnel
Un modèle IA exécuté localement peut être utilisé pour différents scénarios techniques, selon les besoins de l'entreprise.
Par exemple :
- assistance à la rédaction de documentation technique ;
- analyse et explication de logs ;
- aide au support informatique ;
- génération de scripts ;
- recherche dans une base documentaire interne ;
- assistant technique accessible sur le réseau local ;
- expérimentation de solutions IA sans dépendre entièrement d'un service cloud.
Dans un environnement professionnel, l'utilisation de données confidentielles doit toutefois être étudiée avec attention. Le fait d'exécuter un modèle localement ne signifie pas automatiquement que l'ensemble de l'environnement est sécurisé.
La sécurité du système d'exploitation, du réseau, des comptes utilisateurs et du stockage reste essentielle.
Limites à prendre en compte
Un serveur HPE DL380 Gen10 peut fournir une importante capacité CPU et mémoire, mais cela ne signifie pas qu'il remplacera systématiquement une machine équipée d'un GPU moderne pour les modèles IA les plus volumineux.
Avant un déploiement, il faut donc vérifier :
- la taille du modèle ;
- la quantité de RAM nécessaire ;
- la présence ou non d'un GPU ;
- les performances attendues ;
- le nombre d'utilisateurs ;
- le type de tâches exécutées ;
- la capacité de stockage disponible.
Pour une utilisation avec plusieurs utilisateurs ou des modèles plus importants, une architecture équipée d'accélérateurs GPU peut être plus appropriée.
Conclusion
L'installation d'un environnement DeepSeek en local sur un HPE ProLiant DL380 Gen10 constitue un intéressant cas d'utilisation pour expérimenter l'intelligence artificielle sur une infrastructure serveur professionnelle.
Le résultat dépend principalement de la configuration matérielle du serveur et du modèle utilisé. Une analyse préalable du CPU, de la RAM, du stockage et, le cas échéant, du GPU permet de choisir une configuration adaptée au besoin réel.
Chez RackDeploy à Casablanca, nous intervenons sur les infrastructures serveurs et les environnements professionnels, notamment les serveurs Dell, HPE et Fujitsu, ainsi que les systèmes de stockage et infrastructures IT.
Pour une étude de configuration ou un projet d'installation d'un environnement IA local, les caractéristiques exactes du serveur doivent être analysées avant le déploiement.
RackDeploy – Casablanca, Maroc
Téléphone / WhatsApp : 065 759 7722
Email : Ali@rackdeploy.com