Sortir l’IA des nuages
Vers une utilisation locale des IA LLM

🔊 Écouter

Comment lutter contre la destruction de l’environnement par le numérique alors que les géants de la tech envisagent de construire des data centers de la taille de Manhattan ? Que faire face au péril écologique et politique de l’IA ? Le désespoir ne manque pas. Légion sont ceux qui s’enveniment l’esprit de passions tristes, et dont le sommeil dogmatique paralyse l’action. Réveillez-vous ! Ni enfer ni paradis ne vous attendent. Les générations futures attendent de vous un sursaut d’intelligence collective vers un monde durable. Il est temps de s’engager ensemble dans la dynamique de réappropriation de nos données, de nos immatériels et de nos IA.

De quelle manière ? Peut-être pourrait-on commencer par changer nos usages en utilisant les IA en local sur nos ordinateurs. De fait, on peut par exemple utiliser des plateformes comme Docker Model Runner¹ pour faire tourner sa propre IA sur son ordinateur et ainsi contrôler son impact environnemental tout en préservant la confidentialité de ses données personnelles. C’est dans cette visée que cet « À chaud » se propose d’introduire le lecteur à une utilisation de l’IA en local en montrant avant tout le bénéfice écologique et politique que cela apporterait.

^{Pourquoi est-il urgent de changer nos usages de l’IA ?}

Le numérique, dont le greenwashing ne fait plus illusion, est aujourd’hui rattrapé par le poids de sa matérialité. Loin d’alléger sa part dans la crise climatique, il représente aujourd’hui environ 3,9 % des émissions mondiales de gaz à effet de serre (ce qui est équivalent au transport aérien) et suit une trajectoire de croissance que les estimations jugent deux fois plus rapide que la moyenne mondiale des autres secteurs².

La frénésie de l’IA s’inscrit précisément dans cette dynamique d’emballement, où chaque avancée technologique est immédiatement absorbée par une infrastructure toujours plus énergivore et carbonée³. Aussi, malgré d’impressionnants gains d’efficacité, la consommation énergétique des data centers n’a été que marginalement contenue (+6 % entre 2010 et 2020), alors que leur capacité de calcul a explosé de 550 %. On est aujourd’hui face à un effet rebond directement lié à la course au développement de l’IA dont l’usage se généralise et dont les perspectives de progrès reposent sur l’extension des jeux de données et l’augmentation de la taille des paramètres.

Le marché spécule sur des modèles toujours plus « larges ». Seulement, à mesure que les jeux de données s’élargissent, les corrélations fallacieuses augmentent dans le paramétrage. On en arrive à produire des « IA dégénératives » accumulant du bruit dans leur système dont le progrès vers « l’IA générale » rêvée est en l’état inconcevable. La loi d’échelle appliquée à l’amélioration des IA LLM⁴, c’est-à-dire, à la diminution du taux d’erreur, représente un coût astronomique en taille, données et énergie des modèles⁵. Chaque division par dix du taux d’erreur requiert une multiplication des ressources d’apprentissage (paramètres et données) par 10¹⁰ (dix puissance 10). Cette même division par dix du taux d’erreur implique une augmentation par 10^²⁰ (dix puissance vingt) de la consommation énergétique. L’IA générale à l’abri de l’erreur est inconcevable du point de vue énergétique et pourtant, elle fait spéculer le marché qui s’endette jusqu’à 3 000 milliards de dollars pour la faire naître⁶. En attendant, l’entraînement d’un seul modèle d’IA générative, type ChatGPT, peut émettre jusqu’à 284 000 kg de CO₂, soit cinq fois l’empreinte carbone d’une voiture sur toute sa durée de vie⁷. Entre 2012 et 2018, la puissance de calcul nécessaire pour ces entraînements a été multipliée par 300 000.

Au-delà du carbone, l’impact se mesure en eau. Pour fonctionner, les data centers consomment des quantités astronomiques d’eau, prélevée directement sur des territoires parfois déjà en stress hydrique⁸. Google a ainsi consommé près de 25 milliards de litres d’eau en 2023. L’entraînement d’un seul modèle comme GPT-3 a requis 700 000 litres d’eau, tandis que chaque requête individuelle vers une IA hébergée sur le cloud consomme environ un demi-litre d’eau. Ces chiffres, loin d’être anecdotiques, déclenchent déjà des conflits d’usage qui demandent d’attaquer les géants de la tech compte tenu des externalités négatives générées, comme aux Pays-Bas où un data center de Microsoft a consommé 84 millions de litres d’eau en un an, contre les 12 à 20 millions de litres initialement prévus par la compagnie⁹.

^{Vers une écologie politique de l’IA}

Une chose est sûre, l’utilisation de l’IA en local constitue un levier puissant pour réduire l’impact environnemental du numérique. Une exécution locale de l’IA plutôt que dans le cloud permettrait, à tâche équivalente, une réduction approximative de 25 à 40 % de la consommation électrique, de 60 à 90 % de la consommation d’eau, et de 50 à plus de 90 % de l’empreinte carbone¹⁰. De plus, le local soustrait le calcul énergétique à l’opacité des géants de la tech et évite les surcoûts matériels des data centers et des serveurs, comme ceux d’Azure Microsoft, qui tournent à plein temps pour alimenter une IA comme ChatGPT. Ces infrastructures imposent ainsi une consommation structurelle massive en continu (refroidissement, conversion d’énergie, redondance), une forte pression sur des ressources critiques comme l’eau, et des coûts invisibles pour l’utilisateur.

Alors, comment faire ? Pour reprendre la main sur notre consommation énergétique liée à l’IA, il faut avant tout se doter d’un ordinateur ayant une puce M1, M2, M3, ou M4 Apple ou installer un processeur graphique (GPU, graphics processing unit) Nvidia sur un ordinateur PC. Le coût n’est pas marginal (pas moins de 500€) et la production des puces participe de l’extractivisme des mines (cuivre, silicium etc.) notamment au Congo. Il convient donc d’associer cette pratique à celle de l’extension de la durée de vie de son ordinateur, notamment à partir du reconditionnement des GPU.

Une fois l’ordinateur en état de faire fonctionner une IA, vous devez télécharger une plateforme comme Docker Model Runner.

Étape 1 : Ouvrez Docker Desktop.

Allez dans Settings > Features in Development > Beta.

Cochez la case « Enable Docker Model Runner ».

Cliquez sur « Apply and restart » pour que les changements prennent effet.

Étape 2 : Téléchargez le Modèle d’IA Llama 3.2. et/ou Gemma 3.

Ouvrez votre terminal et tapez « docker model pull ai/llama3.2:1B-Q8_0 » ou « docker model pull ai/gemma3 ».

Une fois le téléchargement terminé, vous pouvez voir le modèle dans le tableau de bord de Docker Desktop, dans la section « Models ».

Étape 3 : Lancez l’application complète.

Lancez la commande suivante : « docker compose up -d –build ».

Attendez quelques instants que tous les contenus démarrent. Vous pouvez vérifier leur statut dans Docker Desktop.

Étape 4 : Utilisez le Chatbot et explorez l’observabilité du modèle. Une fois que tout est lancé, vous pouvez interagir avec l’application et ses outils de monitoring.
Pour accéder au Chatbot, ouvrez votre navigateur et allez à l’adresse : http://localhost:3000.

Vous verrez une interface de chat type ChatGPT où vous pourrez commencer à envoyer des messages au modèle Llama 3.2. ou Gemma 3¹¹.

L’IA est maintenant installée sur votre ordinateur. Pour ensuite améliorer ses performances, il faudra la nourrir en data à partir d’un modèle d’embedding (intégration) disponible sur Hugging Face (compatible Llama ou Gemma) permettant de traduire vos données dans le langage de l’IA. Vous pourrez également insérer des tokens à partir de la fonction expand de la plateforme Docker et modifier les codes de votre IA en les générant, par exemple, avec une IA !

Voilà donc, en quelques clics, une IA qui tourne sur votre ordinateur en local sans besoin de se connecter au réseau wifi, avec vos données qui restent sur votre ordinateur et en prime, une lisibilité de votre consommation énergétique. Cette approche locale permet, grâce à des outils logiciels de mesure fine, de quantifier précisément l’énergie consommée par chaque composant (GPU, CPU, RAM). L’utilisateur reprend ainsi le contrôle : il peut choisir des plages horaires à faible émission, optimiser ses algorithmes, et surtout, prolonger la durée de vie de son matériel, limitant ainsi l’empreinte carbone « embarquée » liée à la fabrication et au renouvellement incessant des serveurs des géants de la tech. En somme, l’IA locale permet de réinstaurer un lien direct et mesurable entre l’usage numérique et ses conséquences écologiques, transformant ainsi une consommation opaque en pratique durable.

A lire plus tard