Sur un PC de 1997 et avec seulement 128 Mo de RAM, l’IA prend vie

Imaginez dépoussiérer un vieil ordinateur de bureau, souffler la poussière accumulée depuis vingt ans, et y lancer un modèle d’intelligence artificielle dernier cri. Selon des travaux préliminaires d’EXO Labs et de chercheurs de l’Université d’Oxford, un simple Pentium II à 350 MHz¹, flanqué de 128 Mo de mémoire vive², pourrait faire tourner un réseau de neurones moderne.

Un exploit technique : faire fonctionner l’IA moderne sur du matériel obsolète

D’ordinaire, les IA récentes exigent des GPU surpuissants et des grappes de serveurs. Pourtant, les ingénieurs d’EXO Labs, sous l’impulsion d’Andrej Karpathy³, ancien directeur de la recherche en IA chez Tesla, ont opté pour une toute autre voie. Grâce à l’architecture BitNet, ils ont compressé un modèle de 7 milliards de paramètres (≈ 13,7 Go en fp16) à environ 1,75 Go grâce à une quantification ternaire (–1, 0, +1).
Le résultat ? Un débit de l’ordre de plusieurs dizaines de tokens par seconde sur cette configuration. Un de mes amis développeur se souvient encore de la tête de son grand-père, ex-ingénieur de production, lorsqu’il a vu s’afficher les premières réponses générées : « C’est comme si on faisait voler un Cessna avec un moteur de tondeuse ! »

Vers une démocratisation durable et inclusive de l’intelligence artificielle

Au-delà de la prouesse, c’est tout un écosystème qui pourrait en profiter. D’après EXO Labs, la réduction drastique des besoins matériels ouvre la porte à l’IA dans les écoles rurales, les centres de santé isolés ou les ateliers artisanaux, sans investissement colossal en machines dernière génération.

Le saviez-vous ? En 2019, chaque Européen a produit en moyenne 12,3 kg de déchets électroniques⁴.

Sur le plan écologique, réutiliser du vieux matériel pour des calculs pointus limite l’obsolescence programmée et la montagne de déchets électroniques. Cette approche s’inscrit dans une vision de durabilité et d’inclusion, où la démocratisation technologique prime sur la course à la puissance brute.
En mettant l’accent sur l’optimisation algorithmique plutôt que sur le matériel, cette avancée rappelle qu’on peut faire plus avec moins, et qu’un PC des années 1990 peut parfois rivaliser avec les data centers de demain.


Notes de bas de page

  1. Intel Pentium II, Wikipédia, https://fr.wikipedia.org/wiki/Pentium_II
  2. Module SIMM à 72 broches – capacité jusqu’à 128 Mo, Wikipédia, https://fr.wikipedia.org/wiki/Single_Inline_Memory_Module
  3. Andrej Karpathy, Wikipédia, https://fr.wikipedia.org/wiki/Andrej_Karpathy
  4. Eurostat, Waste electrical and electronic equipment (WEEE) statistics, https://ec.europa.eu/eurostat/statistics-explained/index.php?title=Waste_electrical_and_electronic_equipment_statistics

Laisser un commentaire