Future & RobotsLunch Talk15min
Le vrai coût d'un token: la facture cachée de l’IA générative
Cette session révèle le coût énergétique et environnemental caché de l’IA générative. Au‑delà des tokens et de la latence, elle analyse l’empreinte carbone et les déchets électroniques, puis propose des solutions concrètes d’optimisation, d’architecture et d’« IA verte » pour concilier performance, efficacité économique et durabilité.
talk.summaryAiDisclaimer
Pietro MeleAdelean
Giovanna MontiAdelean
Nous mesurons le coût de l’IA générative en centimes par tranche de 1 000 tokens ou en millisecondes de latence. Mais chaque prompt s’accompagne d’une facture invisible, réglée en kilowattheures et en litres d’eau.
À mesure que l’adoption de l’IA s’accélère, son impact environnemental devient une contrainte d’ingénierie majeure. Une seule interaction avec un LLM peut consommer jusqu’à dix fois plus d’énergie qu’une requête de recherche traditionnelle, tandis que le cycle de vie du matériel génère des niveaux record de déchets électroniques.
Dans cette session, nous évaluerons le « véritable coût d’un token », en dépassant le battage médiatique pour analyser les données concrètes liées à l’entraînement et à l’inférence des modèles d’IA.
Nous passerons ensuite des métriques aux solutions, en montrant que l’« IA verte » est bien souvent synonyme d’IA efficace et économiquement pertinente.
Vous repartirez avec une boîte à outils pratique pour mieux gérer notre dépendance à ces modèles : apprendre à dimensionner correctement votre architecture, optimiser vos pipelines et mettre en œuvre des approches sensibles au carbone afin de construire une intelligence qui ne coûte pas la planète.
À mesure que l’adoption de l’IA s’accélère, son impact environnemental devient une contrainte d’ingénierie majeure. Une seule interaction avec un LLM peut consommer jusqu’à dix fois plus d’énergie qu’une requête de recherche traditionnelle, tandis que le cycle de vie du matériel génère des niveaux record de déchets électroniques.
Dans cette session, nous évaluerons le « véritable coût d’un token », en dépassant le battage médiatique pour analyser les données concrètes liées à l’entraînement et à l’inférence des modèles d’IA.
Nous passerons ensuite des métriques aux solutions, en montrant que l’« IA verte » est bien souvent synonyme d’IA efficace et économiquement pertinente.
Vous repartirez avec une boîte à outils pratique pour mieux gérer notre dépendance à ces modèles : apprendre à dimensionner correctement votre architecture, optimiser vos pipelines et mettre en œuvre des approches sensibles au carbone afin de construire une intelligence qui ne coûte pas la planète.
Pietro Mele
Software engineer and search consultant at Adelean, with deep expertise in machine learning and hybrid search. Focused on building effective search solutions, he is a lifelong learner and active contributor to the search community. Guided by his motto, “Per aspera, ad astra”, he brings the same dedication to work, life, and sport.