GreenIT · Fiches DS Polytech S9 · D. Lopez Pacheco · F. Giroire

Nameplate = Σ max de chaque composant (surestime) · actual peak = max mesuré à pleine charge (à utiliser) · idéal : 0 W à vide, linéaire

Réseau : conso ∝ nombre de modules actifs (ports), pas la bande passante (Mahadevan 2009)

Conséquence : peu de serveurs bien chargés > beaucoup presque vides → modèle ON/OFF, consolidation (ch. 2)

Ex. E = 3 kWh, I = 100, M = 60 g, R = 600 req → (300 + 60) / 600 = 0,6 g/req

PUE = énergie totale / énergie IT · ≥ 1 · standard 1,6 · mieux 1,1 (slide : « Good = 1.6 » probablement coquille)

WUE = eau sur site / énergie IT (L/kWh) · 3 M L / 1,5 GWh = 2 L/kWh

ERE = (total − réutilisée) / IT · récompense la chaleur récupérée · sans réutilisation ERE = PUE · ex. 12 total, 6 IT, 3 réutilisés → PUE 2, ERE 1,5

Entraînement BLOOM 176 B = 24,7 t CO2eq (GPU dynamique seul, mix français, sans réseau ni essais) · modèles à refaire plus gros

Inférence : les modèles de raisonnement (o1) déplacent le calcul vers l'inférence (thinking) · requête LLM ≈ 3 Wh vs recherche 0,3 Wh (×10)

DC 2025 : 500-540 TWh (< 2 % monde, IA 10-12 %) · IA +40 %/an (1,4⁵ ≈ 5,4) · 2030 : 1250-1500 TWh (5 %, IA > 35 %) · numérique 1400-1600 Mt ≈ 1,5× aviation

E-waste 62 Mt (2022, +82 % vs 2010) → 82 Mt (2030) · IA +1,2 à 5 Mt · 22 % recyclés · vie 2 à 5 ans

Minerais gallium/indium 70 %, tantale 30-40 %, cobalt 15-20 %, terres rares 15 % · Congo, Birmanie

Eau global 0,01-0,02 % mais local : hyperscale = ville de 10 à 50 k hab. · mur énergétique : raccord HT (Virginie, Irlande), SMR

Social travailleurs de la donnée « fantômes » · biais, fake news

Instance items I de taille s(i), capacité B, entier K · décision : partition en K parties de somme ≤ B ? · optim. K min = OPT(I)

Complexité : pas d'approx. de rapport absolu < 3/2 sauf P = NP · pseudo-poly pour K fixe · poly pour B fixe

FF  : 1re boîte ouverte où l'item rentre   ≤ 1,7 OPT
BF  : boîte la plus chargée où il rentre   ≤ 1,7 OPT
FFD : trier décroissant puis FF   ≤ 11/9 OPT + 6/9

Approximation : algo poly, solution réalisable, garantie de facteur (2-approx ≤ 2 OPT)

{5, 7, 2, 4, 3, 8}, B = 10 · somme 29 → OPT ≥ 3 · BF : {5,4} {7,2} {3} {8} = 4

U = mobiles à servir · S_i = mobiles couverts par l'antenne i · min d'ensembles couvrant U · 2e idée : réassocier les mobiles pour vider des antennes

tant que U non couvert :
  prendre S max |S ∩ non-couverts|
// linéaire en Σ|S_i| (file à seaux)

Garantie ≤ H(s) × OPT · H(4) ≈ 2,08 · H(6) ≈ 2,45 · H(100) ≈ 5,19

4, 6, 2 uniques → S1, S3, S4 forcés : OPT = 3 · glouton prend S2 (3 nouveaux) puis S1, S3, S4 : 4

EAR : router toutes les demandes en minimisant les équipements actifs (routeurs, liens) sous capacité · charge ≈ sans effet sur la conso → éteindre interfaces et châssis

L = V
tant que L ≠ ∅ :
  lln = noeud le moins chargé de L
  endormir lln
  router tout par plus courts chemins
  si infaisable : rallumer lln, routage précédent
  L = L − {lln}

Liens cap. 2 · demandes A→C, D→F · essais : A (extrémité, non) · B dort · C, D, F extrémités · E coupe D→F · 5/6 actifs · + A→F : rien ne dort (heure de pointe)

Ex. petit coût 1, gros coût 10, 20 % escaladés : 1 × 1 + 0,2 × 10 = 3 au lieu de 10

τ ↑ plus d'escalades, coût ↑, précision souvent ↑ · τ ↓ inverse

Calibration : réseaux sur-confiants (Guo 2017) · temperature scaling p = softmax(z/T), T appris sur validation, poids figés

ECE : 60 préd. conf 0,9 acc 0,8 + 40 préd. conf 0,6 acc 0,6 → 0,6 × 0,1 + 0,4 × 0 = 0,06

α proximité brouillon/cible · c coût relatif du brouillon · γ tokens proposés

Leviathan 2023 : α = 0,8, γ = 4 → (1 − 0,8⁵)/0,2 ≈ 3,36 tokens/passe · c = 0,1 → gain ≈ 3,36 / (γc + 1) ≈ 2,4×

Self-speculative (Draft & Verify, LayerSkip, SWIFT) : même LLM, brouillon en sautant des couches

KV cache (serveur, dans une requête) : K, V des tokens vus gardés · mémoire ∝ contexte

Prompt caching (entre requêtes) : préfixe identique réutilisé · correspondance exacte : 1 caractère changé en amont invalide la suite

Cache sémantique (client) : embedding + similarité > seuil → réponse en cache, 100 % d'économie sur succès · risques : seuil, réponses périmées, fuite entre users (MeanCache)

PYTHONPERFSUPPORT=1 perf record -g \
  -o ~/perf.data python3 best_offer.py
perf script -i ~/perf.data > stack.txt
# speedscope, mode Left Heavy
java -XX:+PreserveFramePointer \
  -XX:+DumpPerfMapAtExit BestOffer

Échantillonnage de la pile (pas de trace de chaque appel) · -g = toute la chaîne d'appel · self = code propre · children = self + appelées · flame graph : largeur = temps cumulé, hauteur = profondeur

Docker : --privileged, SYS_ADMIN, perf_event_paranoid=-1

Hotspot qui se déplace : sorth → calc_svc_score (55 %) → haversine (12 → 63 % sans ralentir)

Amdahl gain = 1 / ((1 − p) + p/s) · plafond 1/(1 − p) · fonction à 5 % → gain max 1,05

v0 → v1 : p = 0,48, s → ∞ : 1/0,52 = 1,92 prédit · mesuré 11,70/6,00 = 1,95

Java : types statiques, JIT natif, même nb d'appels, coût/appel ↓ · run court : > 50 % des échantillons dans le JIT (C2Compiler) · Rust AOT : pas de warmup, JIT ni GC · inlining : tout fond dans main

Thinking compte dans max_output_tokens et est facturé : 100 → blague tronquée · 512 OK · 158/173 = 91 % de la sortie

EcoLogits.init(providers=["google_genai"])
client = genai.Client(...)   # APRÈS init
# streaming : impacts sur le DERNIER chunk
chunk.impacts.energy.value.min / .max

EcoLogits estime (modèle : taille supposée, tokens, infra), ne mesure pas · intervalle 0,000335 à 0,000678 kWh · warnings normaux : architecture non publiée, multimodal

Prix 7 × 0,50/10⁶ + 173 × 3/10⁶ = 0,000522 $ · sortie 99 % · ×10⁶ req ≈ 522 $ · sans thinking sortie ÷11

CO2 0,000335 kWh × 56 g ≈ 19 mg (FR) · 0,000678 × 381 ≈ 258 mg (DE) · 10⁶ req × 0,335 Wh = 335 kWh ≈ 18,8 kg FR

codecarbon detect
codecarbon monitor --offline \
  --country-iso-code FRA -- python3 prog.py
# emissions.csv : energy_consumed (kWh)
#                 emissions (kgCO2eq)
force_carbon_intensity_g_co2e_kwh = 81

Offline : intensité moyenne annuelle du pays · online : instantanée (Electricity Maps, token + experiment_id)

wdistance : même énergie FRA/DEU (4,5·10⁻⁸ kWh), émissions ×6,7

d[i][j] = min(d[i-1][j] + 1,       # suppr.
              d[i][j-1] + 1,       # insert.
              d[i-1][j-1] + cost)  # subst.
si a[i-1]=b[j-2] et a[i-2]=b[j-1] :
  d[i][j] = min(d[i][j], d[i-2][j-2] + 1)

hievr/hiver = 1 (Levenshtein : 2) · hiv/hiver 2 · ver/hiver 2 · vre/hiver 3

case (v, e) : transposition « ev » / « ve » depuis d[2][2] = 0 → 1