Consum energètic de la IA

Per al funcionament d'una IA calen dos grans passos. El primer és l'entrenament del model d'IA amb dades, el segon és l'execució de les peticions sobre el model entrenat, la fase d'inferència.

L'entrenament d'una IA es basa en el procés de grans quantitats de dades per aconseguir la parametrització de les xarxes neuronals que el formen. Aquest és un procés intens ja que la quantitat de dades necessària per tenir un model decent és ingent. A més, el nombre de paràmetres que s'utilitzen, com en els models de llenguatge, és de milers de milions.

Recordem que per a ChatGPT 3 OpenAI publicava amb orgull que el nombre de paràmetres era de 175.000 milions i per a ChatGPT 4 s'estima que podrien ser 120 bilions.

L'execució d'un model, o fase d'inferència, per donar resposta a les preguntes de l'usuari, llegint els prompts que rep, no és un procés fàcil ja que requereix la cerca i el procés de les dades que shan de presentar, en funció de les capacitats del model i de les condicions que ha determinat el propi model.

Ambdós passos o fases en la posada en marxa d'una IA requereixen enormes quantitats de procés de GPU en paral·lel, o que equival a grans quantitats d'energia. S'estima que NVIDIA podria estar despatxant un milió i mig de servidors anualment el 2027, que, corrent a plena capacitat ateses les actuals demandes sobre IAs, consumirien més de 85 Tera Watios/hora (TW/h) anuals.

Un TW/h són 1.000 milions de KW/h

Tot i que les empreses d'IA s'esforcen per millorar l'eficiència del maquinari i el programari per a aquests usos i que es consumeixi menys energia, un augment de l'eficiència de les màquines acostuma a incrementar la demanda. La paradoxa de Jevons diu que els avenços tecnològics condueixen a un augment net de l'ús de recursos, cosa que empitjora la situació.

Totes aquestes anàlisis les ha dut a terme Alex de Vries, científic de dades del banc central dels Països Baixos i Ph.D. candidat a la Universitat Vrije d'Amsterdam.

I tota aquesta despesa energètica no té en compte la part corresponent al refredament de les instal·lacions de servidors que, de mitjana, afegirien un 50% al cost d'energia només per mantenir les màquines fredes.

Les empreses que entrenen aquests models d'IA no són poques. S'utilitzen grans quantitats de computació que es passen dies, mesos i fins i tot anys recopilant informació a Internet i analitzant dades per alimentar els algorismes. I les grans empreses que poden afrontar aquests centres i els seus costos que són Google, Microsoft, Amazon i altres grans del programari volen tenir els millors models, molt robustos i fiables, cosa que ens porta a crear xarxes neuronals de milions de paràmetres i processar massivament dades.

Un grup d'investigadors, entre ells alguns científics de la Universitat de Califòrnia a Berkeley, van publicar el 2021 algunes estimacions sobre el consum energètic de ChatGPT-3. Aquest model d'IA, especialment dissenyat per donar respostes a preguntes de tota mena fetes amb llenguatge natural, va necessitar 1.287 GW/h. I aquí no s'acaba tot, perquè, com he comentat, la posada en execució del model consumeix molts recursos de data center. A més, a mesura que passa el temps, els models s'han d'anar entrenant amb actualitzacions del que ha passat al món. En cas contrari, les respostes poden estar desfasades. OpenAI treballa dins d'Azure, el núvol de Microsoft que tant ha impulsat el seu CEO Satya Nadella els darrers anys i que ja suposa la principal font d'ingressos. Diuen a Microsoft que actualment compren energia renovable i estan treballant per ser negatius en carboni el 2030.

Sembla que està renyit l'avenç tecnològic de les intel·ligències artificials amb els problemes mediambientals que patim. És paradoxal que una tecnologia de la qual pretenem que ens salvi de la destrucció del clima actual es converteixi en una de les principals causes de l'escalfament global. Els temes són: ¿prescindirem dels grans beneficis de les IAs tant per a la investigació com per a l'oci? Arribarem a temps de trobar una font d'energia neta per seguir el desenvolupament o morirem a l'intent?