Consumo energético de la IA

Para el funcionamiento de una IA son necesarios dos grandes pasos. El primero es el entrenamiento del modelo de IA con datos, el segundo es la ejecución de las peticiones sobre el modelo entrenado, la fase de inferencia.

El entrenamiento de una IA se basa en el proceso de grandes cantidades de datos para conseguir la parametrización de las redes neuronales que lo forman. Este es un proceso intenso ya que la cantidad de datos necesaria para tener un modelo decentes es ingente. Además, el número de parámetros que se utilizan, como en los modelos de lenguaje, es de varios miles de millones.

Recordemos que para ChatGPT 3 OpenAI publicaba con orgullo que el número de parámetros era de 175.000 millones y para ChatGPT 4 se estima que podrían se 120 billones.

La ejecución de un modelo, o fase de inferencia, para dar respuesta a las preguntas del usuario, leyendo los prompts que recibe, no es un proceso fácil ya que requiere de la búsqueda y proceso de los datos que se han de presentar, en función de las capacidades del modelo y de las condiciones que ha determinado el propio modelo.

Ambos pasos o fases en la puesta en marcha de una IA requieren de enormes cantidades de proceso de GPUs en paralelo, o que equivale a grandes cantidades de energía. Se estima que NVIDIA podría estar despachando un millón y medio de servidores anualmente en 2027, que, corriendo a plena capacidad dadas las actuales demandas sobre IAs, consumirían mas de 85 Tera Watios / hora (TW/h) anuales.

Un TW/h son 1.000 millones de KW/h

Aunque las empresas de IA se esfuerzan en mejorar la eficiencia del hardware y el software para estos usos y que se consuma menos energía, un aumento de la eficiencia de las máquinas suele incrementar la demanda. La paradoja de Jevons dice que los avances tecnológicos conducen a un aumento neto del uso de recursos, lo que empeora la situación.

Todos estos análisis los ha llevado a cabo Alex de Vries, científico de datos del banco central de los Países Bajos y Ph.D. candidato en la Universidad Vrije de Amsterdam.

Y todo este gasto energético no tiene en cuenta la parte correspondiente al enfriamiento de las instalaciones de servidores que, en promedio, agregarían un 50 por ciento al costo de energía sólo para mantener las máquinas frías.

Las empresas que entrenan a estos modelos de IA no son pocas. Se emplean grandes cantidades de computación que se pasan días, meses e incluso años recopilando información en Internet y analizando datos para alimentar a los algoritmos. Y las grandes empresas que pueden afrontar estos centros y sus costes que son Google, Microsoft, Amazon y otros grandes del software quieren tener los mejores modelos, muy robustos y fiables, lo que nos lleva a crear redes neuronales de millones de parámetros y procesar masivamente datos.

Un grupo de investigadores, entre ellos algunos científicos de la Universidad de California en Berkeley, publicaron en 2021 algunas estimaciones sobre el consumo energético de ChatGPT-3. Este modelo de IA, especialmente diseñado para dar respuestas a preguntas de todo tipo hechas con lenguaje natural, necesitó 1.287 GW/h. Y aquí no acaba todo, porque, como he comentado, la puesta en ejecución del modelo consume muchos recursos de data center. Además, a medida que pasa el tiempo, los modelos se han de ir entrenando con actualizaciones de lo que ha pasado en el mundo., de lo contrario las respuestas pueden estar desfasadas. OpenAI trabaja dentro de Azure, la nube de Microsoft que tanto ha impulsado su CEO Satya Nadella en los últimos años y que ya supone la principal fuente de ingresos. Dicen en Microsoft que actualmente compran energía renovable y están trabajando para ser negativos en carbono en el 2030.

Parece ser que el está reñido el avance tecnológico de las Inteligencias artificiales con los problemas medioambientales que padecemos. Es paradójico que una tecnología de la que pretendemos que nos salve de al destrucción del clima actual se convierta en una de las principales causas del calentamiento global. Los temas son: ¿prescindiremos de los grandes beneficios de las IAs tanto para la investigación como para el ocio? ¿Llegaremos a tiempo de encontrar una fuente de energía limpia para seguir el desarrollo o moriremos en el intento?