¿La IA generativa es mala para el medio ambiente?

La IA generativa tiene un costo ambiental real: entrenar y ejecutar modelos utiliza electricidad, la refrigeración puede consumir agua y el hardware tiene una huella de fabricación. A menudo es más exigente desde el punto de vista computacional que un sistema especializado que realiza una tarea limitada. Pero el tamaño varía enormemente. Una breve respuesta de texto de un modelo pequeño no equivale a un largo razonamiento, un lote de imágenes o un vídeo generado.

Así pues, la IA generativa no es inofensiva para el medio ambiente, pero tampoco cada uso es excepcionalmente perjudicial. Su impacto se vuelve más preocupante cuando los modelos pesados ​​generan productos desechables o de bajo valor en grandes volúmenes, particularmente en redes con alto consumo de carbono o en lugares con escasez de agua. La comparación correcta es con una alternativa adecuada y el valor del resultado.

La generación hace más trabajo que la simple recuperación

Una base de datos tradicional puede devolver información almacenada. Un clasificador de tarea específica podría seleccionar una etiqueta. Un modelo generativo calcula una nueva secuencia de tokens, píxeles de imágenes o fotogramas de vídeo a partir de patrones aprendidos. Mayores resultados y modalidades más complejas generalmente significan más computación.

En Procesamiento que consume mucha energía, los investigadores Luccioni, Jernite y Strubell compararon 1,000 inferencias en tareas representativas. Descubrieron que las arquitecturas generativas multipropósito consumen mucha más energía que los modelos de tareas específicas, incluso después de considerar el tamaño del modelo. Sus valores medidos no deberían aplicarse a todos los servicios comerciales: el hardware, la utilización y el software difieren. La lección más duradera del estudio es que la generalidad conlleva un costo.

A veces ese costo vale la pena. Un modelo capaz puede reemplazar varias herramientas o ayudar a una persona a terminar un trabajo valioso. El juicio ambiental requiere toda la tarea, no sólo la etiqueta de “generativo”.

El entrenamiento es visible, pero la inferencia se acumula.

Entrenar un modelo grande coordina muchos procesadores durante un período prolongado. Se puede repetir para experimentos, ajustes y ejecuciones fallidas. Las tarjetas de modelo público rara vez proporcionan suficientes datos de energía, ubicación y hardware para un ciclo de vida total independiente.

La inferencia comienza después del despliegue. Cada solicitud es más pequeña que una ejecución de capacitación, pero un servicio popular puede manejar un número enorme. Un contexto extenso, tokens de razonamiento ocultos, recuperación, navegación web y llamadas a herramientas pueden multiplicar el trabajo detrás de una respuesta visible. Que el entrenamiento o la inferencia dominen la vida de un modelo depende del tráfico y de cuánto tiempo sigue siendo útil.

Asignar capacitación por igual a cada consulta puede ser informativo para la contabilidad, pero no se consume electricidad cuando el usuario presiona enviar. Un modelo joven con un tráfico futuro incierto hace que esa asignación sea especialmente inestable. Los buenos informes mantienen separados el entrenamiento, la inferencia y el hardware incorporado antes de ofrecer cualquier cifra combinada.

Texto, imágenes y vídeo no son intercambiables.

“Una generación” es una unidad pobre. El texto se produce token por token. Una respuesta concisa con un contexto limitado puede utilizar una fracción de vatio-hora según estimaciones recientes, mientras que un documento extenso o una tarea de razonamiento puede utilizar mucho más. Nuestro explicador sobre El impacto ambiental de la IA muestra por qué los límites y la carga de trabajo son importantes.

Las imágenes implican un cálculo iterativo sobre una gran variedad de valores. Los usuarios suelen crear varios candidatos y mejorar uno de los favoritos. El vídeo añade muchos fotogramas, coherencia temporal y, normalmente, una mayor demanda computacional. Los proveedores comerciales publican pocos datos energéticos comparables a nivel de producto, por lo que las proporciones precisas entre modos serían una conjetura.

Este es un lugar donde el comportamiento ayuda. Especifique el resultado que necesita, genere menos variantes y evite escalar borradores. Para mensajes de texto, solicite una longitud adecuada y comience una nueva conversación cuando el contexto anterior sea irrelevante.

La electricidad, el carbono y el agua cuentan historias diferentes

La electricidad mide la energía. El carbono depende de cómo se generó esa electricidad. El agua se puede consumir in situ para refrigeración e indirectamente para generación de energía. Un servicio puede mejorar una dimensión y empeorar otra; por ejemplo, el enfriamiento seco puede ahorrar agua local pero requerir más electricidad en algunas condiciones.

La AIE estima que todos los centros de datos utilizados aproximadamente 415 TWh en 2024, no solo la IA. Se espera que los servidores acelerados impulsados ​​por IA sean una fuente importante de crecimiento hacia 2030. Los totales del sistema muestran por qué la demanda agregada merece atención incluso cuando un mensaje de texto ordinario es pequeño.

La ubicación es al menos igual de importante para el agua. Un litro consumido en una cuenca sometida a estrés puede tener mayores consecuencias que el mismo volumen en una región con abundancia de agua. Los promedios globales ocultan esas decisiones locales. Leer cómo la IA afecta el medio ambiente para la cadena completa.

La eficiencia está mejorando, pero la demanda puede superarla

Los nuevos aceleradores pueden realizar más cálculos por unidad de electricidad. La cuantización reduce la precisión numérica y el trabajo. Los modelos de combinación de expertos activan solo una parte de sus parámetros para cada token. Un mejor procesamiento por lotes distribuye la potencia del servidor entre varios usuarios y los modelos más pequeños pueden manejar tareas ordinarias.

Estas son mejoras genuinas. No garantizan un menor consumo total. Una generación más barata y más rápida puede atraer a más usuarios y permitir productos más exigentes. Éste es el problema del rebote: la energía por producción cae mientras que el número y el tamaño de la producción crecen más rápidamente.

Ambas medidas pertenecen al mismo informe. Los proveedores deben revelar la eficiencia por carga de trabajo y la energía, el agua y las emisiones absolutas. Un promedio rápido decreciente no es prueba de que el impacto total esté disminuyendo; un total creciente de centros de datos no es prueba de que cada aviso se haya vuelto menos eficiente.

Una forma proporcionada de utilizar la IA generativa

Primero decida si se necesita generación. La búsqueda suele ser mejor para encontrar una página conocida; una hoja de cálculo es mejor para la aritmética transparente; una plantilla puede superar la regeneración de una copia de rutina. Cuando la IA agregue valor, seleccione el modelo más pequeño y capaz en lugar de optar por el más potente.

Mantenga las indicaciones y los archivos adjuntos relevantes. Pida una dirección firme antes de solicitar variaciones. Reutilice buenos resultados en lugar de empezar de nuevo. Guarde la generación de imágenes, audio y video para los resultados que desea utilizar. Estas opciones no solucionarán los impactos en la infraestructura, pero reducirán la demanda evitable.

Pregunte a los proveedores qué incluyen sus números y si están medidos o modelados. Treechat's metodología describe una estimación basada en la elección del modelo, los tokens, los gastos generales del centro de datos y la intensidad promedio de carbono de la red. No puede ver el medidor de energía activo, el sistema de agua ni el ciclo de vida completo del hardware de un proveedor.

La IA generativa es lo suficientemente costosa desde el punto de vista medioambiental como para utilizarla de forma deliberada, pero no tan singularmente catastrófica como para que todo uso valioso deba detenerse. La pregunta más profunda en ¿Qué tan mala es realmente la IA? es si la herramienta, la escala y el resultado justifican los recursos. Esa respuesta puede cambiar de un mensaje a otro.