A IA generativa é ruim para o meio ambiente?

A IA generativa tem um custo ambiental real: o treinamento e a execução de modelos utilizam eletricidade, o resfriamento pode consumir água e o hardware tem uma pegada de fabricação. Muitas vezes é mais exigente em termos computacionais do que um sistema especializado que executa uma tarefa restrita. Mas o tamanho varia enormemente. Uma resposta curta em texto de um modelo pequeno não equivale a um longo raciocínio, um lote de imagens ou um vídeo gerado.

Portanto, a IA generativa não é ambientalmente inofensiva, mas nem todo uso é excepcionalmente prejudicial. O seu impacto torna-se mais preocupante quando modelos pesados ​​geram resultados de baixo valor ou descartáveis ​​em grandes volumes, especialmente em redes com utilização intensiva de carbono ou em locais com escassez de água. A comparação correta é com uma alternativa adequada e o valor do resultado.

A geração faz mais trabalho do que a simples recuperação

Um banco de dados tradicional pode retornar informações armazenadas. Um classificador específico de tarefa pode selecionar um rótulo. Um modelo generativo calcula uma nova sequência de tokens, pixels de imagem ou quadros de vídeo a partir de padrões aprendidos. Resultados maiores e modalidades mais complexas geralmente significam mais computação.

Em Processamento com grande consumo de energia, os pesquisadores Luccioni, Jernite e Strubell compararam 1,000 inferências em tarefas representativas. Eles descobriram que arquiteturas generativas multifuncionais consomem substancialmente mais energia do que modelos com tarefas específicas, mesmo depois de considerar o tamanho do modelo. Os seus valores medidos não devem ser colados em todos os serviços comerciais: hardware, utilização e software são diferentes. A lição mais duradoura do estudo é que a generalidade tem um custo.

Às vezes esse custo vale a pena. Um modelo capaz pode substituir várias ferramentas ou ajudar uma pessoa a concluir um trabalho valioso. O julgamento ambiental exige toda a tarefa, e não apenas o rótulo “gerador”.

O treinamento é visível, mas as inferências se acumulam

O treinamento de um modelo grande coordena muitos processadores durante um período prolongado. Pode ser repetido para experimentos, ajustes finos e execuções com falha. Os cartões de modelo público raramente fornecem dados suficientes de energia, localização e hardware para um ciclo de vida total independente.

A inferência começa após a implantação. Cada solicitação é menor que uma execução de treinamento, mas um serviço popular pode lidar com um número enorme. Contexto longo, tokens de raciocínio ocultos, recuperação, navegação na web e chamadas de ferramentas podem multiplicar o trabalho por trás de uma resposta visível. Se o treinamento ou a inferência dominam a vida de um modelo depende do tráfego e de quanto tempo ele permanece útil.

Alocar treinamento igualmente para cada consulta pode ser informativo para a contabilidade, mas não consome eletricidade quando o usuário pressiona enviar. Um modelo jovem com tráfego futuro incerto torna essa alocação especialmente instável. Bons relatórios mantêm o treinamento, a inferência e o hardware incorporado separados antes de oferecer qualquer valor combinado.

Texto, imagens e vídeo não são intercambiáveis

“Uma geração” é uma unidade pobre. O texto é produzido token por token. Uma resposta concisa com contexto limitado pode consumir uma fração de watt-hora segundo estimativas recentes, enquanto um documento longo ou tarefa de raciocínio pode consumir muito mais. Nosso explicador em Impacto ambiental da IA mostra por que o limite e a carga de trabalho são importantes.

As imagens envolvem computação iterativa sobre uma grande variedade de valores. Os usuários geralmente criam vários candidatos e aprimoram um favorito. O vídeo adiciona muitos quadros, consistência temporal e geralmente maior demanda computacional. Os fornecedores comerciais publicam poucos dados comparáveis ​​sobre energia ao nível do produto, pelo que os rácios precisos entre os modos seriam uma adivinhação.

Este é um lugar onde o comportamento ajuda. Especifique o resultado que você precisa, gere menos variantes e evite o aumento de rascunhos. Para texto, solicite um comprimento apropriado e inicie uma nova conversa quando o contexto antigo for irrelevante.

Eletricidade, carbono e água contam histórias diferentes

A eletricidade mede energia. O carbono depende de como essa eletricidade foi gerada. A água pode ser consumida no local para resfriamento e indiretamente para geração de energia. Um serviço pode melhorar uma dimensão e piorar outra – por exemplo, o arrefecimento a seco pode poupar água local, mas exigir mais electricidade em algumas condições.

A IEA estima que todos os data centers usados cerca de 415 TWh em 2024, não apenas IA. Espera-se que os servidores acelerados controlados por IA sejam uma importante fonte de crescimento até 2030. Os totais do sistema mostram por que a procura agregada merece atenção, mesmo quando um prompt de texto comum é pequeno.

A localização é pelo menos tão importante para a água. Um litro consumido numa bacia hidrográfica sob pressão pode ter consequências maiores do que o mesmo volume numa região com abundância de água. As médias globais escondem essas decisões locais. Leia como a IA afeta o meio ambiente para a cadeia completa.

A eficiência está melhorando, mas a demanda pode ultrapassá-la

Novos aceleradores podem realizar mais cálculos por unidade de eletricidade. A quantização reduz a precisão numérica e o trabalho. Os modelos de mistura de especialistas ativam apenas parte de seus parâmetros para cada token. Um melhor processamento em lote distribui a potência do servidor entre vários usuários, e modelos menores podem lidar com tarefas comuns.

Estas são melhorias genuínas. Não garantem menor consumo total. A geração mais barata e mais rápida pode atrair mais usuários e possibilitar produtos mais exigentes. Este é o problema da recuperação: a energia por produção cai enquanto o número e o tamanho das produções crescem mais rapidamente.

Ambas as medidas pertencem ao mesmo relatório. Os provedores devem divulgar a eficiência por carga de trabalho e os valores absolutos de energia, água e emissões. Uma média imediata decrescente não é prova de que o impacto total esteja diminuindo; um número crescente de data centers não é prova de que cada prompt se tornou menos eficiente.

Uma maneira proporcional de usar IA generativa

Primeiro decida se a geração é necessária. A pesquisa geralmente é melhor para encontrar uma página conhecida; uma planilha é melhor para aritmética transparente; um modelo pode superar a regeneração da cópia de rotina. Quando a IA agrega valor, selecione o modelo com menor capacidade em vez de optar pelo mais poderoso.

Mantenha os prompts e anexos relevantes. Peça uma orientação forte antes de solicitar variações. Reutilize bons resultados em vez de começar de novo. Salve a geração de imagem, áudio e vídeo para os resultados que pretende utilizar. Estas escolhas não resolverão os impactos infra-estruturais, mas reduzirão a procura evitável.

Pergunte aos fornecedores o que seus números incluem e se eles são medidos ou modelados. Treechat é metodologia descreve uma estimativa baseada na escolha do modelo, tokens, despesas gerais do data center e intensidade média de carbono da rede. Ele não pode ver o medidor de energia ativo, o sistema de água ou o ciclo de vida completo do hardware de um fornecedor.

A IA generativa é ambientalmente cara o suficiente para ser usada deliberadamente, e não tão catastrófica que todo uso valioso deva ser interrompido. A questão mais profunda em quão ruim a IA realmente é é se a ferramenta, a escala e o resultado justificam os recursos. Essa resposta pode mudar de um prompt para outro.