Bolt42

Já se perguntou quanto eletricidade você usa ao interagir com um modelo de IA, seja para fazer um pedido ou agradecer? O engenheiro da Hugging Face, Julien Delavande, também se questionou sobre isso e desenvolveu uma ferramenta para ajudar a responder essa pergunta.

Modelos de IA consomem energia cada vez que são executados. Eles funcionam em GPUs e chips especializados que requerem muita potência para realizar as cargas de trabalho computacionais associadas em grande escala. Não é fácil determinar o consumo de energia de um modelo, mas é amplamente esperado que o uso crescente de tecnologias de IA eleve as necessidades elétricas a novos patamares nos próximos anos.

A demanda por mais energia para alimentar a IA levou algumas empresas a adotar estratégias ecologicamente desfavoráveis. Ferramentas como a de Delavande têm como objetivo trazer atenção para isso e talvez fazer alguns usuários de IA refletirem.

“Mesmo pequenas economias de energia podem se escalar em milhões de consultas — a escolha do modelo ou o comprimento da resposta pode ter um grande impacto ambiental”, afirmaram Delavande e os outros criadores da ferramenta em uma declaração.

A ferramenta de Delavande foi projetada para funcionar com o Chat UI, uma interface frontal de código aberto para modelos como o Llama 3.3 70B da Meta e o Gemma 3 do Google. A ferramenta estima o consumo de energia das mensagens enviadas e recebidas por um modelo em tempo real, relatando o consumo em Watt-horas ou Joules. Ela também compara o uso de energia do modelo com o de eletrodomésticos comuns, como micro-ondas e LEDs.

De acordo com a ferramenta, pedir ao Llama 3.3 70B para redigir um e-mail típico consome aproximadamente 0.1841 Watt-horas — o equivalente a operar um micro-ondas por 0.12 segundos ou usar uma torradeira por 0.02 segundos.

Vale lembrar que as estimativas da ferramenta são apenas isso — estimativas. Delavande não afirma que elas são extremamente precisas. No entanto, servem como um lembrete de que tudo — incluindo chatbots — tem um custo.

“Com projetos como a pontuação de energia da IA e uma pesquisa mais ampla sobre a pegada de energia da IA, estamos buscando transparência na comunidade de código aberto. Um dia, o uso de energia pode ser tão visível quanto os rótulos de nutrição nos alimentos!” escreveram Delavande e seus co-criadores.

    5 − quatro =

    Bolt42

    Google IA