Esta Ferramenta Calcula o Consumo de Eletricidade do seu Chatbot
Crédito: Pixabay
Curioso sobre a eletricidade usada ao interagir com um modelo de IA? O engenheiro da Hugging Face, Julien Delavande, se perguntou o mesmo e criou uma ferramenta para encontrar a resposta.
Modelos de IA consomem energia sempre que são executados. Eles rodam em GPUs e chips especializados que exigem energia significativa para lidar com tarefas computacionais em larga escala. Embora seja desafiador medir o consumo de energia com precisão, prevê-se que o uso crescente de tecnologias de IA eleve a demanda por eletricidade a novos patamares nos próximos anos.
Crescentes Demandas de Energia para IA Destacam Preocupações Ambientais
A crescente necessidade de energia para suportar a IA levou algumas empresas a adotar práticas prejudiciais ao meio ambiente. “Ferramentas como a da Delavande destacam essa questão e incentivam os usuários de IA a pensar duas vezes.”
“Mesmo economias modestas de energia podem se acumular em milhões de consultas — a escolha do modelo ou do comprimento da saída pode ter um impacto ambiental significativo”, afirmaram Delavande e os cocriadores da ferramenta.
A ferramenta da Delavande foi desenvolvida para se integrar ao Chat UI, um front-end de código aberto para modelos como o Llama 3.3 70B da Meta e o Gemma 3 do Google. A ferramenta calcula o consumo de energia das mensagens enviadas de e para um modelo em tempo real, reportando-o em Watt-hora ou Joules. Ela também compara o consumo de energia dos modelos com o de eletrodomésticos comuns, como micro-ondas e lâmpadas LED.
Consumo de Energia de Tarefas de IA Comparado a Eletrodomésticos
A ferramenta estima que solicitar que o Llama 3.3 70B escreva um e-mail padrão consome cerca de 0,1841 Watt-hora — aproximadamente o mesmo que ligar um micro-ondas por 0,12 segundos ou usar uma torradeira por 0,02 segundos.
É importante observar que as estimativas da ferramenta são apenas isso — estimativas. Delavande não afirma que sejam altamente precisas. No entanto, elas servem como um lembrete de que tudo, incluindo chatbots, tem um custo.
“Por meio de iniciativas como a pontuação energética da IA e pesquisas mais amplas sobre o impacto energético da IA, defendemos a transparência na comunidade de código aberto. Um dia, o consumo de energia poderá ser exibido com a mesma clareza que os rótulos nutricionais nos alimentos!”, escreveram Delavande e seus cocriadores.
Leia o Artigo Original Techcrunch
Leia mais XPeng Iron: Por que este Robô pode ser o Próximo Grande Rival da Tesla
