Nossa contribuição para um padrão ambiental global para AI
Nossa contribuição para um padrão ambiental global para AI (Via) Mistral divulgou números de impacto ambiental para seu maior modelo, Mistral Large 2, com mais detalhes do que eu já vi em qualquer um dos outros grandes laboratórios de IA.
A metodologia parece robusta:
(…) Iniciamos a primeira análise abrangente do ciclo de vida (LCA) de um modelo de IA, em colaboração com a Carbone 4, uma consultoria líder em RSE e sustentabilidade, e a agência de transição ecológica francesa (Ademe). Para garantir a robustez, este estudo também foi revisado por Resilio e Hubblo, duas consultorias especializadas em auditorias ambientais na indústria digital.
Seus números de título:
- A pegada ambiental do treinamento Mistral Large 2: em janeiro de 2025 e, após 18 meses de uso, o Large 2 gerou os seguintes impactos:
- 20,4 KTCONO,
- 281 000 m3 de água consumida,
- e 660 kg SB EQ (unidade padrão para depleção de recursos).
- Os impactos marginais da inferência, mais precisamente o uso do nosso assistente de IA Chat para uma resposta de 400 -token – excluindo os terminais dos usuários:
- 1.14 co₂e,
- 45 ml de água,
- e 0,16 mg de SB Eq.
Eles também publicaram esse colapso de como a energia, a água e os recursos foram compartilhados entre diferentes partes do processo:
É um pouco frustrante que “Treinamento e Inferência do Modelo” seja incluído no mesmo número (85,5% das emissões de gases de efeito estufa, 91% do consumo de água, 29% do consumo de materiais) – estou particularmente interessado em entender o detalhamento entre o treinamento e os custos de energia de inferência, uma vez que essa pergunta surge em todas as conversas sobre o uso da energia do modelo.
Eu realmente gostaria de ver esses números apresentados em contexto – o que realmente significa 20,4 ktco₂e? Não sou ambientalmente sofisticado o suficiente para tentar uma estimativa – tentei executá -lo através da O3 (a um custo desconhecido em termos de CO₂ para essa consulta) que estimou ~ 100 voos de Londres a Nova York com 350 passageiros ou cerca de 5.100 famílias americanas por um ano, mas tenho pouca confiança na credibilidade desses números.
