power consumption

2 items

ARTICLE↑ trendingHacker News (AI)·4d ago

Meta putting up tents across the US to house AI servers

Meta is constructing temporary tent-like facilities across the US to house its AI servers, a move likened to a scene from "Mad Max." These structures, which take three months to build and use jet engines for power, highlight the company's rapid expansion of AI infrastructure.

power consumption data centers AI infrastructure Meta

ARTICLEDEV.to AI·4/8/2026

99.8% of LLM Inference Power Isn't Spent on Computation

O artigo argumenta que o consumo de energia é o maior gargalo na inferência de LLMs, mais do que largura de banda ou VRAM, devido a limitações físicas. Isso se deve ao colapso da Lei de Dennard por volta de 2006, que impediu a redução automática do consumo de energia com o encolhimento dos transistores.

power consumption Bandwidth AI hardware VRAM