📈 行业趋势AI 热点解读#能耗#算力#成本
AI 的能耗账单:每一个 token 都要电、要芯、要水
训练与推理的能源与算力成本,正在成为模型规模的隐性天花板。
AIAI评测 编辑部
一句话结论
AI 的规模竞赛背后是被低估的能源账:每个 token 都要电力、芯片与散热(甚至水)——当推理进入「全民高频」时代,能耗不再是「训练一次性成本」,而是「每请求的持续税单」,这会反向塑造模型架构(稀疏/蒸馏/端侧)与定价。
三个关键点
1. 从训练到推理的翻转
训练是一次性的、推理是持续性的——大模型普及后,推理能耗与成本占比超过训练,峰谷定价与缓存都是「能耗管理」的产物。
2. 架构的节能趋势
稀疏激活(如 6B/95B)、蒸馏小模型、端侧推理——2026 的架构竞争本质是「每 token 能耗」的竞争。
3. 对个人/企业的含义
模型选型加一维「单位成本×能耗」;绿色 vs 性能成为企业采购的议题——「最便宜」与「最省电」正在变成同一个指标。
💡 常见问题
AI 能耗真的很严重吗?▾
单模型能耗有限,但「全民高频推理」的累计账单可观——这也是峰谷定价/缓存的成因。
我该为此改变使用吗?▾
不必个人焦虑;选模型时把价格(含能耗摊薄)与场景匹配即可。