📈 行业趋势AI 热点解读#能耗#算力#成本

AI 的能耗账单:每一个 token 都要电、要芯、要水

训练与推理的能源与算力成本,正在成为模型规模的隐性天花板。

AIAI评测 编辑部

一句话结论

AI 的规模竞赛背后是被低估的能源账:每个 token 都要电力、芯片与散热(甚至水)——当推理进入「全民高频」时代,能耗不再是「训练一次性成本」,而是「每请求的持续税单」,这会反向塑造模型架构(稀疏/蒸馏/端侧)与定价

三个关键点

1. 从训练到推理的翻转

训练是一次性的、推理是持续性的——大模型普及后,推理能耗与成本占比超过训练,峰谷定价与缓存都是「能耗管理」的产物。

2. 架构的节能趋势

稀疏激活(如 6B/95B)、蒸馏小模型、端侧推理——2026 的架构竞争本质是「每 token 能耗」的竞争

3. 对个人/企业的含义

模型选型加一维「单位成本×能耗」;绿色 vs 性能成为企业采购的议题——「最便宜」与「最省电」正在变成同一个指标

分享:🐦 X📣 微博

💡 常见问题

AI 能耗真的很严重吗?

单模型能耗有限,但「全民高频推理」的累计账单可观——这也是峰谷定价/缓存的成因。

我该为此改变使用吗?

不必个人焦虑;选模型时把价格(含能耗摊薄)与场景匹配即可。

📌 更多热点解读