StockSeek News
讨论

AI算力瓶颈转向数据搬运能力,HBM等环节成关键

2026-05-16 11:57 3 阅读 0 评论 0 点赞
相关行业: 集成电路 PC、服务器及硬件 云服务(含IDC、CDN)
经过大量思考和研究我最近终于更清楚地理解了CPU 短缺的真正原因
它缺的未必是核心数量也未必只是核心算得有多快而是带宽更准确地说是把数据及时低延迟低功耗地送到正确位置的能力
这件事不只发生在 CPU 上GPU 也是一样今天的 GPU 核心已经非常能算但真正限制它发挥的往往是数据搬运速度数据进不来搬不动同步慢再强的计算核心也只能等待
这也是为什么 HBM 如此紧缺高带宽内存的价值不只是内存更快而是它能把大量数据以极高带宽较低功耗较短物理距离供应给计算核心
如果沿着这个角度看AI 产业链里真正值得关注的是所有能提升数据搬运能力的环节
HBMRDIMM内存通道PCIeCXLNVLinkCoWoS先进封装SerDes交换机光模块光纤
它们本质上都在解决同一个问题
如何把数据更快更稳更低功耗地从一个地方搬到另一个地方
但不是所有搬运组件都会长期短缺越靠近高带宽低延迟低功耗先进封装复杂测试和高良率要求的环节越容易成为真正瓶颈
这也让我意识到过去我对算力的理解可能有偏差
我们习惯把算力理解成核心数量主频FLOPSTOPS但在今天的 AI 和云计算系统里这个理解已经不够了
算力并不只是计算更准确地说现代算力的经济瓶颈越来越表现为数据的搬运同步存储和状态更新能力
计算不是抽象世界里免费的符号操作而是物理世界中的真实状态改变它要占用空间要消耗能量要产生热量也要在存储内存封装互联网络和计算核心之间不断移动
从兰道尔极限的角度看这一点尤其清楚兰道尔极限并不是当前产业瓶颈的直接原因但它提醒我们信息处理最终一定落在物理世界里必然对应能量代价和状态变化
所以今天 AI 产业链最值得问的问题可能不是
哪里还有更多核心
而是
谁能更快更便宜更低功耗地搬运数据
从这个角度回看早期 PoW 体系也很有意思比特币的 SHA-256 更偏纯哈希吞吐而当年的以太坊 Ethash 因为更依赖内存和显存某种程度上更早把算力竞争从单纯计算拉回到了内存容量显存带宽和数据访问能力上
这对今天理解 AI 硬件周期很有启发
现代算力竞争的底层问题正在从谁有更多计算核心转向谁能更高效地完成数据搬运和状态更新

💬 参与讨论 共 0 条回复

💬

暂无回复,来发表第一条回复吧

发表回复

登录 后参与讨论