Storage vs Fiber: HBM Capacity Limits Are Physical, Not Just Efficiency
A crypto commentator argues that HBM storage faces fundamental physical capacity limits unlike fiber optics, which can leverage infinite bandwidth through multiplexing. Each additional bit in HBM requires physical wafer space, making scaling inherently costly.
很多人担心存储会和2000年的光纤一样,因为过度基建过剩,最终暴雷。但我觉得,存储和光纤还是有几个物理层面的基本不同: 1)麦克斯韦方程组的“线性”性,决定了一条光路可以多频率复用而互不干涉;因此一条光纤的带宽可以是无限大的 2)即便是用同一个频率,光纤还可以通过调制方法、编码等纯数学办法提高通信效率。 但HBM现在的问题完全不是“效率”,而在容量。一块拥有500GB显存的Rubin GPU,它所需要HBM的晶片数量,就是250GB Blackwell的2倍,这是无法改变的数学事实 此外,显存中每多一个bit,就多需要一份物理空间,也就多浪费一片 wafer。这和存在于虚拟世界的光子不
很多人担心存储会和2000年的光纤一样,因为过度基建过剩,最终暴雷。但我觉得,存储和光纤还是有几个物理层面的基本不同: 1)麦克斯韦方程组的“线性”性,决定了一条光路可以多频率复用而互不干涉;因此一条光纤的带宽可以是无限大的 2)即便是用同一个频率,光纤还可以通过调制方法、编码等纯数学办法提高通信效率。 但HBM现在的问题完全不是“效率”,而在容量。一块拥有500GB显存的Rubin GPU,它所需要HBM的晶片数量,就是250GB Blackwell的2倍,这是无法改变的数学事实 此外,显存中每多一个bit,就多需要一份物理空间,也就多浪费一片 wafer。这和存在于虚拟世界,只要满
很多人担心存储会和2000年的光纤一样,因为过度基建过剩,最终暴雷。但我觉得,存储和光纤还是有几个物理层面的基本不同: 1)麦克斯韦方程组的“线性”性,决定了一条光路可以多频率复用而互不干涉;因此一条光纤的带宽可以是无限大的 2)即便是用同一个频率,光纤还可以通过调制方法、编码等纯数学办法提高通信效率。 但HBM现在的问题完全不是“效率”,而在容量。一块拥有500GB显存的Rubin GPU,它所需要HBM的晶片数量,就是250GB Blackwell的2倍,这是无法改变的数学事实 此外,显存中每多一个bit,就多需要一份物理空间,也就多浪费一片 wafer。这和存在于虚拟世界,只要满
很多人担心存储会和2000年的光纤一样,因为过度基建过剩,最终暴雷。但我觉得,存储和光纤还是有几个物理层面的基本不同: 1)麦克斯韦方程组的“线性”性,决定了一条光路可以多频率复用而互不干涉;因此一条光纤的带宽可以是无限大的 2)即便是用同一个频率,光纤还可以通过调制、编码等纯数学办法提高通信效率。 但HBM现在的问题完全不是“效率”,而在容量。一块拥有500GB显存的Rubin GPU,它所需要HBM的晶片数量,就是250GB Blackwell GPU的2倍,这是无法改变的数学事实 此外,显存中每多一个bit,就多需要一份物理空间,也就多浪费一点wafer。这和存在于虚拟世界,只要
很多人担心存储会和2000年的光纤一样,因为过度基建过剩,最终暴雷。但我觉得,存储和光纤还是有几个物理层面的基本不同: 1)麦克斯韦方程组的“线性”性,决定了光路可以多频复用而互不干涉;因此,一条光纤的带宽从理论上说可以无限大 2)即便是同一个频率附近,光纤还可以使用调制、编码等纯数学办法成倍提高通信效率。 但HBM现在的问题完全不是“效率”,而在容量。一块拥有500GB显存的Rubin GPU,它所需要HBM的晶片数量,就是250GB Blackwell GPU的2倍,这是无法改变的数学事实 此外,显存中每多一个bit,就多需要一份物理空间,也就多浪费一点wafer。这和存在于虚拟世