Google第八代TPU搭配2PB HBM 成功打破被视为AI瓶颈的内存墙
2026年04月26日 15:15 次阅读 稿源：快科技 条评论
内存价格这一年来涨了3-5倍，已经严重影响了大家对PC和手机的消费意愿，而导致这次内存大涨价的元凶就是AI需求太猛。大家都知道AI对内存（GPU上算显存）的容量及带宽要求都很高，但具体能高到什么程度？Google前几天发布的第八代TPU就是最好的例子。
今年的TPU v8首次针对训练及推理做了区分，V8T偏重AI训练，虽然Google说也可以做推理，但主要还是训练用的，每个Pod节点堆了9600个V8T芯片，FP4性能达到了121EFlops，内存带宽19.2TB/s，芯片内部带宽400GB/s，几乎都是2-4倍的变化。
V8i主要面向AI推理负载，规格上要降不少，每个节点只有1152个V8i芯片，算力降低到了11.6EFlops，内存带宽19.2TB/s没变。
值得注意的是，内存容量这次猛增了不少，V8i也达到331.8TB HBM内存，V8T更是夸张到了2PB HBM内存，每个V8T芯片配备了216GB HBM内存。
Google这次的设计理念是为了打破AI瓶颈的内存墙，2PB HBM不止是总容量超大那么简单，是在一个节点内作为单一全局地址使用，而NVIDIA的GPU此前虽然也能通过NVLink等技术堆出PB级的HBM内存，但连接也绕不过传统的数据中心网络，这会有性能及延迟瓶颈问题。
RobustCloud首席顾问Larry Carvalho表示，打破“内存墙”标志着Google在AI芯片领域的潜在重大竞争转变。
但是对普通人来说，Google这次上2PB HBM内存可不是什么好现象，因为这意味着AI对内存的需求还在涨，要知道HBM内存通常要比常规的DDR内存多消耗2-4倍的DRAM芯片产能，HBM用量越多，挤占的DDR内存产能就越多。
即便需求高涨，三星、SK海力士、美光等公司也会优先保证HBM需求，但他们此前明确了不会大幅提升芯片产能，显然内存芯片的紧缺状态还会更严重，价格是别指望快速降回来了。
对文章打分
Google第八代TPU搭配2PB HBM 成功打破被视为AI瓶颈的内存墙
1 (50%) 1 (50%)- 登录
[退出]
发布
最新资讯
加载中...编辑精选
加载中...热门评论
相关文章
-
Google或正逐步淡化 Fitbit 品牌
- 6 分钟前
-
Google拟以“一键式凭证”取代邮箱验证码 推进原生身份验证机制
- 昨天 06:16
-
谷歌计划向Anthropic投资至多400亿美元 支持后者大幅扩展算力
- 昨天 01:52
-
预算几十块的Google云服务醒来直接倒欠十几万 只因犯了小白错误
- 3 天前
-
Google第八代TPU首度拆分“训练”与“推理”双芯
- 3 天前
Top 10
本周 本月-
1
苹果宣布CEO交接 蒂姆·库克发布致全球苹果用户公开信
阅读 (1933) 评论 (1) -
2
苹果被曝下调 iPhone 18 规格以压缩成本
阅读 (1784) 评论 (0) -
3
第一批学AI的大学生，已经笑不出来了
阅读 (1538) 评论 (0) - 4"最快女护士"退赛引争议：辞职后连夺两冠折现超20万
- 5乒乓球机器人Ace在东京击败顶级选手 创下体育机器人历史第一
- 6中国僧人玩CS2修行走红 电脑价值4万 用RTX4090
- 7果然，最恨AI的人，是大学毕业生
- 8DeepSeek V4又在测试：被指接近Opus 4.5 但不会太便宜
- 9微软：多数 Windows 11 用户已无需第三方杀毒软件
- 10DeepSeek-V4预览版正式上线 提供1M超长上下文记忆全新体验
-
1
《纽约时报》称已确认比特币发明者中本聪的真实身份
阅读 (5800) 评论 (0) -
2
苹果“Apple Intelligence”已在中国区域的用户设备中出现
阅读 (2333) 评论 (1) -
3
《呼啸山庄》亲热戏片段 玛格特·罗比被指"尺度太大"
阅读 (2129) 评论 (0) - 4苹果宣布CEO交接 蒂姆·库克发布致全球苹果用户公开信
- 5iPhone 18 Pro屏幕贴膜谍照曝光 灵动岛开孔明显收窄
- 6苹果被曝下调 iPhone 18 规格以压缩成本
- 7GPT-6预计将于4月14日发布 性能暴增40%
- 8第一批学AI的大学生，已经笑不出来了
- 9《永劫无间》女解说黑衣黑脸反讽舆论 日本网友狂赞
- 10微软无预警封停 WireGuard 与 VeraCrypt 开发者账号