天价内存把大厂逼成垃圾佬！拆退役服务器抠DDR4用

📋总体概括

快科技9月3日报道，谷歌供应链基础设施高级总监Nikhil Cherian透露，AI行业瓶颈已从算力转向内存，高性能内存约占单台AI服务器物料成本75%。为缓解内存荒，谷歌建立内部回收供应链，设计硬件转接器让退役服务器拆下的DDR4模组接入新一代AI服务器，甚至让本应使用DDR5的新机降级使用回收内存；软件端则通过优化函数库、模型架构和KV Cache压缩降低内存消耗，并推出TPU8t与TPU8i两款自研芯片，其中TPU8i配288GB HBM3e、8.6TB/s带宽及384MB片上SRAM。