📰日经亚洲报道，Penguin Solutions（股票代码 $PENG）将于今年第四季度在日本推出 MemoryAI KV 缓存服务器，为当地 AI 相关公司提供一套成本更低的替代方案，无需额外采购英伟达 GPU 服务器。 🧠通过将大语言模型短期存储数据放置在 GPU 外部进行存放，每 GB 内存对应的使用成本能够降低至新增 GPU 对应成本的七分之一至三分之一。 🇯🇵日本东棉电子与 Tomorrow Net 两家公司，也正在测试搭载 Rebellions NPU 芯片的 AI 推理服务器，该方案主打低功耗特性。

📰日经亚洲报道，Penguin Solutions（股票代码 $PENG）将于今年第四季度在日本推出 MemoryAI KV 缓存服务器，为当地 AI 相关公司提供一套成本更低的替代方案，无需额外采购英伟达 GPU 服务器。 🧠通过将大语言模型短期存储数据放置在 GPU 外部进行存放，每 GB 内存对应的使用成本能够降低至新增 GPU 对应成本的七分之一至三分之一。 🇯🇵日本东棉电子与 Tomorrow Net 两家公司，也正在测试搭载 Rebellions NPU 芯片的 AI 推理服务器，该方案主打低功耗特性。

日经亚洲：日本 AI 企业迎来英伟达服务器平价替代方案 美国人工智能基础设施公司 Penguin Solutions 即将在日本开售专为解决这一"内存墙"问题而设计的服务器。 Penguin Solutions推出的 MemoryAI KV 缓存服务器，专门存储大语言模型使用的一种短期记忆。通过在 GPU 之外保存先前处理过的文本和计算结果，它无需每次都重新计算相同的输入内容。 这不仅能扩大内存容量，还能减少服务器所需的 GPU 数量。该产品计划于今年第四季度在日本上市。 企鹅解决方案日本子公司总裁正田三四郎表示，就每 GB 内存成本而言，MemoryAI KV 缓存服务器"可以将价格降至增加