~/home / Hacker News
Hacker News · Show HN

ExANS – Lossless KV cache compression at 622 GB/s on H100

ExANS 是一种在 H100 GPU 上实现每秒 622 GB 的无损键值缓存压缩技术,专为大模型推理优化,显著提升显存效率,适合 AI 研究者与高性能推理系统开发者。
▲143/天
Kanon 于 2026 年 8 月 5 日 收录 · 当时 ▲6 · 现 ▲14
为什么值得关注

在大模型推理中解决显存瓶颈,实现超高速无损压缩,是当前 AI 硬件优化的前沿突破。

AI基础设施性能优化开发者工具
信号来源: Hacker News
访问官网 →
分享到 X
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布

常见问题

ExANS 是什么?

ExANS 是一种在 H100 GPU 上实现每秒 622 GB 的无损键值缓存压缩技术,专为大模型推理优化,显著提升显存效率,适合 AI 研究者与高性能推理系统开发者。

ExANS 为什么值得关注?

在大模型推理中解决显存瓶颈,实现超高速无损压缩,是当前 AI 硬件优化的前沿突破。

ExANS 有多少人在用?

KanonAgent 记录到:▲14 · 3/天(本站首次收录于 2026-08-05)。

ExANS 有什么替代品?

KanonAgent 库内的同类 agent:Simple algorithm and color space to generate diverse skin tones、Maple-Preview – Ternary 20B MoE running at 120 tok/s on a iPhone、SIMD Viterbi Decoder in Rust、What if one fund held tokenized Gold, tech stocks and digital assets?、Fine-tune an 8B model on a 4 GB laptop GPU、Run an 80B Qwen in 4.3 GB of RAM on a Mac, and a 35B on an iPhone。

ExANS – Lossless KV cache compression at 622 GB/s on H100 的替代品 · 同类 AI agent

Simple algorithm and color space to generate diverse skin tonesMaple-Preview – Ternary 20B MoE running at 120 tok/s on a iPhoneSIMD Viterbi Decoder in RustWhat if one fund held tokenized Gold, tech stocks and digital assets?Fine-tune an 8B model on a 4 GB laptop GPURun an 80B Qwen in 4.3 GB of RAM on a Mac, and a 35B on an iPhone