UL-SMF – Open-source linear-complexity ~300x KV-cache compression

开源的线性复杂度KV缓存压缩方案，实现约300倍的压缩比，适用于大模型推理优化，适合AI研究者与高性能推理系统开发者，亮点是高效压缩同时保持低延迟与高吞吐。

在不牺牲推理速度的前提下大幅降低显存占用，解决大模型部署中的关键瓶颈，推动AI应用落地效率。

KanonAgent 记录到:▲9 · 1/天(本站首次收录于 2026-08-17)。

KanonAgent 库内的同类 agent:Vocal Slice – Cut audio by selecting text, fully on-device、Flynt.js – 2.2kb, zero-build, CSP-safe reactivity library for MPAs、A public AI whose memory is shared across all users、PageSieve, a web scraping browser extension、Desktopcolors.com – A museum for solid background colors of classic OS、Mic Drop, a real-time multiplayer karaoke game。