MoonshotAI推出的高性能CUDA内核，专为Kimi模型优化的Delta Attention计算，提升大模型推理效率，面向高性能AI计算开发者
⭐901216/天
为什么值得关注
访问 GitHub 页面 →
通过底层算子优化显著提升大模型推理速度，解决高并发场景下的性能瓶颈
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布
通过底层算子优化显著提升大模型推理速度，解决高并发场景下的性能瓶颈