GitHub 热门项目：马林鱼

摘要

项目 marlin 是近期热门的开源项目。仓库地址：https://github.com/IST-DASLab/marlin Stars：1174 作者：IST-DASLab 项目描述：FP16xINT4 LLM inference kernel that can achieve near-ideal ~4x speedups up to medium batchsizes of 16-32 t...

marlin IST DASLab 是近期热门的开源项目仓库地址 https github com Stars 1174

2026-11-11 1 阅读约1分钟阅读 GitHub Trending

字号:

项目marlin是近期热门的开源项目。仓库地址：https://github.com/IST-DASLab/marlin 星级：1174 作者：IST-DASLab 项目描述：FP16xINT4 LLM 推理内核，可以在 16-32 个令牌的中等批量大小下实现近乎理想的约 4 倍加速。

分享文章：

这篇文章对您有帮助吗？

订阅66必读

每日精选科技资讯，直达你的邮箱

← 返回开源推荐