#LiteRT

谷歌LiteRT-LM通过Gemma 4多Token预测将本地推理速度提升了最高2.2倍

LiteRT-LM 原生支持Gemma 4的多Token预测（Multi-Token Prediction，MTP）草稿器（drafter） "，可将推理速度提升最高2。该框架已经从Kotlin与C++进行了扩展，新增了对Swift和Jav