Morph (YC S23) 正在招聘技术人员

最佳候选者将是推理堆栈多个部分的前 1%。致力于 PD 分解研究 Morph 在最快的开放模型背后构建了推理基础设施。我们的堆栈涵盖内核、模型服务、路由、自动缩放和容量。我们正在聘请一名性能工程师，以使整个系统更快、更便宜、更可靠。你将做什么 找到理论硬件性能和生产性能之间的差距 跟踪从 API 层到各个内核的延迟和吞吐量回归 优化批处理、调度、路由、量化和分布式执行 构建使瓶颈变得明显的基准测试和可观察性 验证每项优化都保留了模型质量和正确性 堆栈排序机会并自行发布影响最大的修复程序 如果您优化了复杂的生产系统，那么您可能适合您 了解 GPU 性能、内存带宽、集合和推理服务 精通 Python，并且使用起来很舒服浏览不熟悉的代码库 可以将分析数据转化为清晰的工程决策 关心每秒的代币数、每美元的代币数和正确性 您将直接与创始人合作解决决定前沿规模模型服务效率的问题。小团队、巨大的计算能力、直接的生产影响。