开发者生态
morning
Show HN:Needle2:14MB 代理法学硕士,适用于手机、可穿戴设备、智能家居和机器人
摘要
【HN用户评论摘要】 This is cool. I definitely think the "micro" sized LLM space is underappreciated, so it's always good to see work like this. I foresee a paradigm in some contexts where you have a hierarchy...
the
like
door
that
and
needle
cool
micro
work
this
2026-08-11
1 阅读
约2分钟阅读
HenryNdubuaku
字号:
【HN用户评论摘要】
这很酷。我绝对认为“微型”规模的法学硕士空间没有得到充分重视,所以看到这样的工作总是很好的。我预见到在某些情况下会有一个范式,其中你有一个法学硕士层次结构,更有能力的模型积极训练较小的模型来非常有效地解决特定任务,这样的东西可能是该堆栈中的最小层。话虽如此,网络演示并不是特别令人印象深刻。它真的不喜欢我扔给它的任何东西。我同意接受
网络演示的有趣结果。我很清楚这是一个非常小而且愚蠢的模型,但即便如此:Query: HNResult:{
“函数调用”:[
{
“名称”:“锁门”,
“参数”:{
“门”:“前门”
}
}
],
"reasoning": "用户想要锁门。没有提到具体的门,所以默认使用'前门'。",
“信心”:0
}我希望它至少会忽略(不调用任何工具)它不理解的查询。看起来确实如此
有人可以分享一下这样的开源微型法学硕士是如何创建的吗?创建者是否采用像 DeepSeek 这样的东西,然后删除大部分神经元以缩小大小?
这真的很酷 - 我已经在考虑将“functiongemma-270m-it”压缩到 1-2 位,这样它就可以在浏览器中完美运行。
您的“微调”功能更加方便。
期待 npm 版本的 Needle-RS 支持 v2。我在我的业余项目中添加了对工具使用的针支持。
原始链接:https://cactuscompute.com/needle
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱