Show HN：我构建了一个在本地运行的 RAG 和知识图代理

Claw-Coder 是一个人工智能代理，可以在您的笔记本电脑上本地运行，并且可以访问强大的工具，而不是配置 claude 或 codex 以使用本地模型，只需使用claw-coder。为什么要创建爪式编码器？答：解决隐私和安全问题。当您使用配置了云模型（如 codex、cursor、Claude 等）的代理时，您不仅获得了代理，而且还放弃了代码库来训练 llm，这有点令人担忧，这会降低对人工智能技术的信任，但现在另一个问题出现在性能上，当您切换到不是为该工作流程设计的本地模型时，您会损失性能、速度，这实际上是一种权衡，因此爪式编码器不仅在您的机器上运行，而且在所有代码上运行，知识图等信息保留在本地，从而解决了隐私问题，但现在性能怎么样。性能：本地 llms 并不是为了做云模型所做的很酷的事情而构建的，因为模型大小甚至无法构建像 8b 模型、13b 甚至 1b 这样的真实应用程序，所以我想出的解决方案是让这些小模型访问工具和功能，使其在编码性能方面真正发挥作用。那么爪式编码器可以访问什么：知识图谱：知识图谱是现实世界实体（例如人、地点、概念或事件）以及它们之间的关系的互连网络。它将信息组织成可读的含义网络而不是静态列表，从而使人类和人工智能都能理解上下文。那么这对人工智能有何帮助，它使人工智能能够分辨代码库中的代码、克隆的未知存储库等之间的关系，这大大提高了本地 llms 在编码任务和推理能力方面的性能。 Rag：我们曾经在某些时候使用过 RAG，但有一个问题是本地 llms 的上下文窗口无法承受大型代码库和存储库，因此 RAG 不是可选的，通过将向量存储在向量存储中，您可以使 AI 真正了解代码的含义以及每个部分对另一部分的作用，从而使您可以将数百万行加载到向量存储中，而无需炸毁上下文窗口。工具：我们已经讨论了提高本地 llm 性能的微小但强大的方法，但是代理要成为代理，它需要采取行动，这就是向本地 llm 公开工具有帮助的地方，所以哪些工具已被实现到爪式编码器中。 1. search_tool 这使得ai代理能够实际搜索最新信息，这样它就不会对它不知道哪些在本地llms中常见的信息产生幻觉。 2. Docker执行这个代理有一个名为workspace的特殊文件夹，它在不破坏你的桌面的情况下完成工作，但这不足以保护你的桌面不被廉价代码破坏，所以这就是docker的用武之地我已经实现了各种语言的docker容器，其中代理可以验证自己的代码，这很强大，因为所有llms不仅是本地的，还生成代码，它们甚至无法确认是否有效，因为它们只是强大的预测器，因此使其能够运行其代码可以令人惊讶地增加生成代码的有用性，因为它现在知道它是否有效即使对于 html 和 css，人工智能代理也被赋予了有用的愿景 llm 来实际解释浏览器中呈现的内容。这就是给 llm 一个 docker 执行工具的惊人力量。我们已经研究了很多爪式编码器的不同之处，使本地 llms 能够真正完成实际工作。但你实际上如何自己尝试一下：Claw-coder 是封闭源代码，因为它正在经历严格的测试，但这并不会破坏透明度，而且由于我们正在测试它并不会阻止人们在真实的代码库上尝试它并提供反馈以开始使用：brew tap gabriel-c70/claw 然后brew install duck-coder 评论 URL：https://news.ycombinator.com/item?id=48248801 积分：6 # 评论：4