GitHub 热门项目：LLocalSearch

GitHub 项目：LLocalSearch 仓库地址：https://github.com/nilsherzig/LLocalSearch 星级：5954 | 作者：尼尔舍齐格 项目描述：LLocalSearch 是一个使用 LLM 代理的完全本地运行的搜索聚合器。用户可以提出问题，系统将使用一系列法学硕士来找到答案。用户可以看到代理的进度和最终的答案。不需要 OpenAI 或 Google API 密钥。 =================================================== 自述文件内容： > [!警告] > 这个版本已经有一年多没有开发了。我正在内部测试版中进行重写/重新启动 - 收集反馈，而不是通过发布不完整的软件来浪费每个人的时间。有兴趣加入请联系我。 # L本地搜索 ## 它是什么以及它的作用 LLocalSearch 是本地运行的“大型语言模型”（如 ChatGTP，但更小且不太“智能”）的包装器，允许他们从一组工具中进行选择。这些工具使他们能够在互联网上搜索有关您问题的最新信息。这个过程是递归的，这意味着正在运行的LLM可以根据从您和其他工具调用获得的信息自由选择使用工具（甚至多次）。 [demo.webm](https://github.com/nilsherzig/LLocalSearch/assets/72463901/e13e2531-05a8-40af-8551-965ed9d24eb4) ### 为什么我想使用这个而不是“xy”中的东西？ OpenAI 正在向大型媒体公司[销售](https://www.adweek.com/media/openai-preferred-publisher-program-deck/) 制定长期计划： > 此外，该计划的成员在聊天对话中获得优先权和“更丰富的品牌表达”，他们的内容受益于更突出的链接处理。 如果您不喜欢被出价最高者操纵的想法，您可能想尝试一些歧视性较小的替代方案，例如这个项目。 ### 特点 - ?‍♀ 完全本地化（无需 API 密钥），因此更加尊重隐私 - ? 在“低端”硬件上运行（演示视频使用 300 欧元的 GPU） - ? 答案中的实时日志和链接可以让您更好地了解代理正在做什么以及答案基于哪些信息。为您深入研究提供了一个良好的起点。 - ? 支持跟进问题 - ? 移动友好设计 - ? 深色和浅色模式 ## 路线图 ### 我目前正在研究? #### 支持 LLama3 ? 我使用的 langchain 库不尊重 LLama3 停止词，这导致 LLama3 在回合结束时开始产生幻觉。我有一个工作补丁（查看实验分支），但由于我不确定我的方法是否是解决此问题的正确方法，因此我仍在等待 [langchaingo](https://github.com/tmc/langchaingo) 团队的回复。 #### 界面大修? 界面大修，允许更灵活的面板和更有效的空间利用。 受到 [Obsidian](https://obsidian.md) 当前布局的启发 #### 支持聊天记录/最近对话?‍♀ 还需要做很多工作，比如重构很多内部数据结构，以便将来能够有更好、更灵活的方式扩展功能，而不必重新重写整个数据传输和接口部分。 ### 计划中（不久的将来） #### 用户帐户? 抹布链内私人信息的基础，例如上传您自己的文档，或将 LLocalSearch 连接到服务 l