GitHub 热门项目：secret-llama

GitHub 项目：secret-llama 仓库地址：https://github.com/abi/secret-llama 星级：2679 | 作者：阿比 项目描述：完全私密的 LLM 聊天机器人，完全通过浏览器运行，无需服务器。支持 Mistral 和 LLama 3。 =================================================== 自述文件内容： # 秘密骆驼  完全在浏览器中、完全私有的 LLM 聊天机器人，支持 Llama 3、Mistral 和其他开源模型。 - 完全私密 = 任何对话数据都不会离开您的计算机 - 在浏览器中运行=无需服务器且无需安装！ - 离线工作 - 易于使用的界面与 ChatGPT 相当，但适用于开源法学硕士 非常感谢[webllm](https://github.com/mlc-ai/web-llm)提供的推理引擎。 加入我们的 Discord [](https://discord.gg/QkVzykMc9V) https://discord.gg/QkVzykMc9V ## 系统要求 要运行它，您需要一个支持 WebGPU 的现代浏览器。根据 [caniuse](https://caniuse.com/?search=WebGPU)，WebGPU 支持： - 谷歌浏览器 - 微软边缘 它在 Firefox 中也可用，但需要通过 dom.webgpu.enabled 标志手动启用。 MacOS 上的 Safari 还对 WebGPU 提供了实验性支持，可以通过 WebGPU 实验功能启用。 除了 WebGPU 支持之外，各种型号可能还有特定的 RAM 要求。 ## 尝试一下 您可以[在这里尝试](https://secretllama.com)。 要自己编译 React 代码，请下载存储库，然后运行 ```` 纱线 纱线构建和预览 ```` 如果您想要进行更改，请通过实时重新加载运行开发环境： ```` 纱线 纱线开发 ```` ## 支持的型号 |型号|型号尺寸| |----------------------------|------------| | TinyLlama-1.1B-聊天-v0.4-q4f32_1-1k | 600MB | | Llama-3-8B-指令-q4f16_1 ⭐ | 4.3GB| | Φ1.5-q4f16_1-1k | 1.2GB| | Mistral-7B-Instruct-v0.2-q4f16_1 ⭐ | 4GB | ## 寻找贡献者 我们希望为改进界面、支持更多模型、加快初始模型加载时间和修复错误做出贡献。 ## 作者的其他项目 查看 [屏幕截图到代码](https://github.com/abi/screenshot-to-code) 和 [Pico - AI 支持的应用程序构建器](https://picoapps.xyz)