GitHub 热门项目：USB-Uncensored-LLM

GitHub 项目：USB-Uncensored-LLM 仓库地址：https://github.com/techjarves/USB-Uncensored-LLM 明星：1998 | 作者：techjarves 项目描述：终极零安装、便携式本地人工智能环境。直接从任何 USB 驱动器或 SSD 运行高质量、未经审查的 LLM（Gemma、Qwen、NemoMix）。完全隔离、跨平台 (Win/Mac/Linux)、隐私优先，具有持久的聊天历史记录。 =================================================== 自述文件内容： > [!重要] > **此存储库（`USB-Uncensored-LLM`）已弃用，不再积极维护。** > > 所有活跃的开发、功能和错误修复（包括 Windows 崩溃/访问冲突修复）均已移至： > ### 👉 **[Uncensored-Local-Studio](https://github.com/techjarves/Uncensored-Local-Studio)** > > 请访问新存储库下载最新版本、报告问题并关注项目的开发。 # USB-未经审查-LLM ⚡ **USB-Uncensored-LLM** 是一个完全气隙、零依赖、即插即用的本地 AI 环境，旨在从您的 **本地硬盘** 或 **便携式 USB/SSD** 无缝运行。它绕过了复杂的安装，直接在您的硬件上本机执行大型语言模型，无需互联网。 借助统一的架构，您可以初始化 AI 模型一次，然后选择将它们保留在您的系统上或在 Windows、macOS 和 Linux PC 上随身携带。 🎥 **观看设置和演示视频：** [https://youtu.be/60PSXsoXc8A](https://youtu.be/60PSXsoXc8A) [](https://youtu.be/60PSXsoXc8A) ## 🚀 核心功能 * **零依赖设置：** 附带可移植的 Python 和独立的引擎二进制文件。无需系统权限、注册表编辑或包管理器。 * **跨平台互操作性：** 使用智能“共享”卷系统 - 下载您的 5GB+ AI 模型*一次*，并在 Windows、macOS 和 Linux 上本机使用它们，无需重复。 * **无审查：** 集成尖端的烧蚀和异端微调模型，实现完全未经过滤的交互。 * **网络代理 UI：** 自定义 Python HTTP 服务器可立即提供极快的暗模式 UI。您可以通过同一 WiFi 网络从手机或平板电脑访问 AI，无需复杂的 CORS 配置。 * **硬件加速：** 在引擎盖下使用自定义编译的 Ollama 引擎，在插入不同主机时动态地本机利用 AVX CPU 指令、NVIDIA CUDA 或 Apple Metal GPU 加速器。 --- ## 💻 系统要求 在准备驱动器之前，请确保您拥有： - **存储：** USB 3.0+ 闪存驱动器或 SSD，绝对至少有 **8 GB** 可用空间（**强烈**推荐 16 GB）。 - **RAM：**主机应至少具有 **8 GB 系统内存**来运行 2B/4B 型号，以及 **16 GB 内存**来流畅运行 9B/12B 型号。 --- ## 📂 文件夹架构 该项目的结构严格隔离操作系统可执行文件，同时安全地统一重型模型权重，以节省宝贵的便携式存储容量。 ````文本 [便携式 USB 驱动器] ├── 📁 Android # Native Android (Termux) 安装程序和启动器 ├── 📁 Linux # 原生 Ubuntu/Debian 离线安装程序和启动器 ├── 📁 Mac # 原生 macOS 离线安装程序和启动器 ├── 📁 Windows # 原生 Windows 离线自动 UI 菜单 └── 📁 共享#统一数据系统