如何在自己的计算机上运行聊天机器人

毫不夸张地说，为 ChatGPT 和 Gemini 等人工智能机器人提供支持的大型语言模型正在改变世界。我们中的许多人现在依赖它们来编码、写作、总结和搜索网络。无论人工智能在未来几年走向何方，法学硕士都将成为未来的一部分。如果您使用 ChatGPT、Claude、Perplexity 或任何其他人工智能平台，那么您正在使用法学硕士。鲜为人知的是，这些法学硕士可以在您自己的计算机上本地运行。主要好处是离线访问和更大的隐私，因为您不会将任何内容发送到云端供其他人分析或查看。您也无需向任何人工智能公司支付每月订阅费或达到任何使用率。许多法学硕士可供免费下载，其中包括来自 Meta 和 Google 等知名公司的法学硕士。尽管它们往往不像您必须付费的应用程序中的法学硕士那样先进或快速，但它们足以满足日常使用，并且您可以根据需要在它们之间进行选择。这里涉及更多的维护，并且您会失去一些仅加载 ChatGPT 应用程序带来的便利。 （例如，您需要自己处理更新。）但是，您将获得一个更加个性化和私密的人工智能系统，而且上手并不困难。您需要什么才能开始您可以在 Windows、macOS 和 Linux 上运行本地 LLM，尽管 macOS 往往是大多数 AI 爱好者的首选平台。 Mac 上的一切都更加统一和一致——与 Windows PC 不同，只有一家公司制造 Mac 电脑——Apple Silicon 芯片将 CPU、GPU 和 RAM 结合在一起，这是人工智能模型所喜欢的。无论您选择哪种平台，拥有充足的 RAM 都会有所帮助。最低限度是 8 GB，但如果这就是您的全部，那么您可以运行的 LLM 的大小及其运行速度会受到一定限制。十六个演出更好，如果您想使用最大最快的模型，则需要 32 个或更多。为了获得最佳结果，您需要在专用 GPU 上配备足够的 VRAM（任何高于 8 GB 的内存都会产生影响），因为这种类型的内存针对 AI 模型执行的任务类型进行了优化。像 ChatGPT 这样的人工智能聊天机器人依赖于云。摄影：大卫·尼尔德