在家进行人工智能编码而不会破产

有三种方法可以在家中进行人工智能编码，而无需像公司那样花钱，哪种方法适合主要取决于您对明年硬件和模型发布的信任程度。第一个是自我托管。您购买机器，在本地运行开源模型，之后无需为每个代币支付任何费用。前期成本很高，而且你实际上可以在家里运行的模型比前沿实验室提供的模型要弱，所以只有当你能让装备忙于长期运行的任务时，这才有回报，而较慢、更便宜的模型在一夜之间就被磨掉了。大多数人无法保持一台充满负载的家用机器，而您今天购买的硬件在一年后可能看起来是一个糟糕的选择。第二种是跳过硬件并以 API 价格从提供商处租用相同的开源模型。对于大多数人来说，这是正确的选择。当配置仍在不断变化时，您可以避免在一个 GPU 设置上投入数千美元，您可以跳过从开放模型中榨取长时间运行性能的工作，并且您可以在下个月切换到更便宜或更好的任何设备，而无需转售盒子。像 OpenRouter 这样的东西使得这一举动接近于一行的改变。第三个是最小化来自 OpenAI 和 Anthropic 的前沿订阅。每月大约 400 美元的计划可以按标价购买大约 2800 美元的 API 使用量，这在您达到上限之前都是非常划算的。这些计划是计量的，任何大型人工智能本机工作流程都会快速消化所包含的令牌。它们在您手动驾驶的工作中表现出色，但作为代理整天运行的引擎则显得不足。我所看到的最好的方法是将后两者结合起来。保留一些前沿订阅以进行认真思考和规范编写，并为开源模型支付 API 费率来处理小型机械部件。依靠规格驱动的开发，以便昂贵的模型产生计划，而廉价的模型填充它。如果做得好，您可以构建一个由 20 名工程师组成的团队在一个月内以大约 1000 美元的价格完成的产品。